公共 - PUBLIC -

AIが生成した「架空の判例」を使用した弁護士に1万5,000ドルの制裁金ーー「AIの使用には“実際の知性”が必要」米インディアナ州連邦地裁

2025年2月21日、米国インディアナ州南部地区連邦地方裁判所は、退職金を巡る訴訟において実在しない判例を引用したとして、HooserVac LLCの代理人であるラファエル・ラミレス弁護士に対し、連邦民事訴訟規則11条違反に基づく1万5,000ドルの制裁金を科すよう[勧告]{target=“_blank”}した。問題となったのは、2024年10月から12月にかけて提出された3つの準備書面で、すべて生成AIによって作成された文書に虚偽の判例が含まれていたという。 ## AIが生んだ「存在しない判例」の波紋 ラミレス弁護士は、被告HooserVac LLCの代理人として、裁判地変更請求が却下された決定に異議を唱える文書を提出。その中で「In re Cook County Treasurer, 773 F.3d 834 (7th Cir. 2014)」という判例を引用したが、裁判所がこの判例の存在を確認できなかったため、訂正を命じられた。これに対し、ラミレス氏は誤りを認め、引用を撤回して謝罪した。しかし、裁判所による他の提出文書の確認の結果、さらに2件の実在しない判例の使用が判明した。 ## 裁判所の判断：「AIの使用には“実際の知性”が必要だ」 2025年1月3日に開かれた出廷命令審問において、ラミレス弁護士は、書面作成にあたり生成AIを使用していたことを認めた。過去にも契約書作成などでAIを使用していたが、「AIが存在しない判例をもっともらしく生成することは知らなかった」と説明。AIが示した判例の内容は一見信頼できるように見えたため、さらなる確認を行わなかったという​。 裁判所はこれを「合理的な調査義務の重大な怠慢」と認定。引用された判例が実在するか否かの確認は、弁護士にとって最も基本的な義務のひとつであり、生成AIの出力を盲目的に信用することは許されないと断じた。さらに、「AIを用いることは問題ではないが、その使用には倫理的・専門的な責任を伴う」と警告し、「AIの利用には“実際の知性（actual intelligence）”が必要だ」との見解を示した。 ## 弁護士倫理違反として懲戒処分の可能性も 今回の裁判所の報告書では、インディアナ州の弁護士倫理規則にも言及されており、少なくとも3つの規則（能力義務、公正な主張義務、裁判所への誠実義務）への違反が認定されている。これにより、同地裁の首席判事への報告と、インディアナ州弁護士懲戒委員会への調査依頼が勧告されている。 ## 背景にある“生成AI”のリスク管理問題 生成AIが法曹界にも浸透しつつあるなかで、今回の事例はそのリスク管理の重要性を示すものとなった。ラミレス氏はAIツールの名称を明らかにしていないが、AIが“もっともらしい虚偽”を提示する「ハルシネーション（幻覚）」現象はよく知られており、専門職におけるAI利用に対しては厳格な検証が求められる。2023年にはニューヨークでも同様の事例で弁護士が5,000ドルの制裁を受けており、連邦裁判所での先例が蓄積されつつある。 ラミレス弁護士は現在、生成AIに関する継続的な教育課程を受講しており、今後は「幻影判例」を生み出さないとされるAI製品のみを使用していると述べている。 :::box [関連記事：経済産業省、生成AI活用時の契約チェックリストを公開 – 法的リスク軽減へ] ::: :::box [関連記事：経済産業省 & 総務省、AI事業者向けガイドラインを公表 ― 安全性、透明性、公平性ほか10の指針] :::