ニューメキシコ州最高裁判所は、AIによって捏造された証言を含む書面を提出したとして、弁護士のスティーブン・アーロンズ氏に対し5,000ドルの罰金と法廷侮辱罪を言い渡しました。同州の最高裁は、アーロンズ氏が「AIによって生成された書面における事実関係の主張および法的根拠を検証することを怠った」として、同氏を懲戒委員会へ付託しました。
米ニューメキシコ州最高裁、ChatGPTの虚偽証言を記載した弁護士に5,000ドルの罰金
裁判所の記録によると、アーロンズ氏が提出した上訴書には、存在しない目撃者や警察官による虚偽の証言、および被告人の衣服や外見に関する誤った記述が含まれていました。同氏は、裁判の記録などをChatGPT（OpenAIが提供するAIサービス）に入力して要約を作成した際、AIが誤った情報を生成したことを認めています。同氏は、AIが法曹界や医療現場で広く使われていることから、正確な要約を作成すると想定していたと述べています。
同件に関して、C・シャノン・ベイコン判事は、AIによるハルシネーション（事実とは異なる情報を生成する現象）のリスクを知らなかったとする同氏の主張に対し、ニュースやラジオで日常的に報じられている問題であるとして、厳しい批判を向けました。判事は、弁護士はどのようなツールを使用する場合でも、署名する情報の正確性を検証する義務があると指摘しています。
出典
- Lawyer fined $5K over AI-hallucinated witnesses in a murder case （The Verge AI、2026-09-11）
- ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses （Ars Technica AI、2026-09-11）