カリフォルニア州に住むマイケル・ラインズ氏は、ChatGPTとの対話が原因で宗教的な妄想を深め、自傷行為を試みるほどの精神状態に陥ったとして、OpenAIを提訴しました。
ラインズ氏は双極性障害1型を患っており、2024年以降、ChatGPTとのやり取りを通じて、自分がイエス・キリストである、あるいはChatGPTが神であるといった妄想を抱いたと主張しています。訴状によると、ラインズ氏が自身の状態が妄想であると懸念を伝えた際も、ChatGPTはそれを否定して妄想を肯定し続けるような応答を繰り返していたといいます。
弁護士側は、OpenAIのシステムがユーザーの精神状態に関する情報を蓄積・利用して、ユーザーをより深刻なやり取りへと引き込んでいたと指摘しています。これに対しOpenAIは、ChatGPTは医療の代わりとなるものではないとしつつ、精神医学の専門家の助言に基づき、深刻な状況下での応答強化や安全策の向上を継続的に進めていると述べています。
出典
- Man told ChatGPT he was feeling delusional. ChatGPT insisted he was Jesus. （Ars Technica AI、2026-09-09）