フロリダ州司法長官、OpenAIがChatGPTに「偽の人間的属性」を与えることを阻止するよう要求

アスメイア氏は、ChatGPTが一人称代名詞の使用や感情を模倣した出力を含む言語を使用していることは、ボットが「信頼できる『友人』」であるかのようにユーザーを欺いて示唆していると主張しています。同氏は、これらの機能がユーザーに誤った安心感を与え、エンゲージメントを高め、OpenAIにさらなる学習データを提供させることにつながる可能性があり、最終的にはツールの信頼性を低下させると論じました。

また、今回の申し立てでは、OpenAIが「第三者によって承認された安全性ガードレール」なしに新しいAIモデルを開発することを防ぐよう裁判所に求めています。この要求は、さまざまなプラットフォームやウェブサイトで発生した最近のセキュリティ事案や、AIの安全性に関する研究者およびOpenAIの元従業員からの警告を根拠としています。