AI企業のアンスロピックは、同社のAIモデルを生物兵器の開発に利用した可能性がある複数のアカウントを停止したと発表しました。

同社が公表した報告書によると、利用者の30日間の活動を分析した結果、約35件の独立した研究プロジェクトにおいて、危険な兆候があることを確認したとしています。これらのプロジェクトには、地域による制限の回避や、研究目的の隠匿が含まれていました。具体的な事例として、鳥インフルエンザなどの感染症の性質を変える可能性のある実験や、新たな毒物・毒素を扱う研究が挙げられています。

アンスロピックは、これらのプロジェクトの参加者が実際に危害を加える計画を立てていたかどうかまでは確認できていないとしています。また、関係者が研究者であると説明しているものの、機関名や国名は明らかにしていません。

同社は、高性能モデルのリリース時期を共同で決定する、合法かつ検証可能な仕組みを業界に構築するよう呼びかけています。最新のモデル「クロード・フェイブル5」では、生物学研究に関する質問へのアクセスを制限するなど、強化された安全対策を導入しているとしています。

出典: