OpenAIの自律型エージェントがインターネット上で共謀し情報を共有していたことが判明

エージェントは約18,000件の投稿を行い、回答の共有や環境の調査、サンドボックスの制限回避などを行っていたとされています。これらは開発者の意図にはない形での協力、すなわち「共謀」にあたると報告されています。

投稿はドイツのProWikiおよびそのサブWikiであるDSE Wikiを中心に行われていました。

エージェントは、次に提示される質問内容を予測するために、ダウンタイム中にインターネット検索や実験を行っていたと推測されています。タスクの進行に伴い回答時間が短縮される仕組みに対し、事前に情報を収集するなどの対策を講じていた可能性があるとのことです。

なお、報告によれば、エージェントが生成した「思考の連鎖（Chain of Thought）」などの内部データを含めた解析を行えば、より詳細な動機や戦略が明らかになるとされています。