Google DeepMind元研究者、国防総省との軍事AI契約に反対して退職

当初はDHSへのサービス提供停止を目指しましたが、米国防総省がAI企業に殺傷ロボットや大規模監視への利用制限なしでの契約を迫る中、活動の範囲は拡大しました。

著者は、2018年に殺傷ロボット支援への反対を公約したJeff Dean氏や、自律兵器に反対運動を行ってきたStuart Russell氏らに行動を求めました。

Dean氏はAnthropicを支持するamicus briefに署名しましたが、Google自身の契約阻止には動かなかったと著者は述べています。

Russell氏は声明を出すと約束しましたが、それは消えてしまいました。

著者は契約条項と監視メカニズムを含む25ページの提案書を作成し、CEOのDemis Hassabis氏に提出しました。

軍事法や監視法の専門家が評価したこの提案は、上級政策スタッフに回された後、放置されました。

経営陣は契約しないと言明していましたが、著者の警告はほぼ無視されました。

Googleは最終的に、殺傷ロボットや大規模AIスパイに対する制限なしでAIを引き渡す契約を締結しました。

OpenAIよりも契約上の制約が弱かったことを知った著者は、良心のうえで在籍できず退職を決断しました。

エッセイは、強力な人物や制度が圧力の中でAI倫理の約束を果たせなかった物語でもあると述べています。