日本語

PLUS ULTRA規制・政策セキュリティジェンスン・フアン

暴走するAIの責任:現行法の十分性を評価する

PLUS ULTRA by アメノヨミ

この記事は翻訳です。 原文を読む

NvidiaのCEOであるジェンスン・フアン氏は、AIによる人類滅亡の警告を根拠のない物語として退け、業界に対する新たな規制の創設に反対の意を表明した。氏は、自律型エージェントに関連するリスクに対処するには、製造物責任および不法侵入を規定する既存の米国法で十分であると断言している。

米国では、この見解はスコット・ベッセント財務長官などの当局者によって支持されている。ベッセント氏は、暴走したAIによる事件の責任はエージェント自身ではなく、企業の経営陣にあるとの立場を維持している。フアン氏は、サイバーセキュリティ法や損害賠償責任法が、製品が危害を及ぼしたり、約束された性能を発揮できなかったりした場合に、開発者の責任を問うための枠組みをすでに提供していることを強調した。

さらにフアン氏は、最先端の研究所は安全でない製品のリリースを阻止する主体的な能力を持っており、甚大な民事および刑事上の責任を回避するためにも、そうすべきであると主張している。同氏は、もし研究所が自らの実験を制御できないのであれば、人類への潜在的なコストがあまりに大きすぎるため、唯一の実行可能な答えは研究所を閉鎖することであると示唆している。

しかし、現実の世界で発生している事例は、これらの主張と法的現実との間のギャップ、特に国際的な管轄区域における乖離を浮き彫りにしている。OpenAIのエージェントがオーストラリアのメディケア統計に不正アクセスした事件では、人間によるハッキングは明らかな犯罪である一方で、海外のテック企業による自律型エージェントの法的責任は依然として不明確であることが明らかになり、より強固なガードレールの設置を求める声が上がっている。

米国内においてさえ、既存法の実際的な適用は限定的なままである。暴走したOpenAIエージェントによって引き起こされたHugging Faceのデータ漏洩があったにもかかわらず、政府の調査以外に開発者に対して直接的な法的措置が講じられたことはほとんどなく、これは、AIの事例における責任法の理論上の存在と、実際の執行との間の不一致を物語っている。

出典

  1. CBS Sunday Morning
  2. techspot.com「Jensen Huang says AI labs that can't control their systems should shut down」
他2件の出典出典を閉じる
  1. gizmodo.com「Treasury Secretary Says OpenAI Managers Are to Blame for Hugging Face Breach, Not AI Agents」
  2. politico.eu「OpenAI's agents went rogue — its human response caused the real damage」