米控訴裁判所、トランプ政権によるAnthropicのブラックリスト入りを容認、利用制限ポリシーを理由に

この紛争は、Claudeの特定の用途、具体的には致死的な自律型戦争や大量の国内監視に関する使用を契約上の禁止事項として維持するというAnthropic社の決定に端を発しています。Anthropic社は、これらの制限はAIの安全性を確保し、悪用を防止するという同社の使命の核心であると主張しました。しかし、裁判所は、同社を制限するという国防総省の決定が、同法の第4713条に基づく「サプライチェーン・リスク」に該当すると判断しました。

多数意見では、Anthropic社のモデルトレーニングが、同社がこれらの制限を強制することを実質的に可能にしており、それが重要な軍事作戦中にClaudeが意図した通りに動作するかどうかについて、政府側に不確実性を生じさせていると指摘されました。裁判所は、これらの保護策のためにClaudeが要求されたタスクを遂行できない可能性があるという政府の懸念は、指定の合理的な根拠であるとの判断を下しました。

判決は2-1,に分かれ、カレン・ヘンダーソン判事が反対意見を述べました。ヘンダーソン判事は、法規における「操作する（manipulate）」という用語は、「破壊工作（sabotage）」や「悪意を持って導入する（maliciously introduce）」といった用語と同様に、悪意または転覆の意図を必要とするものとして解釈されるべきであると主張しました。彼女は、政権の措置は実際のセキュリティ脅威に対処するものではなく、同社の政策的スタンスに対して同社を罰しようとする試みであると論じました。

Anthropic社は、この決定を最高裁判所に上訴するか、控訴裁判所の全判事による再審理（en banc review）を求める可能性があることを示唆しています。

PLUS ULTRAby Amenoyomi

この決定の法的根拠は、41 U.S.C. § 4713に基づく「サプライチェーン・リスク」の具体的な定義にあります。他のいくつかの調達法とは異なり、この法律は、行為者が外国の敵対国であることや悪意を持っていることを要件としていません。その代わりに、リスクを、「いかなる者」も製品の設計または運用を「操作」して、その機能を「拒絶（deny）」する可能性があることと定義しています。

本件において、裁判所は、AIが致死的な自律型戦争や大量監視に使用されるのを防ぐために同社が実施しているセーフティ・ガードレールを、一種の「拒絶」であると解釈しました。政府の観点からは、これらの制限は容認できない不確実性を生じさせていました。すなわち、たとえそのタスクが合法であり、契約で許可されているものであっても、重要な軍事作戦中にAIが予期せずシャットダウンしたり、タスクの遂行を拒否したりするリスクです。