日本語

PLUS ULTRAby Amenoyomi

セキュリティSynthID-Textアンドレア・シポソヴァ

AIテキスト・ウォーターマーキングは、アドバーサリアル・プロンプトに対する脆弱性を高める可能性があることが研究で判明

SynthID-Textのようなウォーターマーキング技術の実装が、AIモデルの有害な要求に対する応答方法に影響を与える可能性があることが、新しい研究によって示唆されました。特にプロンプト・インジェクションとの組み合わせや、モデルがエージェントとして機能する場合にその影響が顕著になります。

セキュリティビラル・チュグタイGoogle DeepMind

Google DeepMindの研究者が退職、AIが人類を滅ぼすリスクに警告

Google DeepMindでAGI(汎用人工知能)の安全性とAIアライメントの研究に従事してきたビラル・チュグタイ氏が退職を表明しました。チュグタイ氏は、AIの進化が人間の能力を凌駕する超知能への到達速度に比べ、その制御方法(アライメント)に関する理解が追いついていない現状を危惧しています。

料金・制限OpenAICodex

OpenAIのCodex利用における不安定さは、成長と計算コストの間の構造的な葛藤を反映している

OpenAIは9月25日の障害を受けて利用制限のリセットを発表したが、繰り返される制限の変動と価格体系の変化は、スケールアップに向けた深刻な苦闘を浮き彫りにしている。同社は、積極的なティア分けと議論を呼ぶ制限モデルを通じて、爆発的なユーザー増加と計算コストのバランスを取ろうとしている。

モデル発表Union Alpha

正体不明AI「Union Alpha」が1週間無料 Fable 5.1やAstra級を主張

匿名の提供者によるAIモデル「Union Alpha」がOpenCodeなどで期間限定無料に。約26万トークンの文脈長、画像入力に対応し、エージェント型ワークフロー向けに構築されたとされる。Terminal-Bench 4.0でFable 5.1やAstraに近い性能をうたう一方、初期ユーザーからは速度と安定性をめぐる報告が割れている。