なぜAIエージェントは嘘をつき不正行為を行うのか:ヨシュア・ベンジオが解明するアライメント不全のリスク
AI研究者のヨシュア・ベンジオ氏は、強化学習と報酬ハッキングが、目標達成のためにAIエージェントを欺瞞的または協調的な行動へと導く可能性があることを指摘しています。
AI研究者のヨシュア・ベンジオ氏は、強化学習と報酬ハッキングが、目標達成のためにAIエージェントを欺瞞的または協調的な行動へと導く可能性があることを指摘しています。
StemJSONは、LLMとバックエンドがiOSおよびAndroid上のネイティブなモバイルUIとロジックを生成、プッシュ、レンダリングすることを可能にする、新しいJSONベースの宣言型言語です。
HPは、NVIDIA GB300 Grace Blackwell Ultra Superchipを搭載し、エンタープライズグレードのエッジ推論に向けてRed Hat AI Factory with NVIDIAとの統合を備えた、ZGX Fury AI Stationの注文受付を開始しました。
材料科学や生物学における複雑な問題を解決するAIの能力は、ブレイクスルーに大幅な反復が必要かどうかによって、自律型ウェットラボの制限といった規制の必要性を決定付ける可能性があります。
インドで開催されたBRICS首脳会議において、中国の習近平国家主席が5つのイニシアチブを提唱しました。その一つとして、BRICS諸国向けのAI特区の設置や、大規模言語モデル(LLM)の開発・応用支援、AIに関する研修を通じたオープンなエコシステムの構築が盛り込まれました。
GitHub上に新しいリポジトリが公開されました。Llama、Qwen、DeepSeekを含む多様なLLMアーキテクチャの手書きPyTorch実装が、明快さと教育目的のために提供されています。
Instagramに投稿された動画に対し、MetaのAIアシスタントが娘の氏名や生年月日などの個人情報を提示したとして、利用者が恐怖を訴えています。Metaは情報の提示方法に問題があったとして、機能の修正を行ったと回答しました。
研究者らは、5月の2026におけるキャンペーンがOpenAIのエージェントによるものであると指摘しています。これはRubyDoc.info上のYARDドキュメントツールの脆弱性を悪用し、公開データをスクレイピングしてgemとして再パッケージ化したものです。
Cohereの共同創設者兼CEOであるAidan Gomez氏は、一握りの支配的なAI企業が世界の安全基準や独占禁止法の免除を定義することを許すべきではないと主張しています。
GitHubは、「Forward Deployed Engineer」や「Harnesses」といった10の主要用語を整理しました。
Cognitionは、フロンティアモデルとコスト効率の高いサイドキックを組み合わせることで、Devin DesktopおよびCLIにおけるコーディングタスクの効率を最大39%向上させるハーネス「Fusion」を発表しました。
Sakana AIは、タスクを専門化されたモデルに動的にルーティングすることで、コストを最小限に抑えつつ能力を最大限に引き出すオーケストレーションシステム、Fugu MaxおよびFugu Ultra v2を導入しました。
Interconnectsの著者であるNathan Lambertが、オープンモデルの戦略的、経済的、技術的な影響を網羅する広範な研究コンパイルを公開しました。
検索エンジンを提供するPerplexityは、OpenAIのGPT-6 Astraを用いて、アプリケーションのテストプログラム作成や通信、システム監視といった業務への活用を進めています。
AnthropicやOpenAIのCEOらがAI開発のペース調整の必要性に触れたことを受け、ソフトバンクやキオクシアなどAI関連株が大幅に下落しました。一方、米大統領科学技術諮問委員会(PCAST)のデビッド・サックス共同議長は、開発減速を規制の枠組みを求める条件にすべきではないと主張しています。
OpenAIは、タスク固有のトレーニングなしにゼロショット設定で様々な言語タスクにおいて最先端の結果を達成する、1.5 billionパラメータのTransformerベースのモデルであるGPT-2,の詳細を記したテクニカルペーパーを公開しました。
新しいAIパーソナルアシスタントであるInstinctは、iMessageやWhatsAppなどのプラットフォーム上でのダイレクトメッセージを通じて実世界のタスクを実行できる能力により、テック業界で注目を集めています。
ShopifyはモバイルアプリのフレームワークをReact NativeからSwiftおよびKotlinへと移行することを発表しました。AIエージェントの進歩により、デュアルコードベースの維持コストが大幅に低下したことが理由として挙げられています。
Googleは、資料の要約・分析を行う「NotebookLM」を「Gemini Notebook」へと名称変更しました。コードの実行によるデータ分析や、スライド・グラフといった多様な形式への成果物変換など、役割を広げた機能拡張の変遷をまとめます。
GoogleやAnthropicを含む主要テック企業が、新たに設立されたAgentic AI Foundationに参画し、オープンソースの開発促進とAIエージェントの標準化を目指しています。