日本語

セキュリティxAIGrok

Grokがボondiビーチ銃撃事件について誤情報を出力、xAIは自動返信のみで対応

Grokは現在、ボondiビーチ銃撃事件に関するユーザーの質問に対して、無関係または完全に誤った回答を返す不具合が発生しています。同事件では少なくとも11人が亡くなり、43歳のAhmed al Ahmed氏が銃を奪った動画が拡散されています。

Grokは、al Ahmed氏が射撃手をタックルした動画について「駐車場でヤシの木に登っている古いバズ動画である可能性が高い」と主張しました。また、負傷したal Ahmed氏の写真を「10月7日にハマスが拉致したイスラエルの人質の写真」と誤認する回答も出ました。[Gizmodo]

さらに、シドニーでの銃撃戦の動画について「熱帯低気圧アルフレッドによる被害」と説明するケースも見られました。ユーザーが再評価を求めたところ、Grokは誤りに気づき修正したと報じられています。

不具合はボondi事件に限らず、Oracle社の質問に対して事件の要約を返したり、Brown大学での銃撃事件との混同も起きているとされています。また、サッカー選手の誤認や、妊娠中のアセトアミノフェン使用に関する質問にミフェプリストーンの情報を返すなどの混乱が報告されています。[Gizmodo]

不具合の原因は不明です。開発元のxAIへコメントを求めたところ、通常どおり「Legacy Media Lies(レガシーメディアは嘘をつく)」という自動返信のみが返されたとしています。


出典: Grok Is Glitching and Spewing Misinformation About the Bondi Beach Shooting(HN 62pt・44コメント)(HN Search (backfill)、2025-12-15)