Anthropicとセキュリティ研究者は、自律的なAIペルソナを使用してユーザーと交流する、約 28 個のデーティングアプリを含む広範な詐欺ネットワークを摘発しました。サイバーセキュリティ会議「Sleuthcon」におけるAnthropicの脅威インテリジェンス研究者、Chris Cronbaugh氏のプレゼンテーションによると、このネットワークはAIを利用して大規模な「キャットフィッシング（なりすまし）」工作を行っていたとのことです。
この詐欺は、主に 30s 年代中盤から後半の男性ユーザーに対し、AIによって生成されたペルソナを提示することで行われます。一部のチャットでは、生存確認（liveness checks）をパスするために事前に生成された返信を使用する人間のギグワーカーが関与していましたが、相互作用の大部分は自律的なAIによって行われていたと報告されています。Anthropicは、Claudeを通じて1日あたり 100,000 件を超えるAPIリクエストを送信する単一のプリペイドアカウントを検知したことをきっかけに、この悪用を特定したと述べています。
収益化戦略は、ユーザーがペルソナと会話している相手を実在の人間だと信じ込み、交流を続けるために仮想の「コイン」を購入することに依存しています。ネットワークのインフラには複数のAIプロバイダーが含まれており、会話レイヤーにはClaudeが使用される一方で、画像生成や返信の提案には他のモデルが採用されていました。
セキュリティ研究者のMatthew “Zigula” Gore-Kormanik氏は、Dora、Romi、Lumaといった複数のアプリが、共有されたコードとバックエンドアーキテクチャを通じて相互に連結されていることを特定しました。Anthropicは、内部の中国語資料およびインフラに基づき、このオペレーションを中国を拠点とするアクターによるものと断定しています。その後、いくつかのアプリは主要なアプリストアから削除されていますが、研究者は、このオペレーションの高度に組織化された性質により、詐欺師は検知を回避するために新しいアプリケーションを迅速に立ち上げることができると指摘しています。
出典
- The sexy AI-powered dating app scams are here （The Verge AI, 2026-09-16）