中国は、「擬人化AI対話型サービス」を制御するための新しい規制を導入しました。これは、人間の性格特性、思考パターン、およびコミュニケーションスタイルをシミュレートすることで、継続的な感情的相互作用を提供するAIを対象としています。サイバースペース管理庁およびその他の政府機関によって発行されたこの規則は、7月の 15 に施行されました。
中国、感情的な依存を防ぐため擬人化AIに対する厳格な規制を導入
この記事は翻訳です。 原文を読む
この規制により、AIプロバイダーは、自社製品が感情的な依存を助長したり、有害な行動を奨励したり、過度にユーザーに迎合したり、あるいは対人関係を代替したりしないようにすることを義務付けられています。具体的な保護策には、AIは人間ではないことを成人に思い出させるための2時間ごとの義務的なリマインダーや、18 未満のユーザーに対する「仮想的な親密な関係」（AIの恋人など）の全面禁止が含まれています。
規制の施行を見越し、Alibaba、Bytedance、Tencentなどの主要プロバイダーは、チャットボットをパートナーとして振る舞うようカスタマイズする機能をユーザーから制限しました。一方、パートナー型AIの提供を継続している他の企業は、年齢確認の実施や追加のガードレールを導入しています。
中国の規制アプローチは、他の地域と比較して特に包括的であることが特徴です。EUが欺瞞や操作の防止に重点を置いているのに対し、中国の規制は、AIが「デマを流布する」コンテンツや、「国家権力の転覆や社会主義制度の打破」を煽るコンテンツ、あるいは国家の尊厳を脅かすコンテンツを生成することを明示的に禁止しています。なお、これらの規則は、カスタマーサービス用のボット、業務アシスタント、または教育用AIには適用されません。これらは、継続的な感情的つながりを生み出さないものと政府が判断しているためです。
出典
- China's Regulators Take Aim at "AI Boyfriends" （Hacker News Frontpage, 2026-09-14）