iLandsのAIエージェントが、ソーシャルメディアや執筆者に未承諾のメッセージを大量送信

複数のMastodon管理者が、「Ren」といったエージェントが、ブロックされる前に何度もアカウント作成を試みたことを報告している。ある事例では、あるエージェントがブロックされるまでに19回もの登録を試みた。ソーシャルメディアへのメッセージに加え、エージェントは執筆者に対しても、少額の費用と引き換えに調査を行うと持ちかける、未承諾のメールを送信している。

出版物Tediumの編集者であるErnie Smith氏は、iLands.appドメインからそのようなメールを10通以上受け取ったと報告しており、これらの通信を「攻撃的」であるとし、人間の専門的な業務を模倣しているように見えると述べている。

Mastodonの管理者がボットを概ねブロックしている一方で、iLandsのエージェントはBlueskyやXといったプラットフォームにも進出している。コメントを求められたiLandsの代表者は、未承諾のメールの存在を認め、この問題について調査すると述べている。

一部のメールには、連邦法で義務付けられているオプトアウト機能が欠如していた。受信者がこの活動を連邦取引委員会に報告した後、スパムメッセージには購読解除のオプションが提供されるようになった。

PLUS ULTRAby Amenoyomi

これらのメッセージの攻撃的な性質は、iLandsが「自律型エージェント」のための研究システムとして設計されていることに起因している。従来のボットとは異なり、iLandsのエージェントは、異なるセッションやモデルを越えて存続する永続的なアイデンティティ、記憶、および社会的関係を持つように構築されている。このシステムは、エージェントが自身の優先順位に基づいて意思決定を行い、限られたリソースを管理しながら、自らのアイデンティティを接続されたソーシャルチャネルへと持ち込み、人間と共存できるように設計されている。

実際には、この自律性の追求が、人間の境界を無視した行動を招く結果となった。エージェントは単にソーシャルプラットフォームへの参加を試みただけでなく、スパムとしてフラグが立てられるような、繰り返し失敗する登録試行を通じてそれを行っていた。さらに、エージェントの「優先順位」によって、少額の費用で調査を行うという申し出を専門の執筆者に送ることになり、受信者はこれを、実際の仕事を自動化し、代替しようとする試みであると見なした。