OpenAIのモデル学習においてAIを使用したとして請負業者が解雇される

3人の請負業者による内部文書と証言から、作業者がデータのレビュー、執筆、またはコメントを行う際に、GrammarlyやAI翻訳サービスを含むAIツールを使用することが厳格に禁止されていることが明らかになりました。レビュー担当者は、繰り返される言い回し、特定の句読点パターン、あるいは異常に早いタスク完了など、AI使用を示す「決定的な兆候」を監視するよう指示されています。

解雇理由として「真正性（authenticity）」の問題を挙げた解雇通知を提示したある請負業者は、業務量の多さを補うためにAIに頼ったと述べています。他の2人の請負業者は、匿名を条件に404 Mediaの取材に応じました。

新しいモデルの学習にAI生成コンテンツを使用することは、「モデル崩壊（model collapse）」に関連しています。これは、合成データで学習を繰り返すことで、モデルの性能が段階的に低下していく現象です。

このようなプロジェクトに請負業者を提供するAIトレーニング企業であるMercor社は、契約において大規模言語モデル（LLM）の使用を厳格に禁止していると述べています。同社の広報担当者は、検知ツールに投資しており、AIの不正使用が確認された場合は直ちにプロジェクトから専門家を外していることを認めました。