Appleの研究者、オンライン擬似ラベルを用いた半教師あり連合ASRの安定化手法を提案

提案された技術は、「ティーチャー（teacher）」と「アンカー（anchor）」という2つの主要な設計軸に焦点を当てています。「ティーチャー」とは、ラベルなしデータに予測された正解を出力として付与する、擬似ラベルを生成するモデルを指します。研究によると、クライアント自身のモデルと共に進化するクライアントごとのオンラインティーチャーを使用することで、特にインドメイン（同一ドメイン内）およびドメインシフトが発生する状況において、ブロードキャスト型のグローバルティーチャーと同等、あるいはそれを上回る性能を発揮できることが示されています。「アンカー」とは、ラベル付きシードデータに対するサーバー側でのアップデートを指します。研究者らは、オンラインティーチャーのドリフト（乖離）を防ぐためには、サーバー側でのラベル付きデータを用いた継続的なトレーニングが不可欠であることを発見しました。