The Informationの報道によると、OpenAIはMac miniやMac Studioの在庫を買い占めるほど大量に導入しており、AnthropicもAmazonのクラウド経由でMac miniを大量にレンタルしているといいます。

これらのマシンは、ディスプレイなどの周辺機器を介さず、サーバーラックに設置されてAIエージェントの訓練に利用されています。具体的には、コンピューターの自律的な操作やメールの整理、コードのテストといったタスクの実行に用いられています。

こうした用途には、Apple Siliconの設計上の特徴が活かされています。Apple SiliconはCPU、GPU、Neural Engineが単一のメモリプールを共有する設計となっており、無数の短い推論を繰り返す強化学習の工程において、ビデオメモリとシステムメモリの間でデータをやり取りする必要があるNvidiaのGPU構成よりも効率的になる場合があるためです。

なお、両社はMacをクラスタ化してメモリを合算することで、巨大なモデルの実行に対応しているとされています。

出典: