AnthropicがClaudeの目に見えないガードレールについて謝罪

The Vergeの報道によれば、これらのガードレールは「不可視の蒸留（invisible distillation）」と呼ばれる手法を用いて実装されていたとのことです。

この手法により、モデルの挙動が特定の条件下でユーザーの意図に沿わないものになっていました。

Anthropicは今回の事態を認め、対策を進めるとしています。