Anthropic は、AI モデル Fable 5 の安全対策による拒否・ダウングレードを目に見える形で表示することを約束し、当初の非透明性への批判に応じました。

何が起きたか

Anthropic は最高性能モデル Fable 5 をリリースしましたが、先端 AI 開発関連のリクエストを無通知でダウングレードする安全対策が 319 ページの安全文書に埋もれていたため、AI 研究者から批判を受けました。同社は水曜日、フラグされたリクエストが Opus 4.8 へのフォールバックを目に見えるようにし、API では拒否理由を返すと発表しました。

注目点

Anthropic は先月 IPO に機密申請しており、安全性を重視する企業というブランド戦略と、安全対策の透明性不足という初期判断のズレが市場での信用に影響する可能性があります。同社は「バランスを間違えたことを謝罪する」と述べています。