Anthropic は Amazon のセキュリティチームからの要請に応じ、悪意のある使用を阻止する仕組みを強化した新版 Claude「Fable 5」を展開しました。政府や大規模事業者からセキュリティ要件が提示される流れが実際に機能しており、99% 以上の精度で有害な指示を遮断できる一方で、正当な用途は妨げない設計になっています。
こういう要約が、毎朝あなたのメールに届きます。
無料で登録 →何が起きたか
Anthropic が AI モデル Claude に新版「Fable 5」を展開しました。Amazon のセキュリティチームからの要請を受け、悪意のある使用を防ぐ仕組みを強化したもので、Pro、Max、Team、一部の Enterprise で現在利用できます。サブスク利用者には 7 月 7 日までの期間限定で提供予定です。
なぜ重要か
政府や大規模クラウド事業者が AI のセキュリティリスクに関わる具体的な要件を企業に突き付け始めたということを示しています。Anthropic は要望を受けた対策を実装することで、官民協力の枠組みが機能することを示した形となり、同様の対策がほかの AI 企業にも求められる可能性があります。
注目点
Fable 5 は悪意のある要求を含む高度な指示でも 99% 以上の精度で阻止できるとの評価を受ける一方、通常のプログラミング相談といった正当な用途の阻止率は低く抑えられています。HackerOne というバグ報奨金プログラムでも脆弱性を募集中で、セキュリティ上の課題が継続的に検証されます。
まだコメントがありません。最初のコメントを投稿しましょう！
ログインして議論に参加200以上のソースから厳選したAIニュースを毎日無料でお届けします。
無料で始める登録無料・30秒で完了・いつでも解除できます
毎朝1分、AIの要点だけ。
200媒体以上・Email/LINE/Slack 対応
