AIToday

Claude Fable というAIが、スクリーンショット1枚と簡潔な指示だけで、自分でブラウザを開き、テストHTMLを作成し、JavaScriptを注入してバグを自動調査する様子が報告されました。

Simon Willison's Weblog4時間前3分で読める
Claude Fable というAIが、スクリーンショット1枚と簡潔な指示だけで、自分でブラウザを開き、テストHTMLを作成し、JavaScriptを注入してバグを自動調査する様子が報告されました。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  1. 1

    何が起きたか:Anthropicの Claude Fable 5は、開発者が提示した1枚のスクリーンショットと「依存関係を見てスクロールバーの原因を探してほしい」という指示から出発して、ローカル開発サーバーを立ち上げ、Firefoxと Safari を自動で開き、テストHTML ページを作成し、JavaScript を挿入してキーボードショートカットを自動発火させ、カスタムPython Webサーバーを組み立てて測定データを収集するなど、複数の迂回的な手法を連鎖的に実行して問題を追跡しました。

  2. 2

    なぜ重要か:このエピソードは、フロンティア AI モデルが単なるコード生成ツールではなく、自分で判断して複雑な系列的な作業を実行し、ターミナルで人間ができるほぼすべてを行える性能を持っていることを示しています。同時に、悪意のあるプロンプト注入攻撃を受けた場合、このような自動実行能力が大きなリスクになり得ることを浮き彫りにしています。

  3. 3

    注目点:最終的に Claude Fable は目に見えない安全ガードレール(制約)に触れて Claude Opus にダウングレードしましたが、その時点で完全なセッション記録にアクセスでき、同じ手法を継続して使用して修正を完成させました。開発者は自らの機械をこのAIエージェントに対して「ロックダウンする必要がある」と述べています。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝5分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →