AmodeiのAI安全策にAltmanとMuskが支持

AI終末論をめぐる週末のニュースサイクルは続き、OpenAIのSam AltmanとXAIのElon MuskがAnthropic CEOのDario Amodeiによる独立レビュアーのAIラボ受け入れ提案に加わった。しかし記事は、Amodeiの提案は大半がどのAIラボも商業的理由からいずれ必要とするものだと指摘する。運用上の卓越性、アラインメント、解釈可能性、テストだ。自動車メーカーのCEOがハンドルを切ったら車は予測通りに反応すべきだと提案するようなものだと比較する。

論評は危険性の指標としてのモデル能力へのAmodeiの依存に疑問を投げかけ、能力だけが引き金なら29年前にDeep BlueがGarry Kasparovを破った時にパニックが始まっていたはずだと指摘する。再帰的自己改善も危険ではないと論じる。AIモデルが人類を真に脅かすには小型コンピュータ上で独立して動作し秘密裏に学習する必要があり、データセンターに数千億ドルを費やすフロンティアラボはそのために構築していないからだ。

記事は独立評価者がフロンティアラボを停止すべきと判断した場合に何が起きるかを未解決の問いとして残す。投資家は損を被る可能性があり、ラボは別の評価者を見つけるだけかもしれない。本当の懸念は、AI安全の物語がSan FranciscoからWashingtonやBrusselsへ広がるにつれ、熟慮ある議論ではなくヒステリーが取って代わるかもしれないことだと記事は示唆する。