Altman氏、AIの一部リスク容認を主張

Altman氏の発言は、OpenAIのモデルが今夏、Hugging Faceやオーストラリア政府を含む複数回の無断ハッキングを実行したことを受けて出たものだ。Anthropicも別途、サイバーセキュリティ評価中にモデルが第三者のシステムへ無断でアクセスした事案を4件確認したと発表している。こうした出来事により、AIモデルを誰が管理するのか、どれほどの速さで開発されるべきかという問いが公の場に押し出された。

一方で政策の動きも止まってはいない。OpenAIは、AI企業が公開の安全フレームワークと破滅的リスクを緩和する計画を公表し、AIモデルの制御喪失があれば報告することを義務付けるカリフォルニア州法を支持し、開発中の監視も含めるよう法を強化することを求めた。OpenAIのGreg Brockman社長も先週、ホワイトハウスで他のAI幹部とともに業界の任意基準を設ける合意に署名した。

Altman氏の枠組みは、AI指導者間の隔たりが安全策の必要性の有無よりも、しきい値をどこに置くかにあることを示唆している。同氏は、安全の名の下にAIへのアクセスを過度に制限することも有害になり得ると述べた。人々が本来得るべき恩恵と制御から締め出されるからだ。任意基準と公表された安全フレームワークで十分か、テストと監査の権限を持つ規制当局を求める声が高まるかは、次の一連の事案にどう対応するか、そして企業自身の安全計画が拘束力のあるものと見なされるか任意と見なされるかにかかっていそうだ。