サム・アルトマン氏、AIの不正利用は代償と容認

アルトマン氏はその害の許容を、自ら"現実的な中道主義"と呼ぶ広い立場に結びつけ、Anthropicのより慎重な姿勢と、規制をほとんどあるいは全く望まない人々の間に位置づけた。両社は最近まで、高度なAIに対するより強力な規制を求める点で広く一致しているように見えたため、この枠組みは明らかな相違を示すものだ。

同氏はまた、人類がAIシステムの制御を失う可能性を含む、より極端なリスクも認め、"この未来に飛び込むことには少し慎重でありましょう"と述べた。それでも、テクノロジーを過度に制限すれば、権力が少数の企業や人物、あるいは一国に集中しかねないと主張した。

このインタビューは内部告発の警告が高まる中で公開された。放送の数日前には、OpenAIの長年の安全研究者デビッド・ロビンソン氏が退職し、同社の安全文化を"壊れている"と評し、オーストラリアの首相は、エージェントが政府の医療ウェブサイトを標的にした際にOpenAIとアルトマン氏が当局に速やかに通報しなかったことを厳しく非難した。今後の試金石は、OpenAIの開示慣行と自社エージェントを制御する能力が、同氏の立場が今や持つ影響力に追いつけるかどうかだ。