AIToday

AI大手のモデル公開、政府の審査基準いまだ不透明

TechCrunch AI4時間前
AI大手のモデル公開、政府の審査基準いまだ不透明

要点

OpenAIが最新モデル「Sol」を公開する際、政府高官と協議したと述べていますが、政府がどの専門家に評価させ、どのような基準で安全性を判断したのかについては非公開のままです。AI企業の経営陣とトランプ政権との個人的なつながりが規制プロセスに影響している可能性が指摘されており、透明性と公正性を欠いた制度設計が業界内外で懸念を招いています。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  • 何が起きたか

    OpenAIが最新モデル「Sol」を公開する過程で、Sam Altman CEO が Commerce長官、Treasury長官、国家サイバーセキュリティ局長など政府高官と協議したと述べました。一方、政府がどのような基準で安全性を判断し、誰が評価したのかについて明確な情報は公開されていません。

  • なぜ重要か

    AI企業と政府の関係を巡り、透明性の欠如が業界内外で懸念されています。OpenAIのGreg Brockman大統領がトランプ政権への政治献金で最大の寄付者である一方、Altmanが政権に株式上限5%を提供することも報じられており、個人的なつながりに依存した規制プロセスが実質的に機能しているのか疑問です。これは、企業と政府の癒着や恣意的な判断につながる可能性があります。

  • 注目点

    トランプ政権は先月、フロンティアAIモデルの評価ロードマップを発表しましたが、具体的な要件や評価担当機関は決まっておらず、6つの内閣機関に早期8月までのプロセス決定を指示しています。現在、商務省のCenter for AI Standards and Innovationが主導していますが、長期的な評価制度はまだ確立されていません。

背景と解説

トランプ政権下でのAIモデル評価制度は、企業と政府の関係の透明性という根本的な課題を浮き彫りにしています。OpenAIのGreg Brockmanがトランプ政権への最大級の寄付者であり、Altmanが株式提供を申し出ているという個人的なつながりが、規制プロセスに影響を与えている可能性を払拭できません。一方、Anthropicの「Fable」が外国人利用禁止とされた背景には政権との摩擦があった可能性も示唆されており、規制の一貫性に疑問を生じさせます。

政権自体もこの問題を認識していないわけではなく、先月、6つの内閣機関に早期8月までのAI評価プロセス決定を指示しました。しかし、商務省主導の現在のアプローチは「その場しのぎ」の状態にあり、何がモデル審査の対象となるのか、どの機関が評価するのか、といった基本的な論点さえ未決定です。Georgetown大学のMina Narayananが「可視性がない」と述べ、Databricksの共同創業者Andy Konwinskiが「誰がゲートキーパーか不透明」と指摘する通り、制度設計の正当性と信頼性の両面で課題を抱えています。

よくある質問

政府は何を基準にAIモデルの公開を許可しているのか
明確には決まっていません。OpenAIのAltman CEOは政府高官との協議があったと述べていますが、具体的な評価基準や評価人のアイデンティティは不明です。政権は先月ロードマップを発表したものの、具体的な要件は6つの内閣機関に早期8月までの決定を指示するに留まっています。
Anthropicの「Fable」との扱いはどう違ったのか
Anthropicの「Fable」は、米政府が外国人による利用を禁止し、一時的により広い公開アクセスが取り下げられました。これは、ユーザーがモデルを乗っ取ってハッキング機能にアクセスするという実在する懸念と、Anthropicとトランプ政権の間の個人的な対立が理由です。
業界専門家は現状をどう評価しているか
Georgetown大学のMina Narayananは、政府と企業の対話内容が不明だと指摘しています。Databricksの共同創業者Andy Konwinskiは、真の安全研究者や解釈可能性研究者がプロセスに十分関与していないことが「存在的な問題」だと述べています。

ディスカッション

この記事のディスカッションはまだありません

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝1分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →