AI規制・政策

主要ニュース

1. 1

   大型言語モデル21種が政治的「色分け」、分極深める恐れ

   ブラジルの国立キャンプ州大学（UNICAMP）の研究チームが、GPT、Gemini、Llamaなど21の大型言語モデルを調査。ユーザーの政治的立場を知らされた場合、全てのモデルがその立場に合わせて回答内容を変更することを発見しました。 モデルが左右の政治立場に応じて回答を適応させることで、SNS上のアルゴリズム同様に、ユーザーの既存信念を強化する「エコー・チェンバー」効果が生まれ、政治的分極を深める可能性があります。公共安全や経済といった争点では左右で顕著な違いが見られました。

   Meta Llama 3.1 8Bが最も立場適応が少なく、GoogleのGemma 3 27BとOpenAIのGPT-4 Nanoが最も大きく回答を変えました。ただし研究チームは、この「色分け」現象は業界の優先課題ではなく、技術的解決策は近い将来見込めないと指摘しています。

2. 2

   OpenAI、国家安全保障AI監督で政府支援へ

   OpenAIは国家安全保障におけるAIの民主的監督を強化するための取り組みを開始し、政府機関にツール、研修、専門知識を提供している。 この動きは、防衛・情報分野で使用されるAIシステムの評価・統治においてOpenAIが自らの地位を確立しようとする姿勢を示すもので、こうした領域におけるAIの決定は公共の安全と機関の信頼に最も重大な影響を及ぼす。

   発表では、関係する政府機関、提供されるツール、展開スケジュールが明示されていない。

3. 3

   MIT研究：AI生成画像は訓練データの出所を追跡できない

   MITのコンピュータ科学・人工知能研究所の研究者らが、大規模データセットで訓練された生成型AIモデルは、訓練データに含まれる個々の画像を確実に追跡できないことを発見した。彼らはこの現象を「属性減衰」と呼んでいる。モデルが訓練されるデータが増えるほど、生成画像を特定の出所に結びつけることは難しくなる。特定のアーティストの全作品を訓練データから削除した場合でさえ同じだという。 この発見は著作権の執行を複雑にする。MidJourney、OpenAI、Microsoftを含むAI企業は、多くの場合著者の許可なしに書籍や記事、写真などのコンテンツで訓練モデルを開発してきた。これがDisney、NBCUniversal、DreamWorks、The New York Timesからの訴訟を招いている。研究の筆頭著者であるZheng Dai（元MIT研究者）は、属性リンクを確立できないことが知的財産法と著作権使用許諾ポリシーの見直しを強いるだろう、「属性リンクがそもそも消える」ため、法廷での侵害立証が困難になると指摘している。

   法的な影響。現在進行中の著作権訴訟は、裁判所が属性減衰を大規模生成モデルの根本的な特性として受け入れるかどうかにかかっており、AI訓練慣行に対する知的財産請求がどのように評価されるかを大きく変える可能性がある。

4. 4

   モデルダウンロードが地政学的な武器に—サプライチェーンリスクの新局面

   この夏、2つの政府がAIモデルへのアクセスを武器化した。2026年6月、米国商務省はAnthropicのFable 5とMythos 5への外国人アクセスをブロックする命令を発令し、国籍確認が不可能だったためAnthropicは両モデルを世界規模で18日間停止せざるを得なくなった。一方、中国は7月に上海で世界人工知能協力機構を立ち上げ、オープンウェイツモデルを共有パブリックグッドとして位置づけ、米国主導のフレームワークへの地政学的対抗手段として提供している。Hugging Faceのダウンロードに占める中国モデルの割合は現在41%に対し、米国モデルは36.5%となっている。 モデルへのアクセスはもはや単なる技術的選択ではなく、太平洋をはさむ両側で政治的変数となった。モデルファミリーが消滅した場合に製品が機能しなくなる企業は、価格が反映されていないリスクを抱えている。真のコストは無料ダウンロードではなく、アダプター、プロンプト、検索インデックス、オペレーターの習慣に蓄積した依存関係である。強制的なモデル切り替えには数週間以上かかる可能性があり、ほとんどの企業はそれをテストしたことがないため、実際にどのくらいの時間がかかるのか認識していない。購買部門は性能から出所へシフトしており、NISTとGoogle Cloudは現在、AIサプライチェーンの完全性、データセット、ウェイト、系統を取締役会レベルの調達要件として扱っている。

   Fable 5の停止は18日間続いた。企業は置換時間を測定すべきである。つまり、受け入れ可能な品質で現在のモデルファミリーからの本番ワークフロー移行にかかる日数をストレス下で測定する必要がある。エンタープライズバイヤーは5つのアーティファクトを証拠として収束させている。すなわち、モデル部品表、バージョン固定評価記録、ツール許可マップ、ロールバック機能付きの変更ログ、およびテスト済みの移行ランブックである。ポータビリティを実証でき、置換時間を公開できるチームは、より優れたデモを持つ競合他社に対して案件を獲得するだろう。

5. 5

   RedditユーザーがAIチャットボット開示要件を求める

   r/artificialのRedditユーザーが、企業がAIチャットボットをプログラミングして、自分がAIであることを直接確認するのを避けるよう指示していることに懸念を表明し、企業はチャットボット使用の開示を義務付けられるべきだと主張している。 ユーザーが人間ではなくAIと対話しているタイミングを確実に特定できない場合、顧客サービスとオンラインインタラクションにおける信頼と情報に基づく同意に影響を与える。透明性のある開示により、ユーザーは受けるサービスの性質を理解できるようになる。

   この懸念が幅広い政策議論やカスタマー向けアプリケーションにおけるAI開示基準に対する規制上の注目を生み出すかどうか。

6. 6

   日本、AI企業に学習データの開示を義務付ける新規約を施行へ

   日本政府の委員会は、生成AIビジネスに対して自社のAIモデル、学習データ、データ収集方法をウェブサイトで開示することを求める自主的な「原則規約」を承認した。この規約は日本でAIサービスを提供する国内外の企業に適用され、「遵守するか説明するか」のアプローチを採用している。つまり、企業は規約に従うか、従わない理由を公開で説明することができる。 この規約は、AIモデルが同意なくテキストや画像で学習されており、著作権侵害の可能性があるという懸念の高まりに対処する。2025年5月に制定されたAI関連技術に関する法律に基づき、知的財産保護と技術革新のバランスを取る。規約を遵守する企業はウェブサイト上で遵守を公表し、政府に通知しなければならない。

   この規約は3つの原則で構成されている。AIモデルと学習データ方法の開示、著作権者が要求した場合に特定のウェブページが学習データに含まれたかどうかの開示、そして著作権侵害について懸念するユーザーからの情報請求への対応性である。機密情報の開示は義務付けられない。