AI規制・政策

主要ニュース

1. 1

   Dymiumが企業のAIデータアクセスを保護するGhostAIゲートウェイをローンチ

   Dymiumは、企業データとAIモデル、エージェント、ツールの間に位置するセキュリティゲートウェイ「GhostAI」を発表した。このゲートウェイはリアルタイムでインタラクションを検査し、モデル、コンテキスト、ツール、データ全体にわたってガバナンスポリシーを適用し、アクティビティを記録する。800を超える公開・プライベートモデルを使用しながら、マスキング、編集、合成データ置換によって機密情報を保護することが可能になる。 企業のAIシステムはその価値の大部分を独自データへのアクセスから得ているが、その情報を共有することはプライバシー、セキュリティ、規制上のリスクを生じさせる。GhostAIはこの矛盾に対処するもので、セキュリティチームが従業員の好みのAIサービス利用を強いることなく一元的なコントロールを実施できる。これは金融サービスやヘルスケアといった規制業界に特に価値がある。

   GhostAIはアーリーアクセスプログラムで利用可能で、一般提供の予定はあるが日付は未発表。料金は使用量に基づく。Wesselsは、顧客がすでに基盤となるテクノロジーで約6カ月間稼働しており、ほとんどの組織が5分以内で設定できると指摘した。

2. 2

   エヴァンゲリオンの声優・緒方賢美、AI悪用に対する声の権利保護を呼びかけ

   エヴァンゲリオンの役で知られる声優の緒方賢美が、未承認のAI使用に対する声の権利保護を求める声明を発表した。AIによる無許可の音声使用に対応する新しいガイドライン案が提唱されている。 AI技術がリアルな音声合成を可能にしたことで、声優は同意なく補償もなく自分の声が使用される危険にさらされている。緒方による公開での呼びかけは、生成AIの時代において、パフォーマーの知的財産と生計を保護するための法的保護の必要性を浮き彫りにしている。

   AI音声使用を規制するための正式なガイドラインの開発と採用が、声優が強制力のある保護を獲得できるかどうかを決定する。これらの基準が業界全体にどのように実装されるかは、他のパフォーマーの権利保護に先例を設ける可能性がある。

3. 3

   テック大手が中国製AIモデルの禁止に反対

   Nvidia、Meta、Microsoft、OpenAI等が中国製オープンソースAIモデルの禁止に反対する公開書簡を発表し、Nvidia CEOのJensen Huangが初めてX上に書簡を投稿した。一方、Anthropic CEOのDario Amodeiは署名を見送り、オープンソース問題よりもチップ輸出とモデル蒸留に対する懸念を強調する別のブログ投稿を発表した。 経営幹部らはオープンソースモデルを安全性、イノベーション、サイバーセキュリティの観点から有益だと主張しているが、各企業は中国製モデルの利用可能性を維持することに具体的なビジネス上の利益を持っている。Nvidiaはモデル実行用チップ販売で利益を得ており、Repilitはより安価な代替案の恩恵を受け、OpenAIはモデル公開における予測不可能な政府介入の回避を求めている。この議論は、中国製モデルへのアクセス制限が実際に正当なサイバーセキュリティリスクに対処するのか、それとも単に米国の市場支配を保護するのかという根深い緊張を反映している。

   トランプ政権は、AI企業が公開前に高度なモデルについて政府審査に提出することを義務付ける自主的な枠組みを最終化中である。政権は6月にセキュリティ上の懸念を理由にAnthropicのモデルを市場から強制的に排除した前例があり、枠組みが自主的と謳っているにもかかわらず、政府がコンプライアンスを強制する可能性があることを示唆している。

4. 4

   ホワイトハウスの恣意的なAI統制は悪用の危険性、議会の行動が必須

   トランプ政権は、国家安全保障を理由に、公表されたルールや透明なプロセスなしに、非公式な権力を使ってAIモデルの制限とアクセス管理を行っている。議会はテッド・リュー下院議員とナサニエル・モラン下院議員による超党派法案など複数の法案を提出しており、同法案は「破滅的被害」をもたらす技術について、AI企業に停止機能の維持を求めているが、これまで大きな進展を見ていない。 議会による監視がなければ、行政府はAI企業に対してモデルをイデオロギー的な目的で改変するよう圧力をかけることができ、ベンダーに自由な革新よりも大統領の機嫌を取ることを促す悪い誘因が生まれる。透明な基準の欠如は腐敗を検出困難にし、かつてないほどの権力を一人の人物に集中させ、民主的ガバナンスとは根本的に相容れない状況を作り出す。

   大統領のAI支配力が固定化する前に、議会は形式的な法的基準を確立する必要がある。検討されている代替案には、最先端ラボの独立監査、リリース前にモデルを審査する公的規制当局、デミス・ハサビスが提案した多国間基準、またはOpenAIが提唱した国際原子力機関をモデルにした国際機関が含まれている。

5. 5

   イスラエルがAIチャットボットへの親イスラエル的叙述の埋め込みに4650万ドルを支払う

   元トランプ陣営マネージャーのBrad Parscaleが経営するClock Tower Xという企業が、イスラエル政府との4650万ドルの契約に基づき、10月以来10のウェブサイトを運営しており、イスラエルとガザに関する質問に対してClaudeやChatGPT、Perplexityなどのチャットボットがどのように回答するかに影響を与えるよう設計された数百のブログ記事（ガザのジャーナリストがテロ組織と関係があったと主張する記事など）を公開しています。 これらのウェブサイトはCommon Crawlという非営利の情報リポジトリに巡回されており、OpenAIのGPT-3トークンの80%を訓練し、主要なAIモデルのほとんどの訓練を支えています。研究によると、たった250件の悪質な文書が大規模言語モデルに『バックドア』脆弱性を作り出す可能性があり、チャットボットを利用するアメリカ国民の数千万人がこの工作により形作られた回答を受け取る可能性が高まっていることを意味しています。照会の際、PerplexityとMicrosoft Copilotは各サイトの下部に表示される外国人代理人登録法の開示が義務付けられているにもかかわらず、Parscaleのサイトをイスラエルの影響力工作の一部として明記せずに引用しました。

   1月から6月の間に、Clock Tower Xの10のウェブサイトはCommon Crawlによって912回巡回されました。5月だけで376回巡回されましたが、6月には顕著な減少が見られました。PerplexityとCopilotはネットワークのコンテンツを訓練データで一貫して表面化させましたが、Claude、ChatGPT、Geminiは訓練データにこれらのウェブサイトを含んでいないようでしたが、検索中でもアクセスすることができます。

6. 6

   評価制度はAI以前から問題を抱えていた、と著者が主張

   AIと教育に関する3部構成シリーズの第2部で、著者は生成AIをめぐる「カンニング恐怖症」を再検討し、AIが評価を壊したのではなく、既に存在していた欠陥を露呈させたと主張している。字数制限、ページ数の最小要件、結果のみの成績評価は、テキスト作成が困難であるという仮定の上に構築されていたが、AIがこの障壁を取り除き、これらの指標が実際には学習を測定していなかったことを明らかにした。 全国的な調査では、大学教員の78%が生成AIが利用可能になってからカンニングが増加したと答えており、73%がそれに関連する学問的誠実性の問題に対処している。しかし、カンニングを検出するために一般的に使用されているAI検出器には偏りがある。スタンフォード大学の研究では、英語が第二言語の執筆者のエッセイの61.3%がAI生成であると判定されたのに対し、ネイティブスピーカーの誤検知率はわずか3.2%だった。著者は「作業過程を示す」ことを提案している。これは学生にプロンプト、推論の説明、出力の検証を記録するよう要求するもので、学習者の一部に罰を与えるのではなく批判的思考を教える、より公平な解決策である。

   なぜ重要か（続き）：批判的思考、画面時間、人間関係、そして公平性といった他の懸念について、著者は問題がAI以前から存在していたと主張している。生成AIが教室に入る前の2020年から2022年の間に、学生と教師のつながりは43%から22%に低下した。学校はすでに1対1のデバイスプログラムを廃止していた。高貧困地区が不足しているのはAI自体ではなく、あらゆるツールにアクセスするための機器、接続性、資金である。著者はAIが過少資源の学生が誇りに思える作品を制作するための均等化装置として機能できると主張し、ブラジルの政府が公平性格差を縮小する方法としてAIを検討していることを指摘している。