AI安全性・アラインメント

主要ニュース

1. 1

   Linux財団、AI実行証跡のTRACEを迎え入れ

   Linux財団は2026年8月25日、OPAQUEによる新たなオープン仕様「TRACE（トラスト、ランタイム認証、コンプライアンス証跡）」の提供受入を発表した。AMD、インテル、マイクロソフト、OPAQUE、テクノロジー・イノベーション・インスティテュート（TII）が共同開発した。 TRACEは、ランタイム環境、ソフトウェア、ポリシー、データ分類、ツール利用を結び付ける、ハードウェアで強制される標準化されたガバナンス記録を、移植可能で暗号検証可能な成果物として生成する。自律性の高いAIエージェントやオープンウェイトモデルの導入が進む中、機密データがポリシーに沿って扱われていることを組織が証明できるようにする。国内のAI導入企業は、機密データの取り扱いを証明する新たな仕様の登場に注目する可能性がある。

   Linux財団はTRACEの持続可能性と長期的成長を支えるため、ベンダー中立的なガバナンスを提供する。初期仕様は現在のAIエージェントアーキテクチャに焦点を当てつつ、将来のマルチエージェントや機密コンピューティングへの基盤となる。

2. 2

   AIエージェントが広告を紛れ込ませる恐れ

   スタンフォード大学の新たな研究論文が、AIチャットボットやエージェントが広告費に影響されて推薦内容を歪める可能性を警告。有料の結果と本当の情報の区別が難しくなると指摘する。 AIエージェントが検索やECを担う時代になれば、トースター選びのような日常の買い物から医療や金融サービスまで信頼に影響。偏った助言が現実的な被害を生む恐れがある。国内の利用者がAIエージェントの推薦を日常の買い物や医療判断に活用する際、広告混入で信頼を損なう可能性がある。

   研究は政府規制が有効とし、チャットボットに金銭的インセンティブの開示を求める案を提唱。ただし取り締まりは不透明になりがちで、エージェント型商取引の周辺に広告産業が育つ前に整理が必要と訴える。

3. 3

   AIの学習速度、3カ月で2倍に　新指標

   Bytedance Seedの研究者らが、AIが複数回の試行でタスクを改善する度合いを測るベンチマーク「EdgeBench」を開発した。134のタスクで構成され、各タスクは平均57.2時間の専門家による作業を必要とし、0%から100%のルーブリックで採点される。 研究者らによると、この測定法ではAIのタスク学習速度は3カ月ごとに2倍になり、年間で約16倍に向上する可能性がある。データ分析、数学の証明、ビデオゲームなど幅広い領域で能力が急成長することを示唆する一方、明確な報酬シグナルのないタスクでの性能は測れない。国内のAI開発企業は、学習効率の加速に伴う自律エージェントのリスク管理を迫られる可能性がある。

   反復して改善する能力は再帰的自己改善（RSI）に有用で、AI開発を加速させ、人間の制御を外す可能性がある。AIエージェントはすでに数週間にわたる反復に依存した自律的なサイバー攻撃を開始しており、是正には最大1億ドルの費用がかかる可能性がある。

4. 4

   OpenAI、年内AGI達成へ オルトマンCEOが主張

   オルトマンCEOは、自社がAGI（人間の大部分の経済的価値のある仕事を上回る高性能な自動システム）と呼べる内部システムを年内に持つと確信している。最高研究責任者のマーク・チェンは「AGIまで80%」と見積もり、共同創業者のグレッグ・ブロックマンはこの時期をAGI出現の瞬間として振り返るだろうと述べた。 鍵を握るのが、次のモデルファミリー「Astra」だ。最高科学者のヤクブ・パチョツキ氏は、Astraがすでに「自動AI研究インターン」としての社内基準に達したと語る。実験アイデアを渡せばコードを書き、実験を実行し、結果を報告。研究論文を与えれば、人間の研究者が約1週間かかる作業を処理できるという。ただ、言語モデルだけで真の発見や一般化ができるかは議論が分かれる。国内企業は、AIに作業を委ねる流れが加速する可能性がある。

   オルトマンCEOは「モデルが実際に意味のある新しいものを発明する最初のモデルになるだろう」と予測する。一方、OpenAIはハードウェア開発も進め、最初の「AIパック」型デバイスは来年初頭に登場する見込みだ。さらに、広告による収益化実験も始めており、広告収入はサブスクを利用しないChatGPT消費者ユーザーの92%のコストを賄う可能性があるとしている。

5. 5

   LLMエージェントのスキルで認証情報漏えい

   最大のオープンソーススキル市場であるSkillsMPの17,022件のスキルを対象にした大規模調査で、520件のスキルに認証情報漏えいに関わる1,708件のセキュリティ問題が見つかった。 調査では10パターンの漏えい経路が特定され、デバッグログが脆弱性の73.5%を占める。エージェントフレームワークが標準出力をLLMのコンテキストウィンドウに取り込むため、日常的なデバッグが認証情報露出の経路になる。特に、漏えいした認証情報の89.6%は即座に悪用可能だ。国内企業がオープンソースのLLMエージェントを導入する際、認証情報漏えいのリスクに直面する可能性がある。

   フォーク型の配布モデルが是正を妨げる。107の上流リポジトリから削除された秘密情報が、50以上の独立したフォークに残り続ける。責任ある開示の後、悪意のあるスキルはすべて削除され、ハードコードされた事例の91.6%が是正された。

6. 6

   ChatGPTがテキスト検索、プライバシー懸念

   OpenAIは先週、Mac版ChatGPT向けにApple Messagesプラグインを公開した。ユーザーはiMessage、SMS、RCSの会話を検索し、スレッドの内容を確認し、返信の下書きや送信ができる。すべて明示的なユーザーの同意が必要だ。 セキュリティ専門家のポール・ウォルシュ氏は「テクノロジー界でこれまで見た中で最も危険なものの一つ」と評し、スパイウェアのように機能し得ると指摘する。プラグインはデフォルトでローカルに動作し、要求された時だけメッセージを読むが、同意していない人からのメッセージを含む長年の会話がAIによって検索可能になる。国内のメッセージ検索サービス利用者では、同意済み会話データの扱いを巡りプライバシー懸念が高まる可能性がある。