AI安全性・アラインメント

主要ニュース

1. 1

   米企業がWeChatワーム公開、AI安全は民間で

   米セキュリティ企業Califが、ユーザーの操作なしにWeChatアカウントを乗っ取り、連絡先経由で拡散するワームを公開。CalifがTencentに通知後、脆弱性は修正された。 Hugging FaceへのAI活用ハッキングに続く今回の事件は、サイバー脅威が国境を越えることを示す。米中間の信頼はほぼ皆無で、民間企業が対応を担う状況だ。

   民間の国境越え協力が今後のワームを防げるか。政府間合意がない中、企業は非公式な連絡手段に頼る可能性があると記事は示唆する。

2. 2

   Apple Reference ImageでiPhone 18 Proの写真の信頼性を証明

   Appleは「Surprise and Shine」イベントでApple Reference Imageを発表した。この機能は、署名付きセンサーデータから改ざん不可能な画像を生成し、写真の信頼性を検証する。 AIによる改ざん画像が問題となる中、フォトジャーナリストや写真家がiPhone 18 Proで撮影した写真が本物であることを証明できるようになる。これはコンセプトではなく、実際に機能するものだ。

   この機能の成否は、開発者による採用とSynthIDなどの標準規格への対応にかかっている。APIと検証方法がどれだけ幅広く統合されるかが効果を左右する。

3. 3

   ビッグテック、AIの化石燃料問題への対応は「お粗末」

   HEATEDが8月19日に送った質問に対し、マイクロソフトとグーグルは回答を拒否。石油企業向けAIツールがデータセンターに比べて3.3〜13.3倍の汚染を生む可能性があるとの調査結果について問い合わせていた。 回答したのはアマゾンのみ。だが、同社は調査結果を否定せず、代わりに「クラウド技術が石油の炭素強度を下げる」と主張。専門家はこれをグリーンウォッシングと指摘する。

   化石燃料の生産拡大を目的としたAIシステムの開示義務化など、投資家や会計基準団体、政策当局がこうした提案を取り入れるかどうか。

4. 4

   CoreWeave CEO、ゴールドマン会議でAIの利点は説明不足と指摘

   ゴールドマン・サックスの「コミュニカコープ＋テクノロジー会議」で、CoreWeaveのCEOマイク・イントラター氏は企業がAIの利点を十分に説明していないと述べ、VisaのCEOライアン・マキナニー氏は消費者不信がエージェンティック・コマースの普及を鈍らせていると指摘した。 急速な変化が個人や子供に与える影響への懸念を中心に、AIとデータセンターへの世間の反対が顕著だった。この不信感は、エージェンティック決済といったAI主導サービスの導入を妨げる可能性がある。

   テック業界のリーダーがAIの利点について一般への情報発信を改善できるかどうか。また、Anthropicの研究者ジェイコブ・コクソン氏が辞任し、「超人的なAIシステムがこの10年の終わりまでに私たち全員を殺しかねない」と警告した件にも注目が集まる。

5. 5

   データ統合プラットフォームがAIエージェント統制の鍵に

   企業がAIエージェントにどこまで責任を委譲するかを検討する中、内部データとAIを結ぶデータ統合プラットフォームが統制レイヤーとして機能すべきだと本稿は論じている。 ガバナンスを政策レベルのルールから技術インフラの役割へと位置づけ直すもので、プラットフォームがAIエージェントの行動に対する執行ポイントとなり、ITの優先順位を変える可能性がある。

   このプラットフォーム中心のガバナンスモデルが企業に採用されるかは、既存のデータ基盤と統制の集中化への意思にかかっている。本稿にベンダー事例や時期の言及はない。

6. 6

   アトランティック・カウンシル webinar：AI規制の分断が医療に影響

   アトランティック・カウンシルのサイバー国家戦略イニシアチブが9月8日に開催したウェビナーで、参加者はAI規制アプローチの違いが臨床試験や研究、患者ケアに影響を及ぼす可能性があると警告した。 ファイザーのランジット・カンブル氏は、各AIユースケースごとにデータを個別に準備するのは「持続不可能」であり、「拡張性がない」と述べた。企業全体でユースケースが増える中での課題だ。

   医療機関間でプライバシー保護やデータ管理基準に関する合意が形成され、政策立案者を導けるかどうか。柔軟なガバナンスが、Hugging Faceの情報漏洩のようなエージェントAI事故を防げるかが試される。