AI安全性・アラインメント

主要ニュース

1. 1

   エヴァンゲリオン声優・緒方恵美がAI悪用に対抗し声の権利保護を訴える

   エヴァンゲリオンで知られる声優・緒方恵美が、無許可のAI使用に対する声の権利保護を求める声明を発表した。AIによる無許可の音声使用に対応する新たなガイドライン案が提示されている。 AI技術が現実的な音声合成を可能にする中、声優たちは本人の同意や報酬なく自分の声が使用されるリスクに直面している。緒方の公開での呼びかけは、生成AIの時代において、パフォーマーの知的財産と生計を保護するための法的保護の必要性を浮き彫りにしている。

   AI音声使用を規制する正式なガイドラインの開発と採用が、声優たちが強制力のある保護を獲得できるかどうかを左右することになる。これらの基準が業界全体でどのように実装されるかは、他のパフォーマーの権利保護の先例となる可能性がある。

2. 2

   Anthropic社のMythos AIがインターネット暗号化標準の欠陥を発見

   Anthropic社のClaude Mythos PreviewというAIモデルが、耐量子計算署名方式HAWKに対する改良型攻撃を60時間以内にAPI利用料10万ドルで発見し、また高度暗号化標準（AES）の縮小版に対する新たな攻撃をおよそ10億トークンで約10万ドルの費用をかけて発見した。HAWK攻撃は当該方式の基礎となる数学的格子における従来未検出の対称性を利用しており、AES攻撃は「メビウスブリッジ」と呼ばれる新しいフィンガープリント法を用いており、従来の最高の攻撃手法を200～800倍上回る性能を持つ。 AESはデジタルデータの世界的に最も広く使われている対称暗号化標準であり、HAWKは米国国立標準技術研究所（NIST）の耐量子計算標準化プロセスの候補である。Anthropic社は今回の発見のいずれも現在運用中のシステムには影響しないと述べている。HAWKはまだ標準化されておらず、AES攻撃は完全な10ラウンド方式ではなく修正版の7ラウンド方式に適用されるものだからだ。しかし、この発見はAIモデルがインターネットセキュリティの基本的な前提条件に異議を唱える可能性があり、2年以上かけて人間の専門家が審査しても検出されなかった脆弱性を明らかにできることを示している。

   Anthropic社は米国政府および業界パートナーに事前に調査結果を共有し、HAWKの弱点に関する情報開示をこの方式の開発者と調整した。Mythos Previewは一般公開されていない。Anthropic社はまたETH Zurich、テルアビブ大学、ハイファ大学の研究者と共同でCryptanalysisBenchというベンチマークを開発しており、言語モデルの暗号解析能力を体系的に評価できるようにしている。

3. 3

   Nvidia の Huang CEO：AI はタスクを廃止するが職を失わせない—「ホワイトカラー大量失業」説を否定

   Nvidia の Jensen Huang CEO は Y Combinator の Startup School で、AI は多くのタスクを自動化するが、全体的には職を失わせないと述べた。彼は、1つの職は共有の目的を持つ複数のタスクで構成されており、いくつかのタスクが自動化されても、その職とその目的は残存し、拡大した野心に対応するためにより多くの労働者が必要になると主張した。 Anthropic の Dario Amodei CEO と OpenAI の Sam Altman CEO を含む著名な AI リーダーたちは、大量の失業を警告していた。Amodei は AI がエントリーレベルのホワイトカラー職の半分を 1～5 年以内に廃止し、失業率を 20% にまで押し上げる可能性があると予測していたが、両者ともその予測を最近は後退させている。Goldman Sachs は AI の影響を受けた産業で月あたり 11,000 人のネット失業があると推定しており、米国労働力の約 9%（約 1,500 万人）が今後 10 年で失業する可能性がある。Huang のフレーミングは、実際の結果が企業が人員削減するか生産を拡大するかにかかっていることを示唆している。

   Huang は放射線科学を証拠として指摘した。Geoffrey Hinton の 2016 年の深層学習により放射線科医は 5 年以内に廃止されるという予測にもかかわらず、2010 年から 2022 年にかけて放射線科医の数は約 12% 増加し、2055 年までに 25.7% から 40.3% の追加成長が見込まれている。Huang は成長を、患者の積み残しと看護師や医学コンサルタントといった関連職の需要の増加に帰した。

4. 4

   Snowflake、セキュリティ懸念の高まりを受け自律型エージェント統治のためAI Gatewayを発表

   Snowflakeは Black Hat 2026で Cortex AI Gateway を発表した。Natoma（MCPゲートウェイ）を統合した一元化制御層で、AIエージェントがモデル、データ、エンタープライズツールにアクセスする方法を管理する。同社はまた、Agent Identity、Restricted Session Scope、Native AI Security Posture Management、マルチパーティ承認によるランサムウェア保護を含む複数のセキュリティ機能を一般提供またはパブリックプレビューに移行した。 The Linux Foundation の2026年版『State of Tech Talent Report』によると、AI セキュリティへの懸念は2024年の17%から2026年の48%に跳ね上がった。一方、97%の組織は AI 導入にコミットしているものの、57%がセキュリティとリスク管理の能力に大きなギャップを抱えている。自律型エージェントはデータアクセス、システム実行、データ移動を組み合わせることでエンタープライズの攻撃対象を劇的に拡大させており、アプリケーション層の修正だけでは不十分で、データおよび制御プレーン組み込みのセキュリティが重要になっている。

   Cortex AI Gateway は3つのコア機能を提供する─制御（単一エンドポイントからアクセスを付与、制限、監査）、可視性（リアルタイムでエージェント動作をキャプチャし監査証跡を作成）、コスト管理（コストとレイテンシに基づいてリクエストを自動ルーティング）。ほとんどの機能は非公開プレビュー段階で、一部は一般提供に向かっている。エンタープライズは Black Hat USA 2026のブース #8206を訪問することでデモンストレーションを受けることができる。

5. 5

   プログラマーが数か月のテスト後、AIが実際に有用かどうか疑問を呈する

   2023年半ば以来 Claude やその他の AI ツールを使用してきたソフトウェア開発者が、熱意から懐疑へと推移する軌跡を描写している。ツール補助コーディングから始まり、プロジェクト全体を生成する「エージェント型」AI エージェントへと移行し、その後、生成されたコードは彼が構築したものを理解できなくなるため、AI補助ブレーンストーミングのみにスケールバックした。 著者は AI の実世界での生産性主張について根本的な疑問を提起している。AI が動作するコードを生成する場合でも、著者はゼロから精神モデルを再構築することなしにそのコードを変更または拡張することができず、AI がなくてもプロジェクトを完了できたのではないかと疑っている。この経験は、彼が観察する開発者やライターの間での広範な懐疑心と一致している。

   著者は先制的な仮説を提起している。それは 10 年後には大規模な組織が、AI はトークン支出を正当化するのに十分な投資利益率を提供していないと結論し、開発者が Facebook の Metaverse 提案と同様の方法で技術を放棄するということである。その提案も同様に変革を約束したが、振り返ってみると「狂気じみていた」ことが判明した。

6. 6

   ホワイトハウスの��意的なAI統制は濫用のリスク、議会の行動が必須

   トランプ政権は、公開されたルールや透明なプロセスなしに、国家安全保障上の懸念を理由にAIモデルの制限とアクセス管理を非公式な権力で行使している。テッド・リューとナサニエル・モランの下院議員による超党派法案を含め、「破滅的な危害」を引き起こす技術に対するシャットダウン機能の維持をAI企業に要求する法案が議会で導入されているが、いずれも大きな支持を得ていない。 議会による監視がなければ、行政府はAI企業に対してモデルをイデオロギー的目標に合わせるよう圧力をかけ、ベンダーが自由な革新よりも大統領の機嫌を取ることに奔走する逆インセンティブを生み出す可能性がある。透明な基準の欠如は腐敗の検出を困難にし、民主主義的統治の原則に根本的に反する形で、前例のない権力を一個人の手に集中させる。

   大統領のAI統制が定着する前に、議会は正式な法的基準を確立する必要がある。検討されている代替案としては、フロンティア研究所の独立監査、リリース前にモデルを審査する公的監督機関、Demis Hassabisが提案する多国間基準、またはOpenAIが提唱する国際原子力機関をモデルにした国際機関が挙げられる。