AI安全性・アラインメント

主要ニュース

1. 1

   Anthropic、Claude透かし仕組み公開

   AnthropicはAIチャットボットClaudeが生成したテキストに透かしを入れる方法の詳細を金曜日に公開した。透かしはGoogle DeepMindが2024年に発表したSynthID-Textアプローチを使用し、低リスクの単語選択（「曇り」と「灰色」の選択など）に検出不可能なパターンを埋め込む。Anthropicは透かし検出APIをリリースする予定。 透かし要件はEU AI法の透明性コードに由来し、AI企業にAI生成コンテンツを特定することを義務付けている。この動きはClaudeユーザーの間で議論を巻き起こしており、透明性の過度な規制だと主張する者もいれば、詐欺を防ぐために必要だと擁護する者もいる。Business Insiderが報じたところでは、X上の「数十人」のユーザーがこれに対してClaude購読をキャンセルしていると述べている。

   軽い編集では透かしは削除されない可能性が高いが、すべての単語が置き換えられる完全な書き直しで削除される。コードは最小限の透かしとなる。なぜなら、モデルは恣意的な選択（コメントなど）においてのみ自由度が必要で、機能的なコードロジックではそうでないからだ。他の主要モデル開発企業も同じ行動規範に署名しており、独自の透かしを実装する。

2. 2

   Amazonはあなたの Twitch コンテンツを AI トレーニングに使用できます—オプトアウトしない限り

   Twitch は、ストリーマーが Amazon の人工知能モデルのトレーニングに使用されるコンテンツをオプトアウトできる新しいアカウント設定を追加しました。オプトアウトトグルは設定の「Security and Privacy」セクション内の「Generative AI Training」というラベルの場所にあります。ただし、これを無効にしても、スポンサーシップ支援、視聴者のおすすめ、モデレーション ツールなど、AI を活用したプラットフォーム機能を含む他の目的での Twitch と Amazon によるチャンネルコンテンツの使用を防ぐことはできません。 この機能の公開は、デフォルトのオプトイン設定に反対する 16,000 人以上のクリエイターからの強い反発を招きました。この慣行は今まで公開されていませんでした。Twitch の製品責任者である Mike Minton は、デフォルトを有効に保つことが必要だったのは「そうしなければ誰も参加しないだろう」という理由によると認めており、テック企業がユーザーデータをどのように扱うのか、またトレーニングがいつ開始されたのかについての透明性の欠如に関する懸念を生じさせています。

   この動きはより広い業界のパターンを浮き彫りにしています。Meta は Facebook と Instagram からのポストと画像、ならびに従業員のアクティビティとスマートグラスのスクリーンショットを使用して AI モデルをトレーニングしており、Google と YouTube でも同様の慣行が文書化されています。高品質のトレーニングデータは AI 開発者にとって戦略的なリソースとなっており、公開されているソースが減少する中、ユーザー生成コンテンツがギャップを埋めているようです。

3. 3

   Anthropic、Claude検出APIを公開

   Anthropicが、Claude生成テキストを識別するための透かし検出APIを第三者開発者に提供する。この透かしは2024年にNatureに掲載されたGoogle DeepMindのSynthID Textの変種を使用し、単語選択時のランダム性を微調整して追跡可能なパターンを生成し、コンテンツの品質や可読性には影響を与えない。 AnthropicはEU AI法への準拠のため透かし化を実装している。同社は2026年7月にEUのAI生成コンテンツ透明性実践規範に署名した。PangramなどのAIパターン認識に依存する外部検出ツールと異なり、この透かし方式はAnthropicのみが保有する鍵に基づいており、実践上、より信頼性の高い検出を可能にする可能性がある。

   2025年8月2日以降にリリースされたすべてのClaudeモデルが透かしに対応し、既存モデルは今後数ヶ月で対応する予定。透かしは短いテキスト、事実が密集した箇所、コード、大幅に改稿されたテキストではあまり機能せず、Claudeがテキスト全体を執筆したのか、単に編集したのかを区別できない。

4. 4

   Salesforce、SAPが使途制限のないAIエージェントを組み込み

   Salesforce、SAP、Oracleなどの大手エンタープライズソフトウェアベンダーが、自律型AIエージェントを財務システムと顧客システムに直接組み込んでいる。Gartnerの導入予測によれば、2026年までにエンタープライズアプリケーションの80パーセントがこれらの組み込み機能を導入する見通しだ。これらのエージェントは人間の介入なしに返金の発行、契約条件の変更、サプライチェーン注文の実行が可能である。 ほとんどの企業は各従業員の支出や承認を制限する厳格な権限委譲フレームワークを持っている。しかしベンダーがこれらのAIエージェントをネイティブプラットフォーム機能として提供する場合、組織は通常、単一クリックで有効にし、人間の管理者が許可されるレベルを超える無制限の財務的自由を与えている。実例として、自動化された顧客維持エージェントが承認なしに複数年契約に15パーセントの割引を独立して適用したケースがある。これは人間の従業員が行った場合、監査要件に違反する管理上の失敗となるものである。

   著者は3段階の境界設定を推奨している。エージェントは明示的な正当理由がない限り「読み取りと下書き」モード（データ分析、メール下書き）で動作すべき。日常的な管理業務は厳格な財務上限以下で完全なログ記録を伴い実行可能。契約、価格設定、または重大な返金の変更はすべて、人間の管理者の承認を待つ認可キューに入らなければならない。経営幹部は中核プラットフォームを監査して、現在実行中のすべての自動化された財務機能を特定し、その後、下書きのみのデフォルト状態に戻す必要がある。

5. 5

   AIが化石燃料の産出を増やす可能性はデータセンターが気候に与える悪影響より大きい

   Microsoft の元サステナビリティ担当者らが npj Climate Action に発表した研究によると、AI ツールは石油とガスの生産をより効率的にすることで、世界のエネルギー関連排出量を 1.2～4.8 パーセント増加させる可能性があり、低めの試算ではメキシコの年間排出量に相当し、高めではロシアの排出量に匹敵する可能性がある。 AI強化型の化石燃料生産性から生じる排出量の増加は、AI が太陽光、風力、およびその他のクリーンテクノロジーにもたらす気候上の削減効果をはるかに上回り、データセンター建設による排出量の予測を大きく上回る。テクノロジー企業は通常、自社の運用排出量のみを測定し、石油とガスなどの他の産業でそのツールが実現させる排出量は測定していない。

   Chevron と Microsoft は、テキサスにデータセンター向けのガス火力発電所を建設する契約を確認した。Chevron は、生成された計算能力の一部を自社内の AI を動かすために使用することを述べており、この研究が警告している AI と化石燃料の関係の具体例となっている。

6. 6

   法律事務所のAI課題は幻覚ではなく正直さ

   法律事務所向けAIツール「Intapp Celeste」が、回答してはいけない情報について「ノーコメント」と返す機能を備えています。一般的なAIチャットボットは、質問者が知るべきでない情報まで正直に答えてしまう問題があります。 法務業界では機密情報や利益相反の管理が重要であり、汎用チャットボットの「正直さ」は弁護士の守秘義務違反につながる可能性があります。Celeste のようなツールは業界特有の規制・倫理要件に対応する必要があります。

   Intapp Celeste は幻覚より正直さを制御することに重点を置いており、法律事務所が安心して使用できる設計になっています。