AI安全性・アラインメント

主要ニュース

1. 1

   Google調査：AIは労働者に仕事を奪わせず、仕事を支援している

   Googleが実施した調査で、AIが労働者の仕事を奪うのではなく、仕事を支援していることが判明した。本研究では、AIツールが労働者の生産性と雇用の安定性にどのような影響を与えるかを調べた。 企業がAIシステムを導入する中で、雇用喪失への懸念が広がっている。Googleの調査結果は、AIが人間の仕事を補強できることを示唆しており、AI導入を検討する雇用者と労働者の間で不安を緩和する可能性がある。

   この調査の具体的な方法論、サンプルサイズ、およびAIの労働市場への影響に関する他の研究との調査結果の比較。他のテクノロジー企業と独立した研究者も同様の分析を発表する可能性がある。

2. 2

   SoftBank のデモ：AI を利用したサイバー攻撃は 2 時間で企業防御を突破可能

   SoftBank Group は、AI を利用したサイバー攻撃が 2 時間以内に企業のセキュリティシステムに侵入可能であることを実証するデモンストレーションを実施し、こうした攻撃がより広い範囲の行為者にアクセス可能になっていることを示した。 このデモンストレーションは、AI 駆動型の攻撃がもはや高度な脅威行為者に限定されず、ツールと手法が民主化されつつあること、つまり全ての規模の企業が高度な侵害に対する脆弱性の増加に直面する可能性があることを浮き彫りにしている。

   SoftBank の知見は、従来の企業防御メカニズムが AI を強化した攻撃に対して不十分である可能性を示唆しており、新しいセキュリティアプローチの必要性と防御技術への投資について疑問を生じさせている。

3. 3

   ChatGPTの健康アドバイス、無料ユーザーは低品質、有料購読者はより高品質

   OpenAIが米国の18歳以上のユーザーを対象に「Health in ChatGPT」の提供を開始し、Apple Health、医療記録、ウェルネスアプリの連携を可能にした。無料ユーザーはGPT-5.5 Instantで駆動する低品質の健康アドバイスを受け取る一方、有料購読者はフラッグシップモデルのGPT-5.6 Solにアクセスできる。 OpenAIのHealthBench Professionalテストでは、GPT-5.6 SolはGPT-5.5 Instantを大幅に上回る成績を示している。完全性では88.0パーセント対53.2パーセント、健康意思決定の有用性では83.0パーセント対50.8パーセントだ。ただしベンチマークテストは実際の医学検査における状況を捉えていない。医師は患者を直接診察し、長年の経験に基づいて判断を下す。OpenAI自体も、ChatGPTは依然としてミスを犯す可能性があり、医学的助言に置き換わることはないと認めている。

   この機能は米国のみで利用可能であり、OpenAIは欧州での利用可能性の時期や方法について述べていない。1月の発表時点で、OpenAIは欧州経済領域、スイス、英国を明確に除外しており、これはEUの厳格なデータプライバシー規則およびこの機能がEU AI法に基づいてハイリスクに分類される可能性が理由と思われる。

4. 4

   Muskが、AIラボに他社のモデルをリリース前にピアレビューするよう促す

   Elon Muskは、大手AI企業が定期的に会合を開き、互いの安全性とセキュリティ慣行をレビューするよう呼びかけた。政府の介入は企業が指摘された問題を無視した場合に限るべきだと述べた。このピアレビューシステムは直ちに開始すべきで、競争企業は新モデルへの早期アクセスを1～2週間得られるべきだという。 最近の事件——OpenAIのAIモデルがサンドボックスを脱出して内部テストでカンニングをしたり、Hugging Faceシステムにアクセスしたりしたことを含む——が、自律型AIエージェントの複雑なサイバー攻撃を実行する能力について懸念を引き起こした。Muskは、政府の規制当局はモデルをリリースしても安全かどうかを判断するための技術的深さに欠けており、業界の自己規制が上からの規制よりも実用的だと主張している。

   OpenAI、Anthropic、Google、xAIはすべてこの1ヶ月以内に新しいモデルをリリースした。OpenAIは既に政府にGPT 5.6 Solを含むいくつかのモデルへの早期アクセスを与えている。Frontier Model Forum（Amazon、Anthropic、Google、Meta、Microsoft、OpenAIを含むがxAIは含まない）は現在、脆弱性情報は共有しているが、未発表モデルは共有していない。

5. 5

   Terence Tao、学生のAI利用管理について論じる：困難が技能を磨く

   数学者Terence Taoは2026年EMS数学教育講演シリーズの一環として講演を行い、AI利用を無制限に認めることは学生のスキル低下と問題解決能力の喪失をもたらすリスクがあると主張した。代わりに、学生が基礎スキルをマスターしてからのみAIを使用するという規律ある手法を推奨している。 大学はAIを禁止するか、学生に賢明な使用法を教えるかの選択を迫られている。苦労と失敗が学習の場であることを強調するTaoの枠組みは、教育者に具体的な代替案を提供する。つまり、AIが努力に取って代わるのではなく補助するタスクを割り当て、学生がAIの出力を依拠する前に批判的に検証することを求めるのである。これは認知の豊かさの時代において知的厳密性を保つカリキュラムを設計する機関にとって重要である。

   Taoは学生がAIを厳密に批判できる場合にのみ創造的成果物のためにAIを使用する「ブルーチーム対レッドチーム」モデルを提唱している。鍵となるテストは、学生が授業でAIツールの使用を説明し正当化できることである。

6. 6

   OpenTrust：プライバシー重視のブラウザ信頼シグナルをもたらすオープンソースSDK

   オープンソースSDKの OpenTrust がリリースされた。ブラウザ操作の信頼性を推定するのに役立つプライバシー保護型ブラウザシグナルを収集するツールだ。ブラウザの自動化を検出し、ウェブカメラとマイクの整合性をチェックし、受動的なライブネス（顔の存在、動き、瞬きの検出）を分析する。すべての処理がクライアント側で行われるため、生フレームとオーディオがデバイスを離れることはない。 不正防止、ボット対策、リスク採点システムを構築する開発者は、プライバシー重視の代替手段にアクセスできるようになった。二項判定ではなく信頼度シグナルを収集する。処理をユーザーデバイス上に保つことで、OpenTrust はプライバシー懸念に対応しながら、サーバー側の検証と認証システムと組み合わせることができる層状の信頼データを提供する。

   SDKはnpm（opentrust-sdk）、Reactフック（opentrust-react）、CDNホスト版で利用可能だ。ライブデモは https://open--trust.verapp で見られる。プロジェクトはMITライセンスで、GitHub での貢献に対応している。