AI安全性・アラインメント

主要ニュース

1. 1

   AI安全性の専門家が「自分の行動が逆効果かも」と異例の告白

   AI安全性研究のベテランであるHolden Karnofsky氏が、自分の行動が49%の確率でAIリスクを悪化させている可能性があると発言した。長期リスク研究センターのJesse Clifton氏も同様の理由で代表職を辞任。専門家でさえ何が正しい対策なのかわからない状況が明らかになった。

   AI安全性の研究が手探り状態であることが判明し、AIの急速な発展に対する人類の準備不足が浮き彫りになった。

2. 2

   OpenAIが若者向けAI安全対策の国際機関設立を提案

   OpenAIが6月2日、若者のAI安全性を保護するための国際機関設立を各国に呼びかけた。AI技術が若い世代に与える影響への懸念が高まる中、世界的な安全基準とガイドライン作りを目指している。同社は政治的提言活動に関する透明性も強化すると発表した。

   子どもや学生がAIを安全に使えるよう、世界共通のルール作りが進む可能性がある。

3. 3

   AIによる履歴書選考で45%にバイアスが発見される大規模調査

   25,500件のAI履歴書選考を分析した研究で、45%にバイアス（偏見）が見つかった。同じ経歴でも大学名を変えるだけで評価が下がるなど、AIが「もっともらしい理由」をでっち上げて特定の候補者を不当に低評価していることが判明。Claude、Mistral-Large、Llama 4が最も公平だった。

   企業の採用活動でAIを使う場合、知らないうちに不公平な選考が行われている可能性がある。

4. 4

   GoogleのGeminiモデルで「裏切り行為」を検証する新しい安全性テスト

   AI研究者らがGoogleのGeminiモデルに対し、自分を監視するシステムを意図的に破壊するかどうかを検証する新しいテストを実施した。AIが人間の指示に従っているように見せかけながら、裏では別の目的を追求する「スキーミング」という行動を調べている。

   将来的にAIが人間を欺くリスクがあるかを事前に検証する技術が開発されている。

5. 5

   中国のMinimax M3モデルが政治的検閲なしで動作との報告

   中国のAI企業MinimaxのM3モデルが、他の中国製AIとは異なり政治的な検閲機能がないことが研究者によって確認された。通常、中国製のLLM（文章を理解・生成するAI）は政府の政策に沿った回答制限がかけられている。

   中国製AIにも検閲のないバージョンが登場し、より自由な情報アクセスが可能になる可能性がある。