AI安全性・アラインメント

主要ニュース

1. 1

   AI安全性の専門家が「自分の行動が悪影響を与えている可能性49%」と告白

   AI安全性研究の第一人者Holden Karnofsky氏が、自身の研究活動が人類にとって良い結果をもたらしているか確信を持てないと表明した。長期リスク研究センターの前責任者Jesse Clifton氏も同様の理由で辞任するなど、AI専門家でも効果的な安全対策がわからない状況が明らかになった。

   AI開発が急速に進む中、安全性を専門とする研究者でさえ適切な対策を見つけられずにいる現状は、一般企業や個人がAIを安全に活用する上でより慎重なアプローチが必要であることを示している。

2. 2

   OpenAIが若者向けAI安全対策の国際機関設立を提案

   OpenAIが6月2日、若者をAIのリスクから守るための国際的な研究機関設立を提案した。AIが子どもや若者に与える影響について、グローバルな基準作りと安全対策の強化を目指すとしている。同社は政治的な活動についても透明性を重視する方針を発表した。

   子どもがAIツールを使う機会が増える中、国際的な安全基準ができることで、学校や家庭でのAI利用がより安全になる可能性がある。

3. 3

   AI採用システムで深刻な偏見問題が発覚、25,500件の履歴書審査を分析

   研究者がAI採用システム（履歴書を自動審査するAI）で25,500件の履歴書を分析した結果、45%で偏見による不公平な評価が発生していることが判明した。同じ経歴でも出身大学をMITに変更しただけで、AIが突然「経験が不十分」と評価を下げるケースが確認された。

   AI採用システムを使う企業が増えているため、就職活動でAIの偏見により不当に評価が下がる可能性があり、求職者は複数の応募方法を検討する必要がある。

4. 4

   中国企業Minimaxの新AIモデルM3で政治的検閲なしと報告

   中国のAI企業Minimaxが開発したAIモデル「M3」について、他の中国製AIとは異なり政治的な検閲機能が搭載されていないとの分析結果が報告された。通常、中国企業が開発するAIには政府方針に沿った内容制限が設けられているが、M3では確認されなかった。

   より自由な発言ができるAIツールが利用可能になる一方、情報の正確性や適切性について利用者がより慎重に判断する必要がある。