AI安全性・アラインメント

主要ニュース

1. 1

   OpenAIが政府向けAI安全規制の青写真を発表、強制評価制度を提案

   OpenAIが6月6日、最先端AIモデルに対する政府規制の枠組み案を公表した。AIによる自己改善（AIが自分自身をより賢くする能力）の兆候が見られるとして、競争圧力と統治の課題が生じていると警告している。

   ChatGPTなどの高性能AIサービスが、今後政府による安全性評価を義務付けられる可能性が高くなった。

2. 2

   Anthropicが一方的な開発停止は不可能と主張、他社との協調が必要

   Claude（クロード）を開発するAnthropicが、AI開発の一時停止が世界にとって良いことだが、単独では実行できないと6月6日に発表した。他の研究所も同じ条件で停止し、相互に検証する仕組みが必要だと説明している。

   AI開発競争が激しく、一社だけが開発を止めても効果がないため、AIの急速な進歩は当面続く見通し。

3. 3

   LLM（文章生成AI）に言語による宗教的偏見が発見される

   ある研究者が聖書解釈アプリの開発中に、同じAIでも英語で質問するとプロテスタント寄り、スペイン語やフランス語で質問するとカトリック寄りの回答をする偏見を6月7日に報告した。訓練データの言語分布が影響していると考えられる。

   ChatGPTなどのAIサービスを使う際、使用言語によって回答内容に偏りが生じる可能性がある。

4. 4

   研究者がAIとの「人間らしい対話」実験で成果を報告

   Alan Scaloneが4ヶ月間にわたり、複数のAIモデル（ChatGPT、Claude、Gemini、Grok）を使って人間と区別がつかないレベルの対話を実現する実験を行った。各モデル用の特別な設定ファイルを開発し、関係性知能の向上を目指している。

   将来的にAIアシスタントとの対話がより自然で人間らしくなり、カスタマーサポートや相談業務での活用が広がる可能性がある。

5. 5

   AI安全研究チームArcadia Impactが4ヶ月の運営経験を共有

   ロンドンを拠点とするArcadia Impactが、8人のAI安全研究チームを立ち上げた経験を6月5日に公開した。モデルの動機理解、監督システムの構築、自動化された安全研究の3つのプロジェクトに取り組んでいる。

   AI安全研究への民間投資が増加しており、AIシステムの信頼性向上につながる研究が加速する可能性がある。

6. 6

   Rackspace TechnologyがサウジアラビアにAI拠点を設立

   クラウドサービス企業Rackspace Technologyが6月9日、サウジアラビアのリヤドに地域本部を設立すると発表した。中東地域でのクラウドとAIの成長支援を目指し、サウジアラビアのビジョン2030計画に合わせた戦略的な動きとなっている。

   中東地域でAIクラウドサービスの利用が拡大し、現地企業のデジタル変革が加速する見通し。