AI安全性・アラインメント

主要ニュース

1. 1

   AnthropicがClaude Opus 4.8を公開、高速モードを3分の1の価格で提供開始

   Anthropic（AI開発企業）は5月28日、AI助手Claude（クロード）の新版Opus 4.8をリリースした。処理速度が2.5倍速くなる高速モードの料金を従来の3分の1に値下げし、プログラミング支援機能では数百の小型AIが並列処理で大規模なコード作業を分担できるようになった。

   ChatGPTの競合であるClaudeがより高速で安価になり、プログラミング作業の効率化や企業でのAI活用が進む可能性がある。

2. 2

   AIモデルは「これは嘘だ」と警告されても偽情報を信じ込むと研究で判明

   Ars Technicaが報じた研究によると、大規模言語モデル（LLM、文章を理解・生成するAI）は明確に「この情報は偽物だ」と警告されても、その偽情報を事実として信じ込んで回答する傾向があることが分かった。AIの学習過程で偽情報を「真実として自信を持って表現する」バイアス（偏見）が生まれるという。

   ChatGPTやClaude等のAI助手に依存して情報収集する際、間違った情報を鵜呑みにするリスクがあり、複数の情報源で確認する必要性が高まっている。

3. 3

   OpenAIがAI安全性に関する統治フレームワークを発表

   OpenAI（ChatGPTの開発元）は5月28日、AI安全性・セキュリティ・リスク管理の実践方針をまとめた「フロンティア・ガバナンス・フレームワーク」を発表した。EU AI法（欧州のAI規制）やカリフォルニア州の新規制に対応する内容となっている。

   今後ChatGPTを含むOpenAIのサービスでより厳格な安全性チェックが導入され、利用制限や機能変更が生じる可能性がある。

4. 4

   EC-CouncilがAI統治フレームワーク「ADG」を大手企業と共同開発

   サイバーセキュリティ教育機関EC-Councilは5月28日、Citi、JPMorgan Chase、Microsoft、KPMG、Deloitte等の大手企業と共同でAI導入・防御・統治（ADG）フレームワークを開発したと発表した。企業がAIを安全に大規模導入するための統一運用モデルと自己評価ツールを提供する。

   金融機関や大企業でAI活用が本格化する一方、リスク管理体制の整備が急務となっており、働く人々にもAI関連の新しい業務ルールが適用される可能性がある。

5. 5

   Fort RoboticsがMapless AIを買収、物理的AI安全プラットフォームを拡張

   物理AI（実世界で動作するロボットやシステム）の安全技術を手がけるFort Roboticsは5月28日、車両の遠隔操作技術を持つMapless AI（ボストン・ピッツバーグ拠点）を買収した。人間による遠隔監視機能と車載安全システムを統合し、自動運転やロボット操作の安全性を向上させる。

   自動運転車や産業用ロボットの安全性が向上し、工場や物流現場での事故リスクが減る一方、遠隔監視による新しい雇用機会が生まれる可能性がある。