AI安全性・アラインメント

主要ニュース

1. 1

   数学者がOpenAIの圧力疑惑を告発

   数学者バックマスター氏は、OpenAI研究者がキャリアを脅し、共著者アルポーエ氏（Anthropic）をナビエ–ストークス論文から外そうとしたと主張。同社は否定。 圧力は、進展がOpenAIに伝わった後に開始。同社の証明も同手法で、自身はCodexセッションで草稿を共有していたと述べる。

   OpenAIは約1万のAIエージェントを使い88時間で証明を完成させたと主張。研究責任者のマーク・チェン氏は計算コストを「数百万ドル」と説明。両者の証明が根本的に異なるかが焦点となる。

2. 2

   現場安全を支える視覚AI

   建設現場の安全対策として視覚AIが普及しつつある。カメラやドローンの映像をリアルタイム解析し、作業員と機械の接触リスクを監視する。 ロボット搭載センサーは局所しか把握できないが、視覚AIは現場全体を把握。米国では年間100人以上が被災する挟まれ事故などの防止に有効だ。

   次の段階は、データを横断的に分析して行動を提案するエージェント型AIの統合。クラウドに頼らない低遅延処理も求められる。

3. 3

   Metaの新AIエージェントアプリ「Muse」、月額20ドルから提供開始

   Metaは火曜日、基盤モデル「Muse Spark」を搭載したパーソナルエージェントアプリ「Muse」を発表した。予約の手配やホームセキュリティ映像の監視といった作業を支援する。 Metaはユーザーに料金を求め、月額20ドルまたは100ドルのプランを用意している。同社は約170億ドルの和解金や、自社アプリ上の危害をめぐる訴訟に直面している最中だ。

   ユーザーがMuseを信頼し、機密性の高い作業を任せるかどうかが試される。Wang氏は、このアプリはパーソナルエージェントの時代としては「かなり初期段階」だと述べている。

4. 4

   RIZAP社員、IHI健保の210人分の記録をAIに誤送信 OpenAIにも通知

   RIZAPグループは、社員がIHI健康保険の被保険者210人分の氏名や病名などの個人データを、個人的な用途で生成AIに誤ってアップロードしたと発表した。 これは内部のデータ取り扱い規定から、機密性の高い健康情報が実際に流出した事案へと発展したことを示す。RIZAPはこの情報漏えいをOpenAIに公表し、新たなレベルの説明責任を果たしたことになる。

   RIZAPとIHIが、影響を受けた個人や規制当局にどう対応するかだ。影響を受けた人数（210人）は今後の動向を注視する上での具体的な指標となる。

5. 5

   ソフトバンク、AI管理の国際規格「ISO/IEC 42001」認証を取得

   ソフトバンクが「TASUKI Annotation」のAI管理体制で「ISO/IEC 42001:2023」認証を2026年8月25日に取得。 AIガバナンスの国際規格に沿った管理体制を構築し、第三者機関の審査に合格したことを示す。これは、責任あるAIの開発・提供を進める上での信頼性向上につながる。

   認証は特定サービスの管理体制に対するもので、個々のAIシステムの性能や精度を直接保証するものではない。今後、他のプロダクトやサービスでの認証取得が焦点となる。

6. 6

   《実践》LLMセキュリティハンズオン eラーニング講座 by Mitsui Bussan Secure Direction and ChillStack

   Mitsui Bussan Secure DirectionとChillStackは、フロンティアAI時代のLLMセキュリティに焦点を当てたeラーニング講座「《実践》LLMセキュリティハンズオン eラーニング講座」の提供を開始した。 本講座は、フロンティアAIの進展に伴い新たな関心事となっているLLM向けセキュリティの実践的トレーニングを導入し、潜在的なリスクに対処するための実務スキルを提供する。

   本講座が成功するかは、セキュリティ専門家や企業がLLM導入時にこれを採用するかどうかにかかっている。発表では具体的な開始日や価格は明記されていない。