AI規制・政策

主要ニュース

1. 1

   Expedia、AIの信頼性と規模性を重視 旅行体験全域で蓄積

   Expediaは、旅のパーソナライズ、ランキング、レコメンデーションなど旅行カスタマージャーニー全体にわたりAIと機械学習を何年もかけて適用してきました。同社は、単に今動作するAIと、規模を超えても継続して機能し改善され続けるAIの間に重要な区別があると述べています。 AIシステムが予測や最適化だけでなく、対話・推論・行動を取るようになる中で、旅行者の代わりに意思決定を下す自律型システムは信頼性、ガバナンス、説明責任をめぐる異なる期待を生み出します。速度だけでは規模性がなければ負債になり、システムが複数のチーム・用途を超えて継続的に機能することが最大の課題とみられます。

   Expediaは、個別チームの枠を超えてスケールし、時間とともに一貫して改善し続けるAIシステムの構築に力を入れています。

2. 2

   ByteDance・Alibaba、AIチャットボット機能を廃止 中国規制に対応

   ByteDanceとAlibabaが、ユーザーがカスタムAIコンパニオンを構築・チャットできる機能をシャットダウンしています。これは北京からの新しい規制に対応した動きです。 中国の大手AI企業が人間らしいチャットボット機能を廃止することで、AIの利用に関する規制が実際の事業に影響を与えていることを示しています。中国で事業展開する企業にとって、政府規制への適応が避けられない課題であることを浮き彫りにしています。

   記事には、この規制の具体的な内容や実施時期に関する詳細は記載されていません。

3. 3

   Anthropic's Claude が Microsoft Corporation (MSFT) Foundry で利用可能に、Nvidia GPU によるサポート

   Anthropic's Claude が Microsoft Corporation (MSFT) Foundry で利用可能に、Nvidia GPU によるサポート

4. 4

   ComplianceAgent: オープンソースEU AI Act コンプライアンススキャナー

   ComplianceAgent: オープンソースEU AI Act コンプライアンススキャナー

5. 5

   EU AI規制対応ツール ActHub 中小企業向けに公開

   ActHub という EU AI Act（EU の AI 規制法）への準拠を支援するツールキットが、PHP で開発され、フレームワークなしで小規模ビジネス向けに公開されました。 EU AI Act は EU 圏内で AI を利用・販売する企業に対応が求められており、特に中小企業にとって規制要件の理解と実装は負担が大きい。ActHub のようなオープンソースツールは、専門知識がない企業でも法令準拠に近づく手助けになる可能性があります。

   GitHub（あるいは公式サイト）で無料で利用できるほか、コミュニティによるサポートも受け付けている見込みです。

6. 6

   オープンソースLLM、安全性破壊への耐性に課題

   Reddit のAI安全性コミュニティで、オープンウェイト（公開されている重み付け）のLLM（文章を理解・生成するAI）について、リリース後30分で自動化スクリプトを使用して安全性防御が破壊される現状が指摘されました。新モデル公開直後に「検閲されていない」亜種が素早く登場するという現象が報告されています。 オープンウェイト LLM の開発企業は、安全性訓練にコストと時間をかけていますが、その効果が短時間で無効化されるのであれば、現在の安全対策の費用対効果が問われることになります。決定された利用者による改変やモデルの切り替えを完全に防ぐのは困難なため、安全性の維持がオープンソースモデルのリリース戦略に与える影響は大きいとみられます。

   議論では、完全な防止は不可能でも、攻撃者のコストを上げる、または安全性除去の信頼性を低下させることが実用的な成果になり得るかという問題提起がされています。モデルリリース、ガバナンス、AI安全研究の各観点からの検討が必要とされています。