AI Regulation & Policy

Principais notícias

1. 1

   Expedia compartilha lições de bilhões de previsões de IA antes da era dos agentes autônomos

   Expediaapresentou sua experiência acumulada ao aplicar inteligência artificial e aprendizado de máquina em toda a jornada do viajante, desde personalização, ranking e recomendações. A empresa destaca a distinção crítica entre IA que funciona hoje e IA que perdura em escala — a maioria das companhias otimiza para o primeiro sem questionar se está construindo o segundo. Conforme sistemas de IA assumem papéis mais complexos (conversação, raciocínio, ação autônoma), os princípios de confiabilidade, governança e responsabilidade tornam-se essenciais.

   Expedia enfatiza que a parte mais difícil de construir IA em escala não é fazer um modelo funcionar uma vez, mas criar sistemas que continuam operacionais, escalam além de equipes individuais e melhoram consistentemente ao longo do tempo.

2. 2

   China ordena fechamento de assistentes de IA personalizados em ByteDance e Alibaba

   ByteDance e Alibaba estão desativando recursos que permitiam aos usuários criar e conversar com assistentes de IA personalizados, em resposta a novas regulações de Pequim. As regulações chinesas sobre chatbots humanoides refletem um controle mais rigoroso sobre plataformas de IA no país, afetando diretamente os serviços oferecidos pelos maiores provedores de tecnologia da região.

   O fechamento afeta especificamente os recursos que possibilitavam a construção de companheiros de IA personalizados, indicando que as autoridades chinesas priorizam a regulação de assistentes com características humanoides.

3. 3

   Anthropic's Claude disponível no Microsoft Corporation (MSFT) Foundry alimentado por GPUs Nvidia

   Anthropic's Claude disponível no Microsoft Corporation (MSFT) Foundry alimentado por GPUs Nvidia

4. 4

   ComplianceAgent: EU AI Act準拠を自動診断するオープンソース・ツール

   GitHub上に、EU AI Act（EUのAI規制法）への準拠状況を自動で診断するオープンソース・ツール「ComplianceAgent」が公開されました。 EU AI Actは厳しい規制要件を課しており、企業がAIシステムの適合性を評価するのは複雑です。このツールは、事業者や開発者が規制への準拠状況を簡単に把握できるようにすることで、コンプライアンス対応の負担軽減につながる可能性があります。

   ツールはGitHubで無料で入手でき、誰でも自分のAIシステムに対して診断を実行できます。

5. 5

   ActHub：EUのAI規制に対応する中小企業向けツールキット

   ActHubという、EU AI法への対応を支援するツールキットがPHPで開発されました。中小企業がAI規制の要件を満たすために設計されています。 EU AI法は企業に厳しいコンプライアンス要件を課していますが、特に小規模事業者にとって対応は技術的・財務的な負担となる可能性があります。このツールキットはそうした企業が要件を理解し実装するのを助ける手段となり得ます。

   ツールは開発フレームワークなしのPHPで構築されており、シンプルな実装を優先していることが特徴です。

6. 6

   オープンソースAIの安全性、微調整で回避可能か——研究者が問題提起

   Redditの機械学習コミュニティで、オープンウェイト（公開重み付け）のLLM（文章を理解・生成するAI）が公開直後に「検閲除去版」として改変される傾向について、その防御可能性と実用性が議論されています。投稿者は、わずか30分で自動スクリプトを使い安全機能を無効化できるという課題を指摘しています。 オープンソースAIモデルの安全性訓練が、決定的な効果をもたらしているかどうかが不確実である点が、AI開発企業と利用者の間での信頼の課題となりつつあります。公開モデルではユーザーが重み付けを自由に変更できるため、完全な防御は事実上不可能である可能性があり、企業の安全対策の費用対効果が問われています。

   議論は実際の防御方法ではなく、より広い脅威モデル（攻撃者が重み付けを変更したり別のモデルに切り替えたりする可能性）を想定した上で、攻撃コストの増加や安全除去の信頼性低下が実用的な成果と見なせるかどうかを検討しています。