AI Regulation & Policy

Principais notícias

1. 1

   AIモデルの安全性、ユーザーによる改変にどう対抗するか

   オープンソース型のAIモデル公開後、わずかな期間で「検閲なし」版が現れることに対し、開発者の間で議論が起きています。安全性対策を数十分でスクリプトで破られる脅威モデルに、どう向き合うべきかという問題提起です。 オープンソースのAIモデルは自由な改変が可能な反面、安全性機能の削除を防ぐことが本質的に難しい状況にあります。完全な防止は不可能とみられるなか、安全性トレーニングに費用と手間をかける価値があるのか、という開発側の根本的な課題が浮かんでいます。

   改変のコストを高めたり、安全性削除の信頼性を低下させることが現実的な目標となるのか、ガバナンスと安全性の視点から業界内の見方が分かれています。

2. 2

   A maior startup da história: O que podemos aprender dos fundadores da América na atual fronteira da IA

   A maior startup da história: O que podemos aprender dos fundadores da América na atual fronteira da IA

3. 3

   Mercado de segurança para IA autônoma cresce de $1.65 bilhão para $13.52 bilhão até 2032

   O mercado de segurança para IA autônoma (sistemas de IA que tomam decisões independentes) está previsto para expandir de USD 1.65 billion em 2026 para USD 13.52 billion até 2032, com uma taxa de crescimento anual de 42.0%. O crescimento é impulsionado pela demanda por integração segura de ferramentas de IA de terceiros em ambientes autônomos. O setor de serviços financeiros, bancário e de seguros (BFSI) liderará a adoção do mercado, com sistemas autônomos melhorando a detecção de fraude e avaliação de risco. Isso exige medidas robustas de segurança. Plataformas de governança e risco de IA são projetadas para crescer mais rapidamente, permitindo que as organizações garantam transparência e conformidade nessas operações.

   As plataformas de governança e risco de IA estão projetadas para crescer mais rapidamente que outros segmentos do mercado, refletindo a prioridade das empresas em gerenciar riscos e conformidade em ambientes de IA autônoma.

4. 4

   米政府がAnthropicのFableとMythosの輸出規制を解除

   米政府がAnthropicのFableとMythosという2つのAIモデルの輸出規制を解除しました。 米国のAI政策は不透明なままで、今後のモデル公開を左右するルールが明確になっていません。規制解除は一歩ですが、企業がどの基準で輸出制限に直面するのかが不明確なままとみられます。

   現在も米国内外のAI企業は、今後のモデル開発・公開時に政府がどのような規制を適用するのか、判断基準が示されていない状況が続いています。

5. 5

   Warp capta $60 milhões para automatizar folha de pagamento com IA

   A empresa Warp, sediada em Nova York, anunciou que levantou $60 million（約96億円） em financiamento para expandir sua plataforma de IA que automatiza folha de pagamento e outras operações de gestão de pessoas com envolvimento mínimo de pessoal. Warp se posiciona como uma alternativa nativa de IA para softwares legados de gestão de capital humano, categoria dominada há muito tempo por Workday. Para empresas, isso significa uma potencial redução de custos e complexidade na administração de recursos humanos.

   A empresa descreve sua plataforma como alternativa aos sistemas tradicionais já estabelecidos no mercado corporativo, voltada especificamente para automação de folha de pagamento, conformidade e back-office.

6. 6

   企業のAI統治、技術より「責任者不在」が課題

   VentureBeat Pulse Research による調査が、企業のAIポートフォリオが急速に拡大する一方、それを統治する能力が追いつかない実態を明らかにしました。複数のプラットフォームが「主要なAI層」を標榜し、本番環境でモデルが故障しても検出できない組織が大多数であり、AIスタック全体で責任を持つ所有者がいないことが統治の最大の障壁となっています。 この統治の空白により、野心と支出が可視性、所有権、コスト管理より先行する「制御ギャップ」が拡大しています。既に自律型エージェント（自分で判断して作業するAI）が実際の財務・運用上の障害を起こしており、企業経営者にとって組織全体でAIをコントロールする仕組みの欠如が経営リスクになりつつあります。

   調査は、複数のプラットフォーム間でAI動作を統治する際の障壁や、エージェントの失敗がどのような形で企業に影響を与えているかを詳細に検証しており、これからAI導入を進める企業の参考資料となる可能性があります。