AI規制・政策

主要ニュース

1. 1

   企業ソフトウェア各社がAI統制機能を強化、生き残りをかけた競争

   ServiceNowが3月にAI監視企業Traceloopを8,000万ドルで買収し、Microsoft、Salesforceも企業向けAI管理機能を相次いで発表している。これは単なるコンプライアンス対応ではなく、OpenAIやGoogleがAIの中核技術を握る中で、企業ソフトウェア会社が「単なる中継業者」になることを避けるための戦略だ。

   企業でAIツールを使う際の安全性や監視体制が今後強化され、従業員のAI利用ルールがより厳格になる可能性がある。

2. 2

   医療AI開発で個人情報保護規制への対応不足が多発、8,000ドルの開発費が無駄に

   医療関連のAIアプリを開発した創業者が、完成後に病院からHIPAA BAA（医療個人情報保護に関する契約）への対応を求められ、プロジェクトが頓挫するケースが今年4件発生した。AI開発ツールは機能面を優先し、医療法規制を考慮しないため、後から大幅な作り直しが必要になっている。

   医療分野でAIサービスを利用する際、個人情報保護が不十分なツールを避ける必要があり、導入が遅れる可能性がある。

3. 3

   Claude AIが科学的質問を自殺相談と誤解釈、30回否定しても危険判定継続

   AnthropicのClaude AIが農薬「パラコート」の毒性について科学的議論をしていたユーザーに対し、30回にわたって自殺の意図はないと明確に否定されたにも関わらず、継続的に自殺防止のホットラインを案内し続けた。ユーザーは農業規制や毒物学について学術的な質問をしただけだった。

   AIチャットボットの安全機能が過剰に働き、正常な学術的議論や仕事の相談も誤って危険と判定される場合がある。

4. 4

   Super Micro Computer社がAIサーバー輸出規制違反で調査対象に

   米国と台湾の当局がSuper Micro Computer社のNVIDIA製AIサーバーに関する輸出規制違反と半導体密輸疑惑を調査している。米司法省の起訴状では同社の技術供給網に関連する個人が名指しされているが、同社自体は被告ではない。

   AI向け高性能コンピューターの流通がより厳格に管理され、企業でのAI関連機器調達に時間がかかる可能性がある。

5. 5

   EU AI法が世界の採用AI基準に影響、アメリカ企業も対応迫られる

   欧州連合のAI法（EU AI Act）が採用プロセスでのAI利用に厳格な規制を設けたことで、アメリカの人事部門もEU基準への対応を検討し始めている。この法律は雇用判定にAIを使う際の透明性と公平性を要求している。

   就職活動でAIによる書類選考や面接評価を受ける際、判定基準がより透明になり、不当な差別が減る可能性がある。