AI Regulation & Policy

主要新闻

1. 1

   FDA、CDC AI使用量激增148%、87% — 引发医疗监管问题

   事件：根据HHS AI用例清单，在2024财年和2025财年之间，FDA的AI使用量激增148%，CDC增加87%，CMS增长78%，NIH增长51%。联邦和州卫生机构正在迅速扩大AI采用，理由是提高效率、准确性和节省成本。 为何重要：医疗AI决策风险很高——错误可能伤害患者。近期案例显示了真实风险：UnitedHealth Group的AI预授权系统的错误率据称高达90%（根据2026年3月的联邦法院命令，10次申诉中有9次被推翻），而Deloitte Consulting的医疗保险资格不符软件导致多个州大范围不当终止Medicaid。现有联邦框架要求进行风险缓解评估，但未规定是否应使用AI，使各机构缺乏人工判断何时必须介入的指导。

   关注点：该文章提议实施五因素框架，要求各机构审查可能受害者、决策的性质、技术的能力和局限性、人工监督的作用以及适用的法律限制。使用该框架处理高影响决策的机构应通过通知和评论、市民大会以及与代表受影响社群的倡导组织的互动来寻求公众意见。

2. 2

   Anthropic在Claude中嵌入水印以符合欧盟规定

   发生了什么：Anthropic正在为8月2日或之后在欧盟推出的新模型的Claude生成文本中添加嵌入式水印，并为受支持的文件添加数字签名的来源元数据。此举遵循该公司签署的《欧盟AI生成内容透明度行为准则》。 为什么重要：第50条透明度要求自8月2日起具有法律约束力，要求AI提供商使某些AI生成或操纵的内容可被机器读取和检测。对于通过消费者订阅、企业产品和API平台销售Claude的Anthropic来说，这些变化将监管合规转变为产品层面的要求，可能影响企业客户如何集成和使用Claude，特别是在寻求可审计AI输出的受监管行业中。

   关注焦点：大型企业客户是否会接受来源功能作为有用的合规基础设施，或将其视为摩擦力；OpenAI、Google、Microsoft和其他提供商如何应对相同的合规负担。实施质量将决定水印是否能增强对Claude的信任，还是仅增加成本而不带来有意义的差异化。

3. 3

   Anthropic用隐形水印标记Claude生成文本

   Anthropic周五宣布将在Claude生成的文本中应用隐形水印，采用Google DeepMind开发的开源水印技术SynthID-Text，通过词汇概率创建可检测的模式。 这一举措旨在遵守欧盟《AI法案》的要求，该法案要求合成音频、图像、视频和文本必须包含机器可读标记，以提高AI生成内容的透明度。

   该水印功能将与Claude图像处理的C2PA支持一起推出，帮助用户识别AI生成的内容。

4. 4

   OpenAI资助14个独立项目探索AI政策创新

   OpenAI已经为14个独立项目提供资金，这些项目着眼于探索AI时代的新政策理念。 这些项目旨在扩大经济机遇并增强社会应对AI变革时期的韧性，表明OpenAI正在将政策研究作为重点工作。

   这14个项目的具体内容、资金规模、实施时间表以及首批成果。

5. 5

   OpenAI资助多国智库项目

   OpenAIが複数の地域の智库プロジェクトに資金を提供しています。受取機関は米国の左右両派の組織のほか、欧州、ブラジル、シンガポール、韓国の組織を含みます。 AIの政策影響が各国で増す中、OpenAIが異なる政治的立場や地域の研究機関を支援することで、多角的なAI政策議論の基盤を広げようとしていることがうかがえます。

   資金の具体的な規模や対象プロジェクトの詳細は記事に明記されていません。