Large Language Models

主要新闻

1. 1

   Snowflake构建AI就绪的语义层以统一数百万个内部数据源

   事件经过：Snowflake创建了一个内部语义层——一个标准化的数据接口，位于原始表和AI代理之间——以解决跨越数PB业务数据的定义冲突。仅在2025年7月，超过400名内部用户通过产品数据科学代理运行了5400多个查询，超过5600名来自各个团队的员工使用更广泛的语义层运行了320000多个查询，涉及销售、人力资源、支持和其他领域。 为何重要：没有共享的语义层，同一个问题（例如"什么是活跃客户？"）在不同的表和指标定义中会返回不同的答案，迫使数据科学团队手动验证每个查询。AI代理加剧了这个问题，因为新指标和数据源以极快的速度构建，造成信息缺口。语义层将含义标准化一次，并在所有仪表板和AI代理中重复使用，减少了token使用量，并在AtScale针对40个业务问题的基准测试中将文本到SQL的准确度从20%提高到超过90%。

   关注点：Snowflake的方法使用语义视图物化来预聚合指标并在规模化下管理性能。语义层使用dbt集成进行版本控制，针对常见仪表板瓷砖（代表实际用户问题）进行测试，并由Cortex Agents智能路由到所有可用的语义视图。语义视图还与Apache Ossie™（孵化中）互操作，这是一个供应商中立的开放标准。

2. 2

   Snowflake扩展CoCo AI治理功能，新增访问权限和行为控制

   发生了什么：Snowflake推出按用户AI额度配额（现已正式推出）和三个新的治理层级（即将正式推出）——组织范围内的政策管理、团队级代理配置文件和受限会话范围——使管理员能够设定支出限额、控制代理可以访问的外部工具，以及在会话启动前限制SQL权限。 为什么重要：平台和安全团队现在可以批准更广泛的CoCo组织级访问权限，而不必将其限制在沙箱或手动审批工作流中。这些控制措施对应特定的安全审查问题：支出上限、跨界面的政策一致性、明确的数据范围和外部工具访问日志。开发人员无需额外配置即可自动继承这些护栏。

   值得关注：由Cortex AI Gateway提供的工具（即将推出预览版）集中管理MCP服务器治理，并新增四项之前不存在的控制——服务器级允许列表、工具级政策、按服务器速率限制和工具调用的全面审计跟踪。按用户配额独立按天和按月重置，防止意外的月末费用，并在Snowsight、CoCo CLI和CoCo Desktop中强制执行CoCo的支出上限。

3. 3

   Snowflake推出智能模型路由功能，在降低AI成本的同时保持质量

   发生了什么：Snowflake在Cortex AI Gateway中推出了动态模型路由功能，可自动选择能够完成各项任务的最低成本模型。同时推出新开源模型DeepSeek-V4-Flash 0731（目前在私密预览中）和GLM-5.3（私密预览即将推出）。内部测试显示，在数据管道工作负载上，这种路由方式相比始终使用最强大模型的做法，令牌效率提高了最多三倍，同时保持了相当的质量。 重要意义：企业通常为超过大多数任务所需的AI能力付费——周报总结并不需要与投资组合风险分析相同的推理能力。通过将任务复杂性与模型成本相匹配，企业可以降低推理支出，无需重建应用或自行管理路由逻辑。Snowflake的方案还确保开源模型在公司的数据治理边界内运行，使敏感数据保留在现有合规控制范围内。

   值得关注：DeepSeek-V4-Flash 0731今日起在私密预览中提供；GLM-5.3即将推出，届时将支持自托管。在Snowflake内部ADE-bench测试中，DeepSeek-V4-Flash得分74.4%，超过了所测试的专有模型，而前代GLM-5.2达到66%的准确率，同时在基准测试中的令牌占用量最低，适合大容量、成本敏感的工作负载。

4. 4

   Synchrony Financial与OpenAI合作推出AI购物平台

   发生了什么：Synchrony Financial宣布与OpenAI达成企业合作，共同开发AI原生购物和结账体验，涵盖融资、奖励和忠诚度计划。 为什么重要：该合作彰显了Synchrony在核心金融服务中部署AI的承诺。公司最近30天股价回报率为9.15%，90天回报率为10.64%，显示强劲势头，但年迄今回报率下跌6.12%，投资者正在权衡目前$79.47的股价是否反映公允价值，还是市场对合作风险的谨慎态度。

   需要关注的：跟踪最密切的分析师预期估值为$89.22，较最后交易价格隐含上涨空间为10.9%。需要监控的主要风险包括贷款应收款压力，以及与Amazon、Walmart或PayPal等主要合作伙伴关系的任何中断，这可能会削弱投资逻辑。

5. 5

   指示で出力短縮すれば費用削減 入力圧縮は無効

   研究チームが9つのLLMモデルを対象に、入力プロンプトの短縮と出力短縮の指示の効果を測定した。対象モデルはGPT-4o、GPT-5.4、Claude Haiku 4.5、Claude Sonnet 4.6、Qwen2.5-VL-7B、Qwen3.5-9B、DeepSeek-R1-Distill、Gemma-4-E4B、Kimi-K2.6。5段階の短縮レベルで同じ質問に対して評価した。 LLMの利用コストはトークン数に基づくため、出力の簡潔性が直接的な費用削減につながるという実測結果は、企業の運用効率化に影響する。一方、入力プロンプトを圧縮する方法は効果がないという発見は、よくある最適化の試みが無意味であることを示唆している。

   出力短縮指示により平均1.5倍安くなりながらも精度はほぼ維持された。評価は5つの短答データセット、11言語（英語、ドイツ語、スペイン語、フランス語、スワヒリ語、中国語、日本語、ロシア語、ベンガル語、タイ語、テルグ語）の出力テスト、および長文要約テストを含む。