Large Language Models

Principais notícias

1. 1

   Snowflake cria camada semântica interna para agentes de IA

   O que aconteceu: Snowflake desenvolveu uma camada semântica interna que padroniza como seus dados são interpretados por humanos e agentes de IA. A solução cria visualizações semânticas que traduzem linguagem de negócios governada em esquemas de banco de dados físicos, permitindo que agentes de IA consultem dados consistentes sem lidar diretamente com tabelas brutas. Por que é importante: Empresas modernas enfrentam um problema crítico: grandes volumes de dados geram respostas conflitantes quando definições variam entre tabelas. Um agente de IA pode relatar um número enquanto um painel antigo mostra outro, deixando ninguém sabendo qual fonte confiar. A camada semântica resolve isso criando uma única fonte de verdade, o que aumentou a precisão de texto-para-SQL de 20% para mais de 90% em testes de benchmark da AtScale com 40 questões de negócios no TPC-DS.

   O que observar: A abordagem entrega dois benefícios mensuráveis: agentes ganham velocidade ao usar visualizações semânticas em vez de dados brutos (reduzindo etapas de descoberta e amostragem), e usam significativamente menos tokens ao acessar relacionamentos de tabelas pré-agregadas em visualizações materializadas.

2. 2

   Snowflake expande governança de IA CoCo com controles de acesso e comportamento

   O que aconteceu: A Snowflake está lançando quotas de créditos de IA por usuário (já disponíveis) e três novas camadas de governança (em breve disponíveis)—gestão de políticas em toda a organização, perfis de agentes no nível de equipe e escopo de sessão restrito—que permitem aos administradores estabelecer limites de gastos, controlar quais ferramentas externas os agentes podem acessar e restringir permissões de SQL antes do início de uma sessão. Por que é importante: As equipes de plataforma e segurança agora podem aprovar acesso mais amplo ao CoCo em suas organizações em vez de confiná-lo a sandboxes ou fluxos de aprovação manual. Os controles correspondem a questões específicas de revisão de segurança: limites de gastos, consistência de políticas entre superfícies, alcance explícito de dados e acesso registrado a ferramentas externas. Os desenvolvedores herdam essas proteções automaticamente sem necessidade de configuração adicional.

   O que observar: Ferramentas do Cortex AI Gateway (prévia em breve) centraliza a governança do servidor MCP e adiciona quatro controles que não existiam anteriormente—lista de permissões no nível do servidor, política no nível da ferramenta, limites de taxa por servidor e trilhas de auditoria abrangentes de chamadas de ferramentas. As quotas por usuário são redefinidas diariamente e mensalmente independentemente, prevenindo cobranças inesperadas no final do mês e aplicando tetos de gastos no CoCo em Snowsight, CoCo CLI e CoCo Desktop.

3. 3

   Snowflake Adiciona Roteamento Inteligente de Modelos para Reduzir Custos de IA Sem Perder Qualidade

   O que aconteceu: A Snowflake introduziu o roteamento dinâmico de modelos no Cortex AI Gateway, que seleciona automaticamente o modelo de menor custo capaz de completar cada tarefa, juntamente com novos modelos abertos DeepSeek-V4-Flash 0731 (em pré-visualização privada) e GLM-5.3 (pré-visualização privada em breve). Testes internos mostraram que a abordagem de roteamento alcançou até três vezes maior eficiência de tokens em cargas de trabalho de pipeline de dados em comparação com o uso constante do modelo mais poderoso, mantendo qualidade comparável. Por que é importante: As organizações pagam por mais capacidade de IA do que a maioria das tarefas exige—um resumo semanal não precisa do mesmo poder de raciocínio que uma análise de risco de portfólio. Ao combinar a complexidade da tarefa com o custo do modelo, as empresas podem reduzir gastos de inferência sem reconstruir aplicações ou gerenciar lógica de roteamento. A abordagem da Snowflake também garante que os modelos abertos sejam executados dentro do limite de governança de dados da empresa, mantendo dados sensíveis dentro dos controles de conformidade existentes.

   O que acompanhar: O DeepSeek-V4-Flash 0731 está disponível hoje em pré-visualização privada; GLM-5.3 em breve e será auto-hospedável. No teste interno ADE-bench da Snowflake, o DeepSeek-V4-Flash obteve 74,4%, superando o modelo proprietário testado, enquanto GLM-5.2 (o antecessor) alcançou 66% de precisão com a menor pegada de tokens no benchmark, tornando-o adequado para cargas de trabalho de alto volume e sensíveis ao custo.

4. 4

   Synchrony Financial faz parceria com OpenAI em plataforma de compras com IA

   O que aconteceu: A Synchrony Financial anunciou uma colaboração empresarial com a OpenAI para apoiar experiências de compra e checkout nativas de IA em suas ofertas de financiamento, recompensas e programas de fidelidade. Por que é importante: A parceria sinaliza o compromisso da Synchrony em implementar IA em serviços financeiros essenciais. A rentabilidade recente da empresa em 30 dias de 9.15% e em 90 dias de 10.64% demonstra momentum, embora os retornos no acumulado do ano tenham caído 6.12%, deixando investidores avaliando se o preço atual da ação de $79.47 reflete valor justo ou cautela do mercado quanto aos riscos da parceria.

   O que acompanhar: A narrativa dos analistas mais seguidos avalia a Synchrony em $89.22, implicando 10.9% de potencial de alta em relação ao último fechamento. Os principais riscos a monitorar incluem pressão sobre receitas de empréstimos e qualquer interrupção nas principais parcerias com Amazon, Walmart ou PayPal, que poderiam comprometer o caso de investimento.

5. 5

   Instruir LLMs a serem concisos reduz custos em 1,5× sem perda de precisão

   O que aconteceu: Pesquisadores testaram nove LLMs—GPT-4o, GPT-4, Claude Haiku, Claude Sonnet, Qwen2.5-VL-7B, Qwen3.5-9B, DeepSeek-R1-Distill, Gemma-4-E4B e Kimi-K2.6—em cinco conjuntos de dados de respostas curtas, onze idiomas e tarefas de sumarização em formato mais longo. Mediram o impacto de custo e precisão de duas abordagens: encurtar o prompt de entrada versus instruir o modelo a produzir saídas mais breves. Por que é importante: Instruções de saída mais curta economizaram aproximadamente 1,5× em custo na média enquanto mantinham a precisão, enquanto comprimir o prompt de entrada não ofereceu o mesmo benefício. Essa descoberta é relevante para organizações que executam inferência de LLM em larga escala, onde o consumo de tokens impulsiona diretamente as despesas operacionais. O Claude Code lançou recentemente um recurso de "estilo de saída conciso" baseado neste trabalho.

   Pontos a acompanhar: O estudo avaliou o desempenho em múltiplos níveis de redução e confirmou que o texto encurtado ainda correspondia à qualidade da resposta sem restrições do modelo, sugerindo que as economias de custo não ocorrem às custas da fidelidade das respostas.