Large Language Models

Principais notícias

1. 1

   Microsoft lança ferramentas de cibersegurança alimentadas por inteligência artificial

   O que aconteceu: A Microsoft apresentou um conjunto de ferramentas de cibersegurança com inteligência artificial desenvolvidas para ajudar organizações a detectar e responder a ameaças. Por que importa: As ameaças de cibersegurança aumentam em sofisticação, e a inteligência artificial pode ajudar organizações a identificar e se defender contra ataques mais rapidamente do que apenas métodos manuais.

   O que acompanhar: Detalhes de disponibilidade, preços e quais produtos Microsoft integrarão essas novas capacidades de segurança com inteligência artificial.

2. 2

   Netflix Detalha Plataforma Interna de Servimento de LLM Construída em Triton e vLLM

   O que aconteceu: A Netflix publicou detalhes técnicos sobre como construiu uma plataforma interna para servir inferência de grandes modelos de linguagem (LLM)—a etapa em que uma IA produz uma resposta—combinando sua camada de servimento existente baseada em JVM com Triton para gerenciamento de modelos e vLLM para execução de inferência. Modelos menores rodam diretamente em CPUs, enquanto requisições maiores são roteadas para um sistema de servimento dedicado onde o Triton gerencia agendamento e suporte multi-framework. Por que é importante: A plataforma revela a complexidade operacional de executar modelos de IA em escala. Netflix enfrentou desafios específicos—versões de software incompatíveis impedindo implantações, modelos personalizados excedendo compatibilidade padrão e gerenciamento de estado durante requisições pausadas—que exigiram soluções de engenharia em múltiplas camadas. Isso demonstra que mesmo com APIs padronizadas, o servimento de LLM em produção exige trabalho cuidadoso de integração entre diferentes engines e hardware.

   O que observar: Netflix optou pelo backend do vLLM em vez do backend Python do Triton porque permite que modelos e interfaces evoluam de forma mais independente. A empresa também fixa versões testadas de Triton e vLLM juntas para prevenir falhas e usa estratégias de implantação versionadas para permitir que equipes façam migração em seu próprio ritmo quando esquemas de modelos mudam.

3. 3

   Dell e AMD impulsionam infraestrutura modular de IA para escalabilidade empresarial

   O que aconteceu: Dell e Advanced Micro Devices Inc. desenvolveram a Dell AI Platform com AMD para ajudar empresas a dimensionar implantações de IA, desde prova de conceito até produção, utilizando unidades modulares e compostas de armazenamento, computação, rede, e CPUs AMD Instinct e EPYC com software ROCm. Por que importa: Empresas que levam IA para produção enfrentam três desafios críticos — custos incontroláveis com precificação baseada em tokens, governança de dados e configuração de pipeline RAG, além de preocupações com segurança em escala. A infraestrutura modular permite que as organizações começem pequenas e se expandam na mesma plataforma sem redesenhar seus sistemas, evitando rearquitetura custosa.

   Fique atento: A abordagem modular Dell AI Factory permite que clientes testem e validem componentes integrados antes de dimensionar; a estrutura oferece suporte tanto a implantações no local (permitindo que empresas se tornem seus próprios geradores de tokens) quanto a modelos híbridos adaptados para diferentes cargas de trabalho.

4. 4

   IA em dispositivo da John Deere reduz uso de herbicida em 59%, reformulando estratégia de edge computing

   O que aconteceu: A tecnologia See & Spray da John Deere, executada em hardware embarcado NVIDIA Jetson, reduziu o uso de herbicida em média de 59% em comparação com a pulverização em broadcast em 2024, economizando aproximadamente 8 milhões de galões em mais de 1 milhão de acres. Em 2025, a cobertura se expandiu para 5 milhões de acres e 31 milhões de galões economizados. O sistema toma decisões de pulverização na máquina em tempo real sem conexão de rede, utilizando visão computacional para distinguir plantas daninhas de cultivos e dispara bocais individuais. Por que importa: Os resultados do See & Spray demonstram por que a inferência no dispositivo — em vez de na nuvem — se tornou essencial para sistemas em tempo real na agricultura, saúde, robótica e IoT industrial. A IA no dispositivo elimina a latência da nuvem, evita dependência de conectividade de campo confiável e evita a estrutura de custos crescentes da inferência em nuvem, onde um produto bem-sucedido se torna mais caro para operar em proporção direta ao seu sucesso. Para empresas, essa mudança significa que o gargalo de implementação se deslocou da disponibilidade bruta de computação para engenharia de plataforma: pipelines de compressão de modelos, atualizações de frota, observabilidade e gerenciamento do ciclo de vida do dispositivo agora determinam se um protótipo funcional chega à produção.

   O que observar: Os desafios de engenharia que separam protótipo de produto são substanciais. Gerenciamento do ciclo de vida da frota (lançamentos em etapas, caminhos de reversão offline, tratamento de desvio de versão em milhares de dispositivos) e observabilidade sem centralizar dados sensíveis exigem sistemas operacionais nativos de contêiner e ferramentas como K3s, MicroShift e KubeEdge. Heterogeneidade de hardware — aceleradores mais antigos e mais novos misturados na mesma frota — demanda variantes de modelo compiladas e um registro de capacidade de dispositivo. A sequência que funciona na prática: destilar o modelo primeiro para definir a arquitetura, quantizar para caber na memória e tratar poda como otimização direcionada em vez de padrão.

5. 5

   Amex GBT integra Claude AI na plataforma de viagens Egencia

   O que aconteceu: A American Express Global Business Travel (Amex GBT) integrou Claude, um assistente de IA desenvolvido pela Anthropic, na Egencia, sua plataforma de gerenciamento de viagens corporativas. A integração permite que gerentes de viagens e funcionários interajam com a Egencia por meio de consultas em linguagem natural. Por que é importante: O gerenciamento de viagens corporativas envolve reservas complexas, conformidade com políticas e rastreamento de despesas. Ao incorporar Claude diretamente na Egencia, a Amex GBT torna a plataforma mais fácil de usar para funcionários que podem não ter treinamento especializado, potencialmente reduzindo atritos nos fluxos de planejamento e aprovação de viagens das empresas.

   O que acompanhar: O cronograma de disponibilidade, os casos de uso específicos possibilitados pela integração do Claude (como aplicação de políticas ou otimização de custos) e como outros provedores de gerenciamento de viagens respondem às plataformas de viagem alimentadas por IA.

6. 6

   Booking Holdings enfrenta dificuldades conforme IA reshape o setor de reservas de viagens

   O que aconteceu: A estratégia de longa data da Booking Holdings de criar uma experiência de viagem perfeitamente integrada — abrangendo voos, hotéis, aluguel de carros e atividades — não conseguiu ganhar tração significativa, e a empresa agora enfrenta pressão de concorrentes alimentados por IA que estão reformulando como os viajantes planejam viagens. Por que importa: As reservas de viagens historicamente dependeram do modelo de marketplace dominante da Booking, mas ferramentas de IA generativa estão permitindo que viajantes planejem e reservem em múltiplos provedores com mais facilidade, potencialmente erodindo a vantagem competitiva que a Booking construiu ao longo de décadas. A incapacidade da empresa de executar sua visão de "viagem conectada" a deixa vulnerável a novos concorrentes entrando no espaço.

   O que observar: A resposta da Booking à competição impulsionada por IA e se consegue com sucesso pivotar sua plataforma para reter usuários conforme o comportamento de planejamento de viagens se desloca para a tomada de decisão assistida por IA.