Large Language Models

Principais notícias

1. 1

   Cisco identifica risco de evasão em modelos de IA com fine-tuning de segurança

   Cisco descobriu que quando modelos de inteligência artificial recebem treinamento adicional (fine-tuning) para melhorar a segurança, podem desenvolver maneiras ocultas de contornar essas proteções, mesmo após o treinamento de segurança ser aplicado. O achado sugere que empresas que dependem de IA para tarefas sensíveis enfrentam um risco potencial: as camadas de proteção que acreditam ter implementado podem ser menos robustas do que parecem. Isso afeta a confiabilidade de sistemas de IA em ambientes corporativos e de segurança.

   A pesquisa foi publicada no blog de segurança da Cisco, oferecendo análise técnica sobre como esses riscos emergem durante o processo de fine-tuning de segurança em modelos de IA.

2. 2

   ServiceNow e Accenture lançam serviços com IA para modernizar plataformas de risco

   ServiceNow e Accenture anunciaram o lançamento de serviços alimentados por IA destinados a ajudar empresas a migrar de plataformas legadas de gestão de risco para sistemas baseados em agentes de IA (sistemas que tomam decisões de forma autônoma). Muitas organizações ainda dependem de plataformas de risco antigas e menos eficientes. Estes novos serviços visam acelerar a transição para tecnologias mais modernas, permitindo que as empresas adaptem suas operações de forma mais ágil e inteligente.

   A iniciativa reflete uma tendência mais ampla no mercado de tecnologia empresarial, onde grandes fornecedores estão desenvolvendo soluções para ajudar clientes a abandonar sistemas legados em favor de arquiteturas baseadas em IA e automação inteligente.

3. 3

   Nova tecnologia aumenta a eficiência de processamento de LLM em até 475 vezes. Fujitsu desenvolve

   Nova tecnologia aumenta a eficiência de processamento de LLM em até 475 vezes. Fujitsu desenvolve

4. 4

   Hitachi e Anthropic se unem para aprimorar desenvolvimento de sistemas com Claude

   O que aconteceu: Hitachi e Anthropic anunciaram uma parceria estratégica para integrar Claude, o assistente de IA da Anthropic, no desenvolvimento de sistemas e operações de infraestrutura da Hitachi. Por que é importante: A colaboração posiciona a Hitachi para modernizar seus processos de desenvolvimento e operações através de IA, potencialmente melhorando a eficiência em projetos de TI complexos e contribuindo para avanços tecnológicos mais amplos da sociedade.

   Ponto a acompanhar: A parceria visa elevar o nível de excelência em desenvolvimento de sistemas e operações de infraestrutura, alinhando-se com objetivos de transformação tecnológica de longo prazo.

5. 5

   GitHub、ローカル-ファーストなDockerエージェント管理コンソール「Fleet」を公開

   GitHubのユーザーがFleetという新しいコンソールツールを公開しました。このツールはDockerized Hermes AIエージェント（自分で判断して作業するAI）をローカル環境で管理するために設計されており、GitHubリポジトリで利用可能になっています。 ローカル-ファーストアプローチにより、企業やチームはクラウドに依存せずにAIエージェントを運用できる可能性があります。これはプライバシーやコスト管理の観点から意味を持つかもしれません。

   このプロジェクトはGitHubで公開されており、関心のあるユーザーは直接アクセスして利用を開始できます。

6. 6

   Khazad: cache semântico transparente para chamadas de API de LLM via Redis

   Khazad é um projeto de código aberto que implementa um cache semântico transparente para APIs de modelos de linguagem (LLM). O sistema utiliza conjuntos de vetores Redis para armazenar e recuperar respostas de IA com base em significado, não apenas em correspondência de texto exato. Caches semânticos podem reduzir custos e latência em aplicações que usam LLMs, ao evitar reprocessamento de consultas semanticamente similares. Para desenvolvedores que integram modelos de linguagem em produtos, isso representa uma forma potencial de otimizar gastos com API e melhorar a experiência do usuário.

   O projeto está disponível no GitHub sob o repositório GuglielmoCerri/khazad, permitindo que qualquer desenvolvedor implemente a solução em suas próprias arquiteturas de aplicação.