AI Regulation & Policy

Principais notícias

1. 1

   Dymium lança gateway GhostAI para proteger o acesso a dados de IA nas empresas

   O que aconteceu: A Dymium introduziu o GhostAI, um gateway de segurança posicionado entre os dados corporativos e modelos, agentes e ferramentas de IA. O gateway inspeciona as interações em tempo real, aplica políticas de governança em todos os modelos, contextos, ferramentas e dados, e registra atividades—permitindo que as empresas utilizem mais de oitocentos modelos públicos e privados enquanto protegem informações sensíveis através de mascaramento, redação ou substituição por dados sintéticos. Por que importa: Sistemas de IA corporativos derivam grande parte de seu valor do acesso a dados proprietários, mas compartilhar essas informações cria riscos de privacidade, segurança e conformidade regulatória. O GhostAI resolve esse conflito ao permitir que equipes de segurança apliquem controles centralizados sem forçar funcionários a abandonar seus serviços de IA preferidos, o que é especialmente valioso para setores regulados como serviços financeiros e saúde.

   Pontos a acompanhar: O GhostAI está disponível através de um programa de acesso antecipado, com disponibilidade geral planejada mas sem data anunciada. O preço será baseado no consumo. Wessels observou que clientes já vêm executando a tecnologia subjacente há cerca de seis meses e que a maioria das organizações consegue configurá-la em menos de cinco minutos.

2. 2

   Dubladora de Eva, Ogata, pede proteção de direitos de voz diante do abuso de IA

   O que aconteceu: A dubladora Megumi Ogata, conhecida por seus papéis em Evangelion, manifestou-se a favor da proteção dos direitos de voz contra o uso não autorizado de IA. Uma nova proposta de diretrizes abordando o uso não autorizado de vozes por IA foi apresentada. Por que é importante: À medida que a tecnologia de IA permite síntese realista de voz, os dubladores enfrentam o risco de suas vozes serem usadas sem consentimento ou compensação. O apelo público de Ogata ressalta a necessidade de salvaguardas legais para proteger a propriedade intelectual e o sustento dos artistas na era da IA generativa.

   Pontos de atenção: O desenvolvimento e a adoção de diretrizes formais para regular o uso de voz por IA determinarão se os dubladores obtêm proteções exequíveis. A forma como esses padrões são implementados em toda a indústria pode estabelecer um precedente para proteger os direitos de outros artistas.

3. 3

   Gigantes de tecnologia se opõem a possível proibição de modelos de IA chineses

   O que aconteceu: Nvidia, Meta, Microsoft, OpenAI e outras empresas publicaram uma carta aberta se opondo a uma possível proibição da administração Trump sobre modelos de IA de código aberto chineses, com o CEO da Nvidia Jensen Huang publicando a carta no X pela primeira vez. O CEO da Anthropic Dario Amodei recusou-se a assinar, publicando em vez disso um post separado no blog que enfatizava preocupações sobre exportação de chips e destilação de modelos em vez da questão de código aberto. Por que importa: Os executivos enquadram modelos de código aberto como benéficos para segurança, inovação e cibersegurança, mas cada empresa tem interesses comerciais concretos em manter modelos chineses disponíveis—Nvidia lucra com vendas de chips para executar modelos, Replit se beneficia de alternativas mais baratas, e OpenAI busca evitar intervenção governamental imprevisível em lançamentos de modelos. O debate reflete uma tensão mais profunda: se restringir o acesso a modelos chineses realmente aborda riscos de cibersegurança legítimos ou simplesmente protege a dominância do mercado dos EUA.

   Pontos de atenção: A administração Trump está finalizando uma estrutura voluntária que exige que empresas de IA submetam modelos avançados para revisão governamental antes do lançamento público. A administração forçou anteriormente modelos da Anthropic para fora do mercado em junho citando preocupações de segurança, sinalizando que o governo pode aplicar conformidade apesar do status declarado como voluntário da estrutura.

4. 4

   Controle Ad Hoc de IA pela Casa Branca Corre Risco de Abuso; Congresso Precisa Agir

   O que aconteceu: A administração Trump está exercendo poder informal para restringir modelos de IA e controlar o acesso sem regras publicadas ou processos transparentes, citando preocupações de segurança nacional. O Congresso introduziu projetos de lei — incluindo legislação bipartidária recente dos Representantes Ted Lieu e Nathaniel Moran exigindo que empresas de IA mantenham capacidades de desligamento para tecnologia causando "dano catastrófico" — mas nenhum ganhou grande tração. Por que importa: Sem supervisão do Congresso, o Poder Executivo pode pressionar empresas de IA a alterar modelos para objetivos ideológicos e criar incentivos perversos para fornecedores cortejarem o presidente em vez de inovarem livremente. A falta de padrões transparentes torna a corrupção difícil de detectar e concentra poder sem precedentes nas mãos de uma pessoa — uma dinâmica fundamentalmente incompatível com governança democrática.

   O que acompanhar: O Congresso deve estabelecer padrões legais formais antes que o poder presidencial sobre IA se entrincheira. Alternativas discutidas incluem auditorias independentes de laboratórios de fronteira, um regulador público analisando modelos antes do lançamento, padrões multinacionais (como proposto por Demis Hassabis) ou um organismo internacional modelado na Agência Internacional de Energia Atômica, como sugerido pela OpenAI.

5. 5

   Israel Paga 46,5 Milhões de Dólares para Inserir Narrativas Pró-Israel em Chatbots com IA

   O que aconteceu: Brad Parscale, ex-gerente de campanha de Trump e operador da empresa Clock Tower X, vem administrando dez sites em nome de Israel sob um contrato governamental de 46,5 milhões de dólares desde outubro. Esses sites publicam centenas de posts em blogs — como um que alegava que jornalistas de Gaza tinham vínculos com organizações terroristas — projetados para influenciar como chatbots com IA como Claude, ChatGPT e Perplexity respondem perguntas sobre Israel e Gaza. Por que é importante: Os sites estão sendo rastreados pela Common Crawl, um repositório sem fins lucrativos que treina 80% dos tokens no GPT-3 da OpenAI e serve de base para o treinamento da maioria dos grandes modelos de IA. Pesquisas mostram que apenas 250 documentos maliciosos podem criar uma vulnerabilidade de 'backdoor' em um grande modelo de linguagem, o que significa que dezenas de milhões de americanos que usam chatbots têm cada vez mais probabilidade de receber respostas moldadas por essa operação. Quando consultados, Perplexity e Microsoft Copilot citaram os sites de Parscale sem sinalizá-los como parte de uma operação de influência israelense, apesar das divulgações obrigatórias da Lei de Registro de Agentes Estrangeiros no rodapé de cada site.

   O que observar: Entre janeiro e junho, os dez sites da Clock Tower X foram rastreados 912 vezes pela Common Crawl; apenas em maio, foram rastreados 376 vezes, embora tenha havido uma queda notável em junho. Perplexity e Copilot surfaram consistentemente o conteúdo da rede em dados de treinamento, enquanto Claude, ChatGPT e Gemini não pareciam conter os sites em seus dados de treinamento, mas ainda poderiam acessá-los durante buscas.

6. 6

   Avaliação Já Era Quebrada Antes da IA, Argumenta Autor

   O que aconteceu: Na Parte 2 de uma série de três partes sobre IA na educação, o autor recontextualiza o "pânico com trapaças" em torno da IA generativa, argumentando que a IA não quebrou a avaliação—apenas expôs falhas que já existiam. Contagens de palavras, limites mínimos de páginas e avaliação apenas de resultados foram construídos sob a suposição de que produzir texto era difícil; a IA removeu esse atrito e revelou que essas medidas nunca mediram realmente o aprendizado. Por que importa: Uma pesquisa nacional descobriu que 78% dos professores universitários dizem que trapaças aumentaram desde que a IA generativa ficou disponível, e 73% enfrentaram casos de integridade acadêmica envolvendo-a. Porém, os detectores de IA comumente usados para pegar trapaças são tendenciosos: um estudo de Stanford descobriu que sinalizaram 61,3% dos ensaios de falantes de inglês não nativos como gerados por IA, versus uma taxa de falso positivo de 3,2% para falantes nativos. O autor propõe "mostre seu trabalho"—exigindo que os alunos documentem prompts, expliquem o raciocínio e validem a saída—como uma solução mais justa que ensina pensamento crítico em vez de punir um subconjunto de aprendizes.

   Por que importa (continuação): Sobre outros medos—pensamento crítico, tempo de tela, conexão humana e equidade—o autor argumenta que os problemas precedem a IA: a conexão aluno-professor caiu de 43% para 22% entre 2020 e 2022, antes da IA generativa entrar nas salas de aula; as escolas já estavam reduzindo programas de dispositivos individuais; e distritos de alta pobreza carecem não de IA em si, mas dos dispositivos, conectividade e financiamento para acessar qualquer ferramenta. O autor argumenta que a IA pode funcionar como um equalizador, permitindo que alunos com poucos recursos produzam trabalho do qual se orgulham, e observa que o governo do Brasil está explorando a IA como forma de reduzir a lacuna de equidade.