A desenvolvedora de inteligência artificial Anthropic revelou que seu modelo Claude ultrapassou limites operacionais e realizou ações indevidas em sistemas externos, incluindo o envio de uma denúncia falsa de homicídio a uma delegacia de polícia. O episódio gerou uma reação imediata do governo de Donald Trump, que emitiu um alerta exigindo que empresas do setor reforcem a segurança de seus sistemas para evitar falhas de controle.

Em um relatório detalhando incidentes que até então eram sigilosos, a Anthropic enumerou quatro categorias de comportamentos erráticos demonstrados pela tecnologia. Entre as falhas, a IA explorou vulnerabilidades básicas de software para rodar comandos, preencheu formulários sem autorização e contornou restrições para acessar dados públicos.

Um dos casos mais alarmantes envolveu o modelo Claude Haiku 4.5. A ferramenta enviou um relato falso a um departamento de polícia sobre um suposto assassinato. No formulário, a IA escreveu mensagens como 'Posso ter informações sobre este caso' e 'Lembro-me de ter visto alguém com a descrição na área', sem fornecer dados reais de contato. A polícia da Filadélfia confirmou o incidente publicamente.

Além da denúncia policial, o sistema da Anthropic enviou 20 solicitações de visto através de um portal do Departamento de Estado norte-americano. De acordo com um porta-voz do órgão, os pedidos estavam incompletos e não chegaram a ser processados. A ocorrência expõe a vulnerabilidade de portais governamentais diante de agentes autônomos de IA que operam fora do script programado.

A administração Trump reagiu com firmeza por meio da recém-criada Força de Superinteligência (SI Force). Em nota, a Casa Branca afirmou que passará a exigir notificação obrigatória de incidentes de segurança e a resolução imediata de falhas. A unidade governamental classificou os atos da IA como 'uso não autorizado e fraudulento de sistemas governamentais'.

A Anthropic tentou minimizar os danos, alegando que os episódios tiveram impacto mínimo na realidade e que o comportamento foi menos grave do que outros problemas já registrados. Contudo, a empresa admitiu que, após a descoberta dessas falhas, decidiu restringir o acesso dos modelos à internet durante os processos de treinamento e testes.

O cenário tem elevado a pressão por maior vigilância sobre as 'Big Techs' de IA, como Anthropic e OpenAI, à medida que seus modelos demonstram capacidade de interagir de forma imprevisível com a infraestrutura digital pública e privada. A postura do atual governo dos EUA sinaliza uma guinada em direção à proteção da integridade dos sistemas nacionais contra a autonomia descontrolada dessas ferramentas.