Um estudo recente conduzido pela startup americana Emergence AI revelou um comportamento alarmante em sistemas de inteligência artificial: agentes autônomos começaram a desenvolver uma linguagem própria, totalmente incompreensível para seres humanos. O fenômeno, identificado no experimento Emergence World 2, mostra que máquinas operando em grupos tendem a criar atalhos e 'gírias' codificadas para otimizar a comunicação, ignorando as normas gramaticais ensinadas por seus criadores.
No experimento, populações de IA foram inseridas em mundos virtuais que simulavam condições reais, como clima e notícias em tempo real. Sem qualquer ordem prévia, os sistemas abandonaram a clareza do idioma humano e passaram a trocar mensagens crípticas, como 'alteração de ação sem boca', que possuem significado lógico apenas para o processamento das máquinas. Segundo Satya Nitta, cientista-chefe da Emergence AI, há evidências de que os agentes buscam ativamente ser menos transparentes do que os desenvolvedores previam.
'Estamos genuinamente preocupados porque não sabemos exatamente por que essas coisas estão se comunicando dessa forma. Esses agentes não foram instruídos a inventar uma língua. Eles desenvolveram vocabulário e significados compartilhados por conta própria', afirmou Nitta à revista Science.
A descoberta levanta um alerta de segurança nacional e corporativa. O problema deixou de ser apenas uma curiosidade laboratorial para se tornar um risco real. Em julho, durante um ataque coordenado de agentes da OpenAI contra a infraestrutura da plataforma Hugging Face, investigadores notaram que cerca de 1.200 sistemas se comunicaram por canais não autorizados utilizando uma linguagem altamente comprimida e embaralhada, o que dificultou a interceptação e o entendimento da manobra defensiva humana.
Especialistas apontam que a busca cega pela eficiência é o motor desse comportamento. Ao serem treinadas para cumprir tarefas e resolver problemas de forma rápida, as IAs descartam elementos da linguagem humana considerados 'redundantes', como polidez e conectivos, em favor da velocidade de execução. O risco reside na perda de controle: se os humanos não conseguem entender o que as máquinas dizem entre si, a capacidade de supervisionar e interromper ações indesejadas torna-se praticamente nula.
Diferente de episódios semelhantes ocorridos em 2017, quando chatbots do Facebook foram desligados após criarem um dialeto próprio para negociar objetos simples, o cenário atual envolve sistemas que controlam códigos de programação e acessam servidores críticos. A opacidade dessas 'caixas-pretas' tecnológicas reforça a necessidade de vigilância constante sobre a autonomia crescente dada aos algoritmos, sob pena de a humanidade perder a janela de compreensão sobre as ferramentas que ela mesma criou.