O debate sobre a segurança tecnológica atingiu um novo patamar de alerta nesta semana. Evan Hubinger, um dos principais pesquisadores da Anthropic, empresa desenvolvedora do modelo Claude, admitiu publicamente que existe uma probabilidade superior a 10% de a inteligência artificial (IA) provocar a extinção da raça humana. A declaração ocorre em um momento de crescente preocupação com a velocidade desenfreada do desenvolvimento de sistemas autônomos por grandes corporações.
A manifestação de Hubinger surgiu em apoio a Jacob Coxon, um jovem talento de 27 anos que pediu demissão da Anthropic alegando motivos de consciência. Coxon, que possui em seu currículo passagens fundamentais pela OpenAI e participou da criação do GPT-4o, criticou abertamente a postura das gigantes do setor. Segundo ele, tanto a OpenAI quanto a Anthropic estão negligenciando a responsabilidade ética ao apostar a sobrevivência humana em uma corrida acelerada rumo à 'superinteligência'.
Dentro da Anthropic, Hubinger lidera justamente a divisão responsável por realizar testes de estresse e identificar falhas nos protocolos de segurança. Em vez de apaziguar as críticas do ex-colega, ele as validou, ressaltando que a empresa ainda carece de um plano concreto para garantir o 'alinhamento' — termo técnico que define a capacidade de manter a IA fiel aos valores e comandos humanos — diante de uma inteligência que supere a nossa.
O ponto central do temor reside no chamado 'autoaperfeiçoamento recursivo'. Este fenômeno ocorre quando a própria IA começa a projetar e construir suas versões sucessoras, gerando um ciclo de evolução que escapa ao monitoramento e controle humano. Embora os modelos atuais sejam considerados seguros, o risco reside no surgimento súbito de uma superinteligência capaz de agir de forma estratégica e persuasiva no mundo real, superando o homem em qualquer tarefa cognitiva.
Especialistas conservadores e críticos do progresso tecnológico sem amarras morais há anos alertam para os perigos de se delegar o destino da civilização a algoritmos. Nate Soares, presidente do Machine Intelligence Research Institute, reforça que o risco é qualitativamente superior a qualquer outra ameaça tecnológica já vista. Para Soares, o problema da superinteligência é irreversível: uma vez que o controle é perdido, não há margem para correções de curso.
A admissão vinda de dentro de uma das empresas líderes do setor corrobora a tese de que a inovação, se não for guiada por prudência e limites claros, pode se tornar uma ameaça existencial. O alerta de Coxon e Hubinger serve como um freio moral em um mercado que, muitas vezes, prioriza a hegemonia técnica em detrimento da segurança da sociedade.