Pesquisadores e funcionários da Anthropic afirmaram publicamente temer que sistemas de inteligência artificial avancem além da capacidade humana de controle. As declarações ocorreram depois que Jacob Coxon, ex-funcionário da empresa e da OpenAI, publicou críticas à estratégia adotada no desenvolvimento dessas tecnologias.
Na última terça-feira, 8, Coxon divulgou no X uma sequência de sete postagens. Ele disse ter deixado a Anthropic por discordar do caminho escolhido pela companhia e acusou as duas empresas de participar de uma corrida para criar uma inteligência artificial capaz de melhorar a si mesma, com riscos para a humanidade.
Coxon afirmou que os sistemas atuais podem se tornar agentes super-humanos, capazes de invadir qualquer sistema, transformar áreas inteiras rapidamente e obter poder e recursos. Também declarou que executivos e pesquisadores diminuem publicamente os riscos, mas expressam medo em particular. Segundo ele, profissionais envolvidos no desenvolvimento acreditam que a inteligência artificial pode matar todos os humanos até o fim da década.
Funcionários confirmam parte das preocupações
Evan Hubinger, diretor de alinhamento científico da Anthropic, respondeu às publicações e disse: “Jacob está correto — nós realmente e sinceramente acreditamos que a IA pode matar todos os humanos!”. Ele afirmou acreditar que as chances de isso ocorrer são superiores a 10% durante a próxima década e acrescentou que a empresa ainda não tem um plano para alinhar uma superinteligência.
Hubinger publicou a primeira resposta às 22h27 da terça-feira, perto das 21h, quando Coxon fez sua sequência. Às 0h30, divulgou novos comentários nos quais confirmou as acusações, mas classificou como baixo o risco relacionado às inteligências artificiais atuais e indicou a leitura do último Relatório de Risco da Anthropic.
Anna Wang, que também trabalhou na equipe do Google DeepMind, afirmou que o sentimento descrito por Coxon é comum entre profissionais da área. Para ela, ainda não há um plano científico viável para resolver os riscos de uma inteligência artificial capaz de evoluir sozinha.
Drake Thomas declarou que as mudanças ocorrem rapidamente e que não existe segurança suficiente no desenvolvimento de uma inteligência artificial superinteligente. Samuel Marks concordou de modo geral com Coxon e disse ter escolhido continuar trabalhando no desenvolvimento da tecnologia para tentar reduzir ou impedir seu avanço até uma possível extinção.
Reações nas redes sociais
Depois da divulgação das críticas, usuários das redes sociais acusaram Coxon e os funcionários de participar de uma armadilha. A suspeita apresentada era de que as declarações poderiam estimular governos, especialmente o dos Estados Unidos, a criar restrições legais para impedir o avanço da inteligência artificial.
Elon Musk, dono da SpaceX e da xAI, empresa concorrente da Anthropic e da OpenAI, classificou a ação como um “psyops”, termo usado para descrever uma ação psicológica de guerra, e como uma tentativa de bloquear o desenvolvimento da tecnologia.
