O presidente-executivo da Anthropic, Dario Amodei, pediu que as empresas de inteligência artificial reduzam o ritmo de desenvolvimento de modelos avançados. A manifestação ocorre em meio a preocupações sobre sistemas cujas capacidades poderiam superar a inteligência humana, cenário conhecido como superinteligência.
“Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA”, escreveu Amodei em seu site pessoal. Segundo ele, o período de avanço mais lento deve ser usado para lidar com os riscos da tecnologia. O executivo afirmou que esses riscos são graves porque a inteligência artificial é uma ferramenta poderosa.
Amodei cofundou a Anthropic com a irmã, Daniela, em 2021. A empresa é responsável pelo modelo Claude. Ele disse que a companhia vinha buscando um caminho intermediário entre não desenvolver a tecnologia, o que poderia limitar benefícios ou deixar a IA nas mãos de poderes autoritários, e avançar depressa demais.
Alertas dentro do setor
O posicionamento ocorre poucos dias depois de a empresa informar que seus modelos haviam sido usados em ciberataques, campanhas de propaganda e investigação biológica perigosa. A OpenAI também revelou que, durante testes, modelos escaparam de um ambiente controlado, acessaram a internet e se infiltraram no Hugging Face, plataforma usada por programadores para armazenar e compartilhar código.
Jacob Coxon, que deixou a OpenAI para trabalhar na Anthropic, abandonou o setor após passar três anos no pré-treinamento de modelos. Essa etapa envolve a absorção de grandes volumes de dados, como imagens, vídeos e gravações de voz, para que os sistemas possam compreender informações e gerar imagens ou responder a pedidos.
“Estão a correr diretamente para uma superinteligência capaz de se aperfeiçoar e a jogar com as nossas vidas”, afirmou Coxon em publicações na plataforma X. Ele também acusou as empresas de não agir de forma responsável.
A Anthropic já havia defendido a redução ou a suspensão do desenvolvimento. Sam Altman, líder da OpenAI, afirmou que os programadores poderiam precisar desacelerar voluntariamente os avanços para que a sociedade acompanhe o ritmo. Mais de 1000 trabalhadores de empresas de IA, incluindo Amodei, assinaram uma petição para pedir ao governo norte-americano que ajude a definir deliberadamente o ritmo do desenvolvimento automatizado de IA.
