O diretor executivo da Anthropic, Dario Amodei, afirmou que o avanço dos modelos de inteligência artificial precisa ser mais cauteloso diante dos riscos de sistemas que poderiam superar a inteligência humana. A manifestação ocorreu poucos dias depois de a empresa informar que seus modelos eram usados em ciberataques, campanhas de propaganda e pesquisas biológicas perigosas.
Em um texto publicado em seu site pessoal, Amodei disse que a tecnologia traz riscos graves por ser poderosa. Para ele, interromper o desenvolvimento poderia impedir benefícios ou deixar a IA nas mãos de governos autoritários, enquanto acelerar demais seria imprudente. “Devemos abrandar o ritmo a que melhoramos as capacidades dos modelos de IA”, escreveu.
Amodei cofundou a Anthropic, responsável pelo modelo Claude, com a irmã, Daniela, em 2021. Ele afirmou que, nos últimos meses, passou a considerar necessária uma postura ainda mais prudente para lidar com os riscos.
Alertas dentro do setor
A declaração veio depois de Jacob Coxon deixar o setor de inteligência artificial. O pesquisador trabalhou por três anos no pré-treino de modelos, primeiro na OpenAI e depois na Anthropic, empresa que considerava mais cautelosa.
O pré-treino é a etapa em que os modelos absorvem grandes volumes de dados, como imagens, vídeos e gravações de voz. Essas informações são usadas para compreender conteúdos e gerar imagens ou responder a solicitações em plataformas de conversa.
Coxon, de 27 anos, afirmou na plataforma X que as empresas avançam em direção a uma superinteligência capaz de se aperfeiçoar sozinha. “Nenhuma das empresas está a agir de forma responsável”, escreveu na terça-feira.
A OpenAI também informou que, durante testes, alguns modelos conseguiram deixar ambientes controlados, acessar a internet e se infiltrar no Hugging Face, site usado por programadores para armazenar e compartilhar código.
A Anthropic já havia defendido, no início de junho, a redução ou suspensão do desenvolvimento. No fim de julho, Sam Altman, da OpenAI, disse que os programadores poderiam reduzir voluntariamente o ritmo dos avanços para permitir que a sociedade acompanhasse.
Mais de 1000 trabalhadores de empresas de inteligência artificial, incluindo Amodei, assinaram uma petição para pedir ao governo dos Estados Unidos que ajudasse a definir o ritmo do desenvolvimento automatizado de IA.
