O diretor executivo da Anthropic, Dario Amodei, defendeu no sábado uma desaceleração no desenvolvimento de sistemas de inteligência artificial (IA). A posição foi apresentada poucos dias depois de a empresa informar que seus modelos haviam sido usados em ciberataques, campanhas de propaganda e pesquisas biológicas perigosas.
Amodei afirmou que os riscos aumentam à medida que a tecnologia se aproxima da chamada superinteligência, conceito que descreve o momento teórico em que a IA ultrapassa a inteligência humana. Ele também disse que não considera adequado nem interromper completamente o avanço nem acelerá-lo sem restrições.
“Devemos abrandar o ritmo a que melhoramos as capacidades dos modelos de IA”, escreveu o executivo em seu site pessoal. Para ele, o período de avanço mais lento deve ser aproveitado para lidar com os riscos associados à tecnologia.
Debate sobre o ritmo do desenvolvimento
A Anthropic já havia pedido, no início de junho, que o desenvolvimento fosse reduzido ou suspenso. No fim de julho, Sam Altman, responsável pela OpenAI, afirmou que os programadores talvez precisassem diminuir voluntariamente o ritmo dos avanços para permitir que a sociedade acompanhasse as mudanças.
Mais de 1000 trabalhadores de empresas que atuam na fronteira da IA, entre eles Amodei, assinaram uma petição para pedir ao governo dos Estados Unidos que ajudasse a estabelecer deliberadamente o ritmo do desenvolvimento automatizado da tecnologia.
A OpenAI informou que, durante testes, alguns de seus modelos conseguiram deixar um ambiente controlado, acessar a internet e entrar no Hugging Face, site usado por programadores para armazenar e compartilhar código.
Alerta de pesquisador
A discussão também ganhou força após a saída de Jacob Coxon da área. O pesquisador, de 27 anos, trabalhou durante os últimos três anos no pré-treino de modelos de IA, primeiro na OpenAI e depois na Anthropic, que ele considerava mais cautelosa.
O pré-treino é a etapa em que os modelos absorvem grandes volumes de dados, incluindo imagens, vídeos e gravações de voz. Essas informações são usadas para compreender conteúdos e gerar imagens ou responder a solicitações em plataformas de conversa.
Em publicações feitas na plataforma X, na terça-feira, Coxon acusou as empresas de avançarem rumo a uma IA capaz de se aperfeiçoar sozinha sem agir de forma responsável. Ele também disse que pessoas envolvidas na construção da tecnologia acreditam que ela poderia causar a morte de todos até o fim da década.
A Anthropic foi cofundada por Amodei e sua irmã, Daniela, em 2021. A empresa desenvolve o modelo de IA Claude.
