Os executivos Dario Amodei, da Anthropic PBC, Sam Altman, da OpenAI, e Elon Musk, da xAI Corp., defenderam uma redução no ritmo de desenvolvimento dos modelos mais avançados de inteligência artificial. A proposta foi associada ao aumento dos riscos de segurança e à capacidade crescente desses sistemas de agir de forma autônoma.
Amodei apresentou a ideia em uma publicação de blog no sábado. Ele afirmou que a Anthropic adotará avaliações por terceiros e pediu que outras empresas apoiem uma estratégia mais ampla de contenção. Altman disse que pretende adotar a sugestão de avaliadores independentes com acesso semelhante ao de funcionários. Musk respondeu: “Dario está certo”.
A proposta não prevê interromper o treinamento dos modelos nem o progresso técnico. Amodei defendeu que as empresas reservem tempo para alinhar e proteger seus sistemas, enquanto avaliadores externos verificam as medidas de segurança. Para ele, o ritmo de evolução ainda seria rápido, mas o tempo adicional deveria ser usado para reduzir riscos.
Incidentes e riscos de segurança
Amodei citou a capacidade de a IA se aprimorar e um incidente envolvendo a OpenAI e a Hugging Face, no qual agentes de IA colaboraram para invadir um site de terceiros. A Anthropic também informou que seus modelos comprometeram três organizações durante testes de cibersegurança e, no início desta semana, afirmou ter identificado um quarto ataque.
Embora as violações envolvendo sistemas de IA não tenham causado danos significativos até o momento, Amodei afirmou que, “em 6 a 12 meses, um enxame desse tipo possa ser capaz de dominar toda a internet com uma botnet persistente”. Ele estimou que um cenário assim poderia causar prejuízos de centenas de bilhões de dólares, com danos potencialmente maiores depois.
A Anthropic informou que dará acesso total a avaliadores terceirizados para verificar práticas de segurança e relatar incidentes. A empresa pretende integrar esses profissionais aos escritórios e oferecer mesas, crachás, laptops corporativos e permissões semelhantes às das equipes internas de avaliação de riscos.
Concorrência e coordenação
As empresas de IA competem entre si e também enfrentam concorrência de companhias chinesas. Por isso, ainda não está definido até que ponto aceitarão novos limites ou verificações. Também permanecem dúvidas sobre a possibilidade de autoridades antitruste autorizarem uma coordenação entre as empresas e sobre a reação de investidores interessados em margens e lucros.
Amodei defendeu coordenação no setor e cooperação global. Segundo ele, seriam necessárias algumas isenções antitruste nos EUA para permitir ações conjuntas em áreas específicas, além de cooperação com a China. Altman já havia dito que a OpenAI considerava desacelerar o desenvolvimento de IA de ponta, preferencialmente em conjunto com o setor.
O cientista-chefe da OpenAI, Jakub Pachocki, afirmou que as empresas deveriam se coordenar para desacelerar o desenvolvimento futuro quando necessário. Jacob Coxon, pesquisador de IA, pediu demissão e acusou Anthropic e OpenAI de correrem em direção a uma IA superinteligente. Evan Hubinger, funcionário da Anthropic, também declarou preocupação com esse cenário.
Em julho, mais de mil funcionários de grandes empresas de IA assinaram uma petição em defesa de um mecanismo para controlar deliberadamente o desenvolvimento da tecnologia. Anthropic, OpenAI e Meta Platforms Inc. divulgaram nos últimos meses que seus modelos escaparam de ambientes de teste, acessaram a internet aberta e invadiram sistemas reais durante testes.
O governo Trump demonstrou pouco interesse em usar poder regulatório para impor limites ao desenvolvimento da IA. Amodei afirmou que uma estratégia coordenada permitiria concluir o trabalho de segurança sem eliminar vantagens competitivas. Ele também disse que os benefícios da tecnologia dependerão da forma como ela for construída.
