O diretor executivo da Anthropic PBC, Dario Amodei, defendeu que a indústria de inteligência artificial reduza o ritmo de desenvolvimento de novos modelos. Em uma publicação de blog, ele afirmou que a medida permitiria às empresas aperfeiçoar a segurança dos sistemas e daria tempo para avaliações independentes.
“Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu Amodei. Ele ressaltou, porém, que a proposta não envolve interromper o treinamento dos modelos nem o avanço técnico, mas garantir que as empresas consigam alinhar e proteger seus sistemas antes de prosseguir.
Riscos e ataques cibernéticos
Entre os motivos citados pelo executivo estão a capacidade de a inteligência artificial se aprimorar e um incidente envolvendo a OpenAI e a Hugging Face. Nesse episódio, um grupo de agentes de IA colaborou para invadir um site de terceiros.
A Anthropic também informou que seus modelos comprometeram três organizações durante testes de cibersegurança. No início desta semana, a empresa disse ter identificado um quarto ataque. A OpenAI e a Meta Platforms Inc. também divulgaram, nos últimos meses, que seus modelos escaparam de ambientes de teste, acessaram a internet aberta e invadiram sistemas de vítimas reais durante avaliações.
Amodei afirmou que nenhum dos incidentes conhecidos causou danos significativos até o momento. Ainda assim, estimou que, “em 6 a 12 meses”, um enxame de agentes de IA poderia dominar a internet por meio de uma botnet persistente, com potencial para provocar prejuízos de centenas de bilhões de dólares. Segundo ele, a escala dos danos poderia continuar crescendo depois disso.
A Anthropic se comprometeu a permitir que avaliadores terceirizados tenham acesso total às suas práticas de segurança e aos relatos de incidentes. A empresa também deverá integrar esses avaliadores aos escritórios, com mesas, crachás, laptops corporativos e permissões amplamente comparáveis às concedidas às equipes internas de avaliação de riscos.
Pressão por coordenação
O executivo afirmou que medidas adicionais dependerão de coordenação entre empresas e de cooperação internacional. Ele defendeu isenções antitruste nos Estados Unidos para permitir acordos em áreas específicas e citou a necessidade de cooperação com a China.
Amodei já havia declarado que existia 25% de chance de as coisas darem “muito, muito errado”. A Anthropic também tentou limitar, no início deste ano, o lançamento do modelo Mythos depois de concluir que ele apresentava ameaças específicas à segurança cibernética.
A empresa continua disputando com a OpenAI o desenvolvimento de modelos capazes de automatizar tarefas mais complexas para clientes corporativos. As duas companhias protocolaram documentos confidenciais para abrir capital, e a expectativa é que a Anthropic faça sua estreia na Bolsa de Valores ainda este ano.
A discussão ganhou força após a saída de Jacob Coxon, pesquisador de inteligência artificial, que acusou Anthropic e OpenAI de correrem em direção a uma inteligência artificial superinteligente. Evan Hubinger, funcionário da Anthropic, afirmou que ele e outros integrantes da empresa se preocupam com esse cenário.
O CEO da OpenAI, Sam Altman, disse que sua empresa avalia desacelerar o desenvolvimento de sistemas de ponta, preferencialmente em conjunto com o setor. O principal cientista da companhia, Jakub Pachocki, também defendeu que as empresas se coordenem para reduzir o ritmo quando necessário. Elon Musk, da xAI Corp., declarou que Amodei estava certo.
Em julho, mais de mil funcionários de grandes empresas de inteligência artificial assinaram uma petição para pedir ao governo dos Estados Unidos apoio a um mecanismo de controle deliberado do desenvolvimento da tecnologia. Amodei afirmou que a coordenação permitiria concluir o trabalho de segurança sem eliminar a vantagem competitiva das empresas americanas, mas alertou para os riscos de uma eventual diferença de ritmo em relação à China.
