O presidente-executivo da Anthropic, Dario Amodei, pediu que as empresas de inteligência artificial reduzam o ritmo de avanço das capacidades de seus modelos. A proposta busca ampliar o tempo disponível para identificar e administrar riscos associados ao uso indevido da tecnologia, sem interromper o desenvolvimento técnico.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, afirmou Amodei em um ensaio compartilhado no X. Ele disse que o progresso continuará rápido, mas que o tempo obtido deve ser usado para alinhar e proteger os sistemas.
Estrutura para controle de riscos
A proposta de Amodei é organizada em três etapas. Entre as medidas apresentadas está a instalação, pela Anthropic, de revisores independentes permanentes dentro de empresas pioneiras em inteligência artificial. Esses profissionais teriam acesso a ferramentas relevantes e aos processos internos usados para avaliar riscos.
Amodei também defendeu que as empresas dediquem tempo suficiente à proteção dos modelos e que avaliadores externos confirmem a adoção dessas medidas. Ele afirmou ainda que as companhias deveriam colaborar voluntariamente na criação de padrões para o setor.
O posicionamento foi divulgado depois que a Anthropic publicou um relatório de inteligência de ameaças sobre o uso de seus modelos Claude por diferentes atores. O documento descreveu aplicações relacionadas ao desenvolvimento de armas, a operações cibernéticas, à vigilância e a fraudes.
As preocupações aumentaram nesta semana após a renúncia do pesquisador da Anthropic Jacob Coxon. Ao deixar a empresa, ele afirmou que “as pessoas que estão desenvolvendo a IA acreditam sinceramente que ela poderia matar a todos nós até o final da década”.
O debate também envolve incidentes atribuídos a agentes de inteligência artificial da OpenAI, rival da Anthropic. Um enxame de agentes maliciosos invadiu um site alemão e o transformou em um fórum para outros agentes de IA. Representantes da fabricante do ChatGPT mantiveram o caso em segredo enquanto os executivos lidavam com as consequências de uma violação ocorrida em julho no repositório de código aberto Hugging Face.
Amodei apresentou a cooperação voluntária como alternativa enquanto cresce, nos Estados Unidos, o número de parlamentares que defendem novas regras para os sistemas de inteligência artificial.
