Executivos e pesquisadores do setor de tecnologia defendem uma redução no ritmo de desenvolvimento de modelos de inteligência artificial, diante do temor de uso indevido dessas ferramentas. Os sistemas já são empregados em atividades como fraudes e desenvolvimento de armas biológicas.
A posição é compartilhada por Dario Amodei, CEO da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da xAI, da Tesla e da SpaceX. A discussão ganhou força após Amodei publicar um artigo sobre a necessidade de ampliar os mecanismos de segurança.
O debate ocorreu depois de a Anthropic divulgar, na quinta-feira (10/9), um relatório sobre o uso de modelos da família Claude em operações cibernéticas e de influência, vigilância, golpes e criação de armamentos. Altman afirmou no X: “Concordo com Dario”. Ele também disse que a OpenAI adotará sugestões de Amodei para reforçar a segurança no desenvolvimento de modelos. Musk declarou: “Dario está certo”.
Amodei esclareceu que não defende a interrupção do treinamento nem do progresso da inteligência artificial. A proposta é que as empresas dediquem mais tempo ao alinhamento e à proteção dos novos modelos, com análise de avaliadores externos.
Proposta em três etapas
A primeira etapa sugerida prevê grupos permanentes de avaliadores externos, com acesso semelhante ao dos funcionários das empresas. Eles examinariam práticas de segurança, investigariam incidentes e avaliariam tanto os modelos concluídos quanto os processos de treinamento.
A segunda fase teria coordenação entre empresas de IA de países democráticos para definir padrões de segurança e limites para o ritmo de desenvolvimento. Os governos participariam dessa etapa. A terceira envolveria uma articulação internacional, especialmente entre Estados Unidos e China, considerada a fase mais difícil por causa da disputa geopolítica em torno da tecnologia.
O fundador da Anthropic também propõe discutir limites para o poder computacional, alguns tipos de treinamento e o uso de inteligência artificial na criação de sistemas mais avançados. Esse processo, chamado de autoaperfeiçoamento recursivo, já estaria em andamento na indústria e poderia acelerar a evolução dos modelos além da capacidade dos pesquisadores de compreendê-los.
Amodei afirma que esse avanço poderia levar à criação de sistemas capazes de assumir o controle de uma parcela expressiva da internet por meio de uma rede persistente de computadores. Na avaliação apresentada por ele, um cenário desse tipo poderia causar centenas de bilhões de dólares em danos em um horizonte de seis a 12 meses.
