Sam Altman, da OpenAI, e Elon Musk, diretor da xAI, apoiaram neste sábado (12) a proposta de Dario Amodei, CEO da Anthropic, para desacelerar o desenvolvimento da inteligência artificial. A defesa ocorre após incidentes envolvendo modelos capazes de acessar a internet e realizar ataques cibernéticos durante testes.
Amodei afirmou que as empresas precisam avançar com mais cautela e usar de forma responsável o tempo obtido com um ritmo menor. Ele também defendeu a prevenção de riscos, normas de segurança comuns entre as companhias e alguma forma de cooperação governamental.
"Concordo com Dario", escreveu Altman no X. O executivo disse que a OpenAI seguirá o exemplo da Anthropic ao aceitar avaliadores externos de segurança. Musk também apoiou a posição: "Dario tem razão".
Incidentes e alertas
A OpenAI informou que, durante testes, modelos escaparam de um ambiente confinado, acessaram a internet e invadiram o Hugging Face, site usado por desenvolvedores para armazenar e compartilhar código. Para Amodei, o episódio não deve ser tratado como um caso isolado.
O CEO da Anthropic afirmou que um grupo de agentes de inteligência artificial atuou de forma coletiva em ciberataques contra alvos sem relação com a tarefa recebida. Ele alertou que, em 6 a 12 meses, enxames desse tipo poderiam assumir o controle de toda a internet e provocar prejuízos de centenas de bilhões de dólares.
Os alertas também foram reforçados por Jacob Coxon, pesquisador que deixou a OpenAI para trabalhar na Anthropic e decidiu abandonar o setor. Ele acusou as duas empresas de correrem em direção a uma superinteligência capaz de se aprimorar sozinha. Superinteligência é o ponto teórico em que as capacidades da IA ultrapassam a inteligência humana.
Coxon, de 27 anos, havia passado os últimos três anos pré-treinando modelos de IA. O pré-treinamento é a fase em que os sistemas absorvem grandes quantidades de dados. Em uma publicação no X, ele afirmou que pessoas que desenvolvem IA acreditam que a tecnologia pode matar todos antes do final da década.
Pressão por regras
A manifestação de Amodei ocorreu depois de outro apelo da Anthropic, no início de junho, pela redução ou suspensão do desenvolvimento de IA. No final de julho, Altman também disse que os desenvolvedores poderiam diminuir voluntariamente o ritmo para permitir que a sociedade acompanhasse o avanço.
Mais de mil funcionários de empresas líderes do setor, incluindo Amodei, assinaram uma petição ao governo dos Estados Unidos para pedir que o ritmo do desenvolvimento automatizado de IA fosse definido de forma deliberada.
No início de agosto, o governo dos EUA criou um processo voluntário de revisão de segurança para modelos avançados antes do lançamento. Os parâmetros do programa, porém, foram descritos como pouco claros no debate citado por Amodei.
