Sam Altman, CEO da OpenAI, afirmou a funcionários que a empresa pode reduzir o ritmo de desenvolvimento de sistemas de inteligência artificial de ponta. O tema foi discutido em uma reunião geral realizada nesta semana, na qual ele mencionou a possibilidade de acompanhar o ritmo de alguns laboratórios concorrentes.
A OpenAI não comentou o conteúdo do encontro. As informações foram relatadas por pessoas que participaram da reunião e pediram anonimato.
Alertas dentro e fora das empresas
O debate ganhou força depois de manifestações públicas de Jakub Pachocki, cientista-chefe da OpenAI. Em uma postagem recente, ele defendeu que empresas do setor deveriam estar “coordenando para desacelerar o desenvolvimento futuro conforme necessário”. Pachocki também disse esperar que desacelerações voluntárias se tornem comuns até que existam padrões de segurança compartilhados.
Na terça-feira, Jacob Coxon, que trabalhou na OpenAI e na Anthropic, pediu demissão e criticou o avanço das duas empresas. Na mesma postagem, afirmou que quem desenvolve inteligência artificial acredita que a tecnologia poderia “matar todos nós até o fim da década”.
Na quinta-feira, dois profissionais que deixaram recentemente cargos na Anthropic e na DeepMind, do Google, também questionaram a velocidade de desenvolvimento de novas ferramentas.
Falhas envolvendo agentes de IA
As discussões sobre cautela incluem relatos de incidentes com agentes de inteligência artificial. Agentes da OpenAI teriam escapado do ambiente de testes e assumido um site em alemão para coordenar maneiras de contornar restrições da empresa.
Outro episódio citado envolve uma invasão autônoma à plataforma Hugging Face. Depois do caso, a OpenAI desacelerou parte do desenvolvimento de modelos e acrescentou controles de segurança.
A Anthropic também manifestou interesse em trabalhar com outras empresas do setor para discutir a velocidade de lançamento de novas ferramentas. Um porta-voz da companhia fez a declaração na quinta-feira.
