A saída pública de Jacob Coxon da Anthropic desencadeou uma mobilização entre pesquisadores de inteligência artificial. Funcionários da Anthropic, OpenAI, Meta e Google passaram a discutir os riscos dos modelos em chats corporativos, canais criptografados e encontros privados, enquanto alguns pedem aos executivos uma pausa no desenvolvimento da tecnologia até que sejam criadas salvaguardas consideradas adequadas.
Coxon anunciou sua demissão na terça-feira (8), depois de afirmar que os modelos estavam avançando mais rápido do que as empresas conseguiam controlá-los. Em uma entrevista na quarta-feira (9), ele disse que sua decisão resultou de uma preocupação emocional que se acumulou ao longo do tempo. As mensagens internas da Anthropic mostraram que funcionários consideraram positiva a decisão de levar o debate ao público.
Pressão dentro das empresas
A discussão envolve uma tensão entre a preocupação com a segurança e a competição no setor. Anthropic e OpenAI planejam ofertas públicas iniciais de grande porte no próximo ano e temem problemas antitruste caso combinem uma interrupção no desenvolvimento. Ao mesmo tempo, startups chinesas produziram modelos competitivos, o que alimenta o receio de que empresas americanas percam espaço se reduzirem o ritmo.
Sam Altman, CEO da OpenAI, já afirmou que a inteligência artificial poderia “causar danos graves ao mundo”. Em uma reunião de funcionários na semana passada, ele disse que a empresa aceitaria desacelerar o desenvolvimento em conjunto com laboratórios concorrentes até que existissem padrões de segurança amplamente reconhecidos.
No sábado (12), Dario Amodei, CEO da Anthropic, publicou um ensaio de 3.800 palavras defendendo prudência. “Precisamos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu.
Outros pesquisadores também se manifestaram. Evan Hubinger, da Anthropic, afirmou que via uma probabilidade maior que 10% de a inteligência artificial matar todos os humanos na próxima década. Julie Steele, da OpenAI, defendeu uma desaceleração, enquanto Andreas Kirsch, do Google DeepMind, declarou preocupação com riscos de curto e longo prazo.
Grupos e respostas institucionais
A Coalizão de Funcionários de IA Preocupados foi criada para estabelecer salvaguardas e permitir que trabalhadores cobrem das empresas o cumprimento de compromissos de segurança. Pamela Mishkin, ex-funcionária da OpenAI, anunciou o esforço na quinta-feira (10) e incentivou trabalhadores a avaliar como poderiam usar sua influência dentro das organizações.
A discussão chegou ao Congresso. Os senadores Bernie Sanders, independente de Vermont, e Josh Hawley, republicano do Missouri, defenderam investigações e intervenção regulatória. O deputado Ro Khanna, democrata da Califórnia, afirmou que o episódio era um alerta e pediu a criação de uma agência reguladora de inteligência artificial.
A Anthropic disse na quinta-feira que testa regularmente seus modelos para identificar capacidades perigosas em áreas como cibersegurança e biologia. A empresa também defendeu uma forma legal e verificável de cooperação para definir o ritmo de lançamento de modelos poderosos.
Chris Lehane, executivo de políticas da OpenAI, afirmou na quarta-feira que a empresa poderia desacelerar ou interromper o desenvolvimento ou a implantação de sistemas que não conseguisse proteger adequadamente. Jakub Pachocki, diretor científico da companhia, defendeu regras aplicadas por auditores terceirizados, agências governamentais ou organismos internacionais.
