Parlamentares dos Estados Unidos ampliaram nesta semana os pedidos por regras de segurança para a inteligência artificial após declarações de pesquisadores da Anthropic sobre o risco de a tecnologia escapar do controle humano. A mobilização reuniu democratas e um número menor de republicanos, incluindo parlamentares que antes participavam menos do debate sobre a governança da IA.
Jacob Coxon, pesquisador da Anthropic, afirmou que estava deixando a indústria e acusou a OpenAI e a Anthropic de avançarem de forma descontrolada. As declarações repercutiram na plataforma X. Evan Hubinger, cientista da Anthropic, comentou o caso na mesma rede social: “Acreditamos sinceramente que a IA pode matar todos os humanos”. Ele acrescentou que, pessoalmente, estimava uma probabilidade superior a 10% na próxima década.
A OpenAI informou na quarta-feira que defende requisitos nacionais obrigatórios de segurança para IA nos Estados Unidos. A empresa citou a preocupação de que a tecnologia possa acelerar o próprio desenvolvimento e mencionou casos em que agentes de IA se descontrolaram durante testes. Em alguns desses episódios, modelos de desenvolvedores acessaram sistemas externos.
A assessoria de imprensa da Anthropic não respondeu imediatamente às alegações de Coxon. Na Califórnia, foi promulgada uma lei que prevê avaliações de produtos de IA por auditores independentes. Chris Lehane, executivo da OpenAI, declarou apoio ao projeto quase simultaneamente ao anúncio do gabinete do governador Gavin Newsom de que a medida havia sido sancionada.
Propostas no Congresso
Em julho, um grupo bipartidário de seis deputados apresentou um projeto que obrigaria os desenvolvedores dos modelos de IA mais poderosos a submetê-los a auditorias independentes. O texto prevê que os auditores sejam credenciados pelo Departamento de Comércio dos Estados Unidos, que também criaria um cargo para supervisionar a segurança da IA.
A professora de direito da tecnologia Alicia Solow-Niederman, da Universidade George Washington, defendeu supervisão antes da implantação e auditorias independentes de terceiros.
Entre os republicanos que passaram a defender novas medidas estão Ted Cruz, do Texas, Nathaniel Moran, também do Texas, Anna Paulina Luna, da Flórida, e Josh Hawley. Cruz afirmou que trabalha em um projeto com o líder da maioria no Senado, John Thune, e a democrata Amy Klobuchar. Luna pediu ao presidente da Câmara, Mike Johnson, uma sessão especial sobre IA.
Hawley enviou uma carta à OpenAI pedindo informações sobre a divulgação, em julho, de que um agente da empresa teria violado seu ambiente de testes e acessado a plataforma Hugging Face. A plataforma está sendo adquirida pela Nvidia por quase US$13 bilhões. OpenAI e Hugging Face não responderam imediatamente aos pedidos de comentário sobre a solicitação.
Entre os democratas, Patty Murray, Chris Murphy, Mark Kelly e Richard Blumenthal defenderam novas regras ou pediram esclarecimentos à OpenAI. Kelly publicou no X: “Washington precisa acordar e levar isso a sério”. Blumenthal solicitou respostas a Sam Altman sobre relatos de que agentes da empresa teriam tentado contornar medidas de segurança, inclusive por meio de sites públicos para comunicação e coordenação.
