A Anthropic bloqueou contas associadas a pesquisadores que tentaram usar o chatbot Claude em investigações biológicas de possível uso militar. A empresa afirmou que os usuários buscaram contornar controles de acesso e ocultar a finalidade das consultas, incluindo pedidos relacionados ao vírus chikungunya.
Um dos casos ocorreu em maio, quando um pesquisador pediu ajuda para preparar um projeto de financiamento. De acordo com a Anthropic, o objetivo era orientar mutações para tornar o vírus mais nocivo em infecções repetidas em animais vivos, em um tipo de estudo conhecido como ganho de função. A empresa avaliou que o episódio era especialmente sensível porque, ao que tudo indicava, envolvia uma instituição militar.
Jacob Klein, chefe de inteligência de ameaças da Anthropic, afirmou que a intenção dos usuários raramente aparece de maneira explícita. “É uma situação extremamente complexa”, disse, ao explicar que a empresa nem sempre consegue distinguir pesquisas legítimas, como as relacionadas ao desenvolvimento de vacinas, de iniciativas maliciosas.
A Anthropic informou que seus modelos mais novos realizam tarefas científicas complexas com mais eficiência que versões anteriores. A evolução levou a empresa a reforçar salvaguardas para limitar consultas biológicas que possam ser usadas de forma indevida.
Outros usos identificados
Um relatório publicado pela empresa na quinta-feira reúne exemplos de abuso de seus modelos nos últimos oito meses. O documento cita suspeitas de atuação de pessoas ligadas aos governos da China e do Irã contra dissidentes e comunidades da diáspora, com uso de ferramentas para vigilância.
A Anthropic também relatou o uso do Claude para criar propaganda apresentada como jornalismo independente. Segundo a empresa, veículos estatais russos teriam produzido textos com alegações fabricadas, inclusive sobre uma eleição na Moldávia.
O relatório menciona ainda tentativas de desenvolver software relacionado a armas convencionais. Os pedidos envolveram armas de fogo, mísseis, drones armados e bombas, em três casos na China, dois na Rússia e um no Iêmen. A empresa associou este último caso ao contexto da milícia houthi apoiada pelo Irã.
O Brasil apareceu como alvo de uma operação de influência como serviço. Uma conta foi bloqueada após usar o Claude para produzir e reescrever conteúdo político em massa para sites de notícias falsos e adaptar artigos de jornalistas legítimos a diferentes públicos nacionais e posições políticas.
A rede operava 70 sites de notícias falsos, 70 contas no X e 250 contas inautênticas de comentários na mesma plataforma. Entre as táticas estavam reescrever uma história em direções ideológicas opostas, inserir ângulos políticos em notícias neutras e transferir narrativas entre regiões. Os textos eram assinados por jornalistas fictícios para simular redações locais independentes.
Alertas sobre riscos biológicos
A empresa classificou os episódios ligados à biologia como os mais preocupantes. Andrew Weber, pesquisador do Council on Strategic Risks, afirmou que os casos mostram desenvolvedores de armas biológicas patrocinados por Estados explorando capacidades de avanço rápido.
Susan Monarez, microbiologista e especialista em saúde pública, disse que o documento indica o uso clandestino de inteligência artificial por agentes mal-intencionados. Ela afirmou que a tecnologia pode acelerar avanços médicos e, ao mesmo tempo, facilitar abusos difíceis de detectar.
Weber defendeu a restrição do acesso a ferramentas capazes de apoiar pesquisas biológicas sensíveis. Ele citou Rússia, China e Coreia do Norte ao argumentar que pesquisadores desses países não deveriam ter acesso a modelos com esse nível de capacidade.
