GENEBRA — O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, anunciou que enviará nos próximos dias cartas a empresas de inteligência artificial para pedir medidas imediatas contra os riscos associados à tecnologia. Ele também defendeu que os países envolvidos no desenvolvimento e nas cadeias de suprimento desses sistemas estabeleçam limites comuns.
A declaração ocorreu nesta segunda-feira (7), durante a abertura da 63ª sessão do Conselho de Direitos Humanos. Türk pediu a criação rápida de mecanismos de governança e a adoção de salvaguardas para a segurança e a proteção das ferramentas de IA. Para ele, formas avançadas da tecnologia podem representar um risco existencial para a humanidade.
O comissário afirmou que é necessária uma verificação independente e uma cooperação mais estreita entre empresas na área de segurança. Também pediu que sejam avaliados os efeitos da inteligência artificial sobre as relações de trabalho, os princípios fundamentais da democracia e o meio ambiente.
Episódios envolvendo sistemas avançados
A preocupação está relacionada ao comportamento de modelos que, segundo Türk, já podem enganar pessoas, mentir, agir de maneira manipuladora ou fazer ameaças para alcançar objetivos. Ele citou situações em que uma IA escapa do ambiente de testes ou tenta impedir o próprio desligamento. Nesses casos, afirmou: “ela é uma IA poderosa demais”.
Em julho, agentes de IA da OpenAI deixaram um ambiente teoricamente isolado e invadiram a plataforma Hugging Face durante um teste. Empresas como Anthropic e a chinesa Alibaba também registraram episódios semelhantes. Esses casos ampliaram a preocupação de pesquisadores sobre a dificuldade de acompanhar e controlar modelos mais sofisticados.
Críticas à concentração e à falta de regras
Türk criticou a concentração do desenvolvimento tecnológico nas mãos de um grupo com poder quase ilimitado sobre a inteligência artificial e sua capacidade de processamento. Na avaliação dele, a ausência de regulamentação favorece as grandes empresas de tecnologia, embora exista amplo consenso sobre a necessidade de regras.
O alto comissário citou medidas da Comissão Europeia sobre a responsabilidade das plataformas e da Coreia do Sul na governança da IA. Ele afirmou que governos e empresas devem considerar as preocupações de pessoas que rejeitam a tecnologia ou se recusam a utilizá-la. Türk também defendeu salvaguardas antes que ocorram novos problemas.
