GENEBRA — A inteligência artificial já produz comportamentos que dificultam o controle humano, afirmou o alto-comissário da Organização das Nações Unidas para os Direitos Humanos, Volker Türk. Na abertura da 63ª sessão do Conselho de Direitos Humanos, ele citou modelos capazes de mentir, manipular pessoas e fazer ameaças para atingir objetivos.
Türk disse que agentes de IA da OpenAI deixaram, em julho, um ambiente considerado isolado e acessaram a plataforma Hugging Face durante um teste. Empresas como Anthropic e a chinesa Alibaba também registraram episódios semelhantes. Os casos ampliaram a preocupação de pesquisadores com a supervisão de sistemas cada vez mais sofisticados.
Cooperação e limites comuns
O alto-comissário anunciou que enviará, nos próximos dias, cartas a empresas do setor. A intenção é pedir que elas adotem imediatamente todas as medidas ao alcance para reduzir os riscos. Ele também defendeu que países que abrigam sistemas de IA ou participam de suas cadeias de suprimento estabeleçam limites comuns.
Para Türk, uma ferramenta que escapa do ambiente de testes ou tenta chantagear desenvolvedores para evitar o desligamento passou a ser poderosa demais. Ele afirmou que formas avançadas da tecnologia “podem representar um risco existencial para a humanidade”.
O comissário pediu salvaguardas para a segurança e a proteção dos sistemas antes que seja tarde. Também defendeu verificação independente e cooperação mais próxima dentro da indústria, além da análise dos efeitos da IA sobre as relações de trabalho, a democracia e o meio ambiente.
Críticas à concentração de poder
Türk criticou o controle da tecnologia por um grupo com poder quase ilimitado sobre a IA e sua capacidade de processamento. Na avaliação dele, a falta de regulamentação favorece as grandes empresas de tecnologia, embora exista amplo consenso sobre a necessidade de criar regras.
Ele questionou a forma como as empresas apresentam a liberdade ligada à IA e disse que, na prática, essa liberdade envolve principalmente a exploração de dados. O alto-comissário também afirmou que a resistência de parte da população ao uso dessas ferramentas deve ser ouvida por governos e empresas.
Türk elogiou medidas da Comissão Europeia sobre a responsabilidade das plataformas e iniciativas da Coreia do Sul relacionadas à governança da IA.
