SEUL — Um centro criado pelo governo da Coreia do Sul atua na identificação e remoção de deepfakes sexuais, imagens ou vídeos pornográficos produzidos sem o conhecimento das vítimas. A estrutura também oferece apoio psicológico e jurídico a pessoas afetadas pela circulação desse material na internet.
Criado em 2018, o centro funciona na capital sul-coreana e é formado exclusivamente por mulheres. Ao todo, 23 profissionais trabalham na localização dos conteúdos e na solicitação de retirada em redes sociais e sites pornográficos. O grupo utiliza um programa de inteligência artificial capaz de encontrar republicações dos mesmos vídeos.
A líder da equipe, Kim Hyojung, afirma que muitas vítimas descobrem a exposição depois de serem avisadas por pessoas próximas. “Contamos com um programa de inteligência artificial que detecta as republicações desse mesmo vídeo na internet”, disse.
Remoção e atendimento
O centro possui 17 filiais regionais. Desde a inauguração, atendeu 53 mil pessoas e retirou da internet mais de 1 milhão de conteúdos sexuais ilícitos. Levantamentos da empresa australiana Security Heroes estimam que mais da metade das vítimas de deepfakes pornográficos no mundo sejam sul-coreanas, com aumento do problema em todas as faixas etárias.
Parte dos vídeos está hospedada em sites ilegais, o que pode levar provedores a não aprovarem os pedidos de remoção. Nesses casos, a polícia pode intervir e determinar o fechamento do site. Kim Hyojung também relata dificuldades quando o conteúdo está em servidores estrangeiros. De acordo com ela, em 80% dos casos os sites estão nos Estados Unidos, onde as autoridades colaboram para retirar o material hospedado no país.
Efeito sobre as profissionais
As integrantes da equipe analisam diariamente conteúdos pornográficos, incluindo materiais violentos e pornografia infantil. Park, que mantém o anonimato por causa do trabalho, relata que a atividade pode provocar insônia, perda de apetite e choro diante de determinadas publicações.
Para reduzir o desgaste, o centro mantém acompanhamento psicológico contínuo para as 23 profissionais. “Temos, uma ou duas vezes por mês, consultas individuais com um psicólogo para prevenir o esgotamento”, afirmou Park. Ela também disse que as mensagens de agradecimento das vítimas ajudam a equipe a continuar o trabalho.
