SEUL — Um sistema de inteligência artificial ajuda uma equipe sul-coreana a encontrar republicações de vídeos íntimos divulgados sem autorização. O recurso permite localizar o mesmo conteúdo em redes sociais e sites pornográficos, facilitando os pedidos de remoção feitos por vítimas de deepfakes sexuais.
A estrutura foi criada pelo governo da Coreia do Sul em 2018 e funciona em um escritório na capital. Formado exclusivamente por mulheres, o centro conta com 17 filiais regionais e reúne 23 profissionais. Desde a inauguração, o serviço atendeu 53 mil pessoas e retirou da internet mais de um milhão de conteúdos sexuais ilícitos.
Kim Hyojung, líder da equipe, afirma que muitas vítimas só descobrem a circulação das imagens depois de serem avisadas por alguém próximo. Além de rastrear e remover publicações, o centro oferece apoio psicológico e jurídico.
Obstáculos para retirar os conteúdos
Parte dos vídeos está hospedada em sites ilegais, cujos provedores podem rejeitar os pedidos de remoção. Nesses casos, a polícia pode atuar para provocar o fechamento das páginas. Também há dificuldades quando os servidores estão no exterior. Kim diz que, em 80% dos casos, os sites estrangeiros estão nos Estados Unidos e que as autoridades norte-americanas colaboram na retirada dos conteúdos hospedados no país.
Levantamentos da empresa australiana Security Heroes estimam que mais da metade das vítimas de deepfakes pornográficos no mundo seja sul-coreana. O aumento ocorre em todas as faixas etárias.
Efeito sobre as profissionais
As integrantes analisam diariamente materiais pornográficos, que podem incluir violência e pornografia infantil. Park, que mantém o anonimato por causa do trabalho, relata que a exposição afeta a saúde emocional das funcionárias. Algumas desenvolveram insônia, passaram a chorar diante de determinadas publicações ou perderam o apetite.
Para reduzir o risco de esgotamento, o centro oferece consultas individuais com um psicólogo uma ou duas vezes por mês. Park também aponta as mensagens de agradecimento das vítimas como um estímulo para a continuidade do trabalho.
