O governador da Califórnia, Gavin Newsom, sancionou um pacote de leis que restringe recursos considerados viciantes em redes sociais e estabelece regras para chatbots de inteligência artificial usados por crianças e adolescentes. As medidas também ampliam a possibilidade de responsabilização das plataformas por danos a menores.
Grandes redes sociais poderão receber multas de até US$ 1 milhão por criança se forem consideradas negligentes. Para usuários com menos de 16 anos, as empresas terão de impedir a reprodução automática de vídeos, a rolagem infinita e a exibição de feeds baseados no histórico de uso.
Newsom afirmou que a estratégia busca enfrentar o design das plataformas, e não apenas estabelecer uma idade mínima. “Isso é sobre os próprios recursos. É sobre realmente enfrentar o problema, o algoritmo de rolagem”, disse o governador durante um evento em um museu infantil perto de San Francisco.
Regras para inteligência artificial
Empresas responsáveis por chatbots terão de adotar protocolos de crise quando jovens apresentarem sinais de sofrimento emocional. Nesses casos, os pais deverão ser notificados.
Juliana Arnold, cuja filha Coco Konar morreu em 2022 depois de ser atraída por um homem por meio de uma rede social e receber uma dose fatal de fentanil, disse ter pressionado autoridades durante anos. Maria Raine afirmou que seu filho Adam morreu por suicídio no ano passado após ser “orientado” por um chatbot.
Familiares de vítimas defenderam o pacote. Arnold classificou a aprovação como um marco na responsabilização das plataformas. A Meta criticou parte das restrições e declarou que limitar a personalização pode prejudicar a experiência de adolescentes no Facebook e no Instagram.
Newsom comparou a abordagem da Califórnia à adotada pela Austrália, que estabeleceu uma proibição mais ampla para a faixa etária. Segundo ele, o estado priorizou a engenharia das plataformas e os mecanismos de rolagem automática.
Regras no Brasil e em outros estados
O ECA Digital brasileiro tem foco mais amplo e abrange menores de 18 anos. As medidas tratam de direitos, deveres e responsabilidades de plataformas, escolas, famílias e poder público, além de riscos como assédio, exposição a conteúdo impróprio e vulnerabilidade emocional.
Em Nova York, uma lei permite que pais bloqueiem posts sugeridos por algoritmos para seus filhos, com previsão de entrada em vigor no começo do próximo ano.
