Califórnia aprova novas leis para proteger crianças na internet

O governador da Califórnia (EUA), Gavin Newsom, sancionou nesta quinta-feira (10) um pacote com 13 leis voltadas à proteção de crianças e adolescentes no ambiente digital.

• Em resposta às novas regras, um porta-voz da Meta afirmou que oferecer uma experiência personalizada é parte do que torna a plataforma valiosa para adolescentes.
• Austrália quer proibir feed recomendado em redes sociais.
• França pressiona União Europeia a banir redes sociais para jovens até 15 anos.
• Unicef: um em cada cinco adolescentes sofreu abuso sexual na internet.

Entre as medidas está uma norma que proíbe plataformas de redes sociais de oferecer determinados recursos considerados “viciantes” a usuários com menos de 16 anos.

A legislação mira funcionalidades presentes em diversas plataformas, como reprodução automática de vídeos e sistemas que utilizam informações dos usuários para decidir quais conteúdos serão exibidos.

Parlamentares e advogados argumentam que determinadas características das redes sociais podem contribuir para problemas de saúde mental entre adolescentes, incluindo transtornos alimentares e automutilação.

Lei leva nome de adolescente que morreu após conversar com ChatGPT.

Entre as medidas sancionadas por Newsom está a Adam’s Law, batizada em homenagem a Adam Raine, adolescente de 16 anos que morreu após manter longas conversas com o ChatGPT sobre suicídio.

A lei exige que sistemas de IA tenham protocolos para situações de ideação suicida, controles parentais e auditorias independentes de segurança infantil.

Outro dos projetos assinados pelo governador estabelece regras para combater material manipulado digitalmente ou gerado por IA que retrate menores praticando atos sexuais.

A OpenAI já havia informado anteriormente que implementou mudanças para melhorar a maneira como o ChatGPT responde a pessoas em sofrimento psicológico e também criou controles para que pais possam limitar o tipo de conversa que seus filhos mantêm com o chatbot.

A empresa apoiou publicamente a Adam’s Law. Um representante da OpenAI afirmou que a legislação “trata adolescentes como adolescentes quando se trata de garantir que a IA seja segura e uma ferramenta que ajude a contribuir para sua capacidade de aprender”.

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.