A OpenAI restringirá os adolescentes a uma nova versão do ChatGPT, com mais proteções para saúde mental e recursos para estimular o pensamento crítico, enquanto busca responder à reação negativa aos efeitos da IA sobre os jovens.
A medida ocorre em um momento em que a OpenAI enfrenta vários processos movidos por famílias que alegam que seus filhos foram prejudicados pelo uso do ChatGPT, enquanto a empresa se prepara para uma IPO (oferta pública inicial de ações) no próximo ano.
O escrutínio dos efeitos da IA sobre os jovens ocorre enquanto vários países avançam em direção à proibição das redes sociais para menores de 16 anos —medidas que normalmente excluem chatbots de IA, mas que aumentaram a pressão sobre as big techs.
A OpenAI foi processada pela família do norte-americano Adam Raine, de 16 anos, que cometeu suicídio após conversar com o ChatGPT sobre tirar a própria vida. Segundo documentos judiciais, o chatbot forneceu instruções detalhadas.
Famílias de crianças mortas no ataque a tiros em massa ocorrido em fevereiro em uma escola de Tumbler Ridge, no Canadá, também processaram a OpenAI, depois que veio à tona que o atirador adolescente havia conversado com o ChatGPT sobre intenções violentas nos meses anteriores ao ataque.
A conta foi banida meses antes, mas a empresa não entrou em contato com as autoridades policiais.
Essas situações são de partir o coração... Um único incidente já é demais", afirmou Lauren Jonas, chefe da área de juventude e famílias da OpenAI.
Estamos constantemente aprendendo e aprimorando a forma como identificamos quando um adolescente está passando por dificuldades e oferecemos a ele os recursos adequados de que precisa", relatou Jones.
O ChatGPT conta com controles parentais que enviam notificações de segurança em situações de alto risco, como quando uma criança fala sobre suicídio ou automutilação.
A nova versão para adolescentes acrescenta notificações sobre transtornos alimentares e violência.
É preciso encontrar um equilíbrio entre o direito do adolescente à privacidade e a gravidade do dano em si", disse Jonas, ao justificar por que essas questões só foram incluídas na atualização mais recente.
A política da OpenAI proíbe o uso do chatbot por menores de 13 anos e exige o consentimento dos pais para quem tem menos de 18 anos. A empresa usará a idade declarada pelo usuário, juntamente com "uma combinação de sinais" relativos ao uso, para determinar quando apresentar a versão para adolescentes.
Inteligência artificial avança em fraudes e ameaça educação online nos EUA.
Crise na OpenAI se agrava enquanto Sam Altman prepara IPO.
Teste avalia aplicativo de IA que identifica quem usou IA; veja o resultado.
O ChatGPT para adolescentes os direcionará a aplicações educacionais e incluirá lembretes mais frequentes para fazer pausas e "horários de silêncio", períodos que usuários ou pais poderão definir para bloquear o acesso ao recurso.
Jonas disse que a OpenAI "não vê, neste momento, um problema de uso nocivo ou de uso prolongado no ChatGPT". No entanto, diante da falta de pesquisas sobre o tema, a empresa afirmou que "adotou uma abordagem conservadora.
A OpenAI também está tentando responder à preocupação crescente de que os chatbots, ao fornecerem respostas instantâneas às perguntas dos adolescentes, prejudiquem o pensamento crítico e a aprendizagem por meio de uma dinâmica conhecida como "descarga cognitiva.
Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.
A empresa comunicou que a nova versão terá um "modo de estudo" atualizado, que orientará os adolescentes na resolução de problemas passo a passo, em vez de simplesmente fornecer a resposta.
Jonas afirmou que 90% dos adolescentes no ChatGPT o utilizam para aprender e que a OpenAI "quer continuar aprimorando essa experiência e transformá-lo em uma ferramenta de aprendizagem.
O principal objetivo, acima de qualquer outra coisa, é transformá-lo em uma ferramenta de aprendizagem", acrescentou.
Fontes
Informação baseada em material público de Folha Mercado, reescrito pela redação ULTRA NOTÍCIAS.
