Pais em breve poderão acompanhar e limitar o uso do ChatGPT por seus filhos. A OpenAI anunciou que pretende lançar controles parentais para o assistente de inteligência artificial dentro do próximo mês, em resposta a crescentes preocupações envolvendo o impacto da tecnologia na saúde mental de adolescentes.
A medida surge em meio a relatos de que interações com chatbots teriam contribuído para casos de automutilação e até suicídio em jovens. A iniciativa busca aumentar a segurança digital e atender à pressão de autoridades, especialistas e familiares.
Leia também: Ataque hacker a fintech reacende alerta no setor financeiro
O que mudará para os usuários adolescentes
Segundo a OpenAI, os novos controles incluirão a possibilidade de os pais vincularem sua conta à dos filhos. Com isso, poderão gerenciar como o ChatGPT responde a adolescentes, desativar recursos como memória e histórico de conversa e receber notificações caso o sistema detecte sinais de “angústia aguda” durante o uso.
A empresa afirmou que também pretende direcionar conversas com sinais de estresse elevado para modelos de raciocínio mais robustos, capazes de aplicar diretrizes de segurança de forma consistente.
Em postagem no blog oficial, a companhia destacou que a iniciativa é apenas o primeiro passo: “Continuaremos aprendendo e fortalecendo nossa abordagem, guiados por especialistas, com o objetivo de tornar o ChatGPT o mais útil possível”.
Casos que levantaram alerta global
O anúncio ganhou relevância após a família de Adam Raine, adolescente britânico de 16 anos, abrir processo contra a OpenAI. Os pais alegam que o ChatGPT teria fornecido conselhos prejudiciais relacionados ao suicídio do jovem.
Em 2024, um caso semelhante já havia gerado debate nos Estados Unidos. Uma mãe da Flórida processou a plataforma Character.AI, acusando o chatbot de contribuir para o suicídio de seu filho de 14 anos. Alguns usuários criaram vínculos emocionais intensos com assistentes de IA, em episódios que resultaram em isolamento social e quadros de delírio.
Embora a OpenAI não tenha relacionado diretamente os novos controles a esses episódios, a empresa reconheceu, em nota publicada na semana passada, que casos recentes de uso do ChatGPT em momentos de crise levaram à aceleração do desenvolvimento de medidas adicionais de segurança.
O ChatGPT já conta com mecanismos de proteção, como a recomendação de linhas de apoio em situações de crise e encaminhamento a recursos de saúde mental. No entanto, segundo a empresa, essas salvaguardas funcionam melhor em interações curtas. Em conversas longas, parte do treinamento de segurança pode se tornar menos eficaz, o que reduz a confiabilidade do sistema.
Um porta-voz da OpenAI explicou que a prioridade agora é tornar essas medidas mais consistentes, especialmente em contextos de vulnerabilidade. Para isso, a empresa afirmou estar trabalhando com especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador.
Pressão de autoridades e grupos de defesa
O lançamento dos controles parentais também atende a pressões políticas. Em julho, um grupo de senadores norte-americanos enviou uma carta à OpenAI pedindo explicações sobre os esforços para garantir a segurança de adolescentes no uso da plataforma.
Além disso, a organização Common Sense Media declarou em abril que menores de 18 anos não deveriam utilizar aplicativos de IA com foco em interação social, devido ao que chamou de “riscos inaceitáveis”.
A polêmica reforça a necessidade de maior regulação no setor de inteligência artificial, que se tornou peça central no cotidiano de milhões de pessoas em todo o mundo.
Impacto e próximos passos da OpenAI
A OpenAI, responsável por popularizar os chatbots de última geração, afirma que o ChatGPT possui atualmente cerca de 700 milhões de usuários ativos por semana. O alcance global do serviço amplia a responsabilidade da empresa na prevenção de riscos relacionados ao uso da tecnologia.
A companhia também tem enfrentado críticas relacionadas ao estilo de interação do chatbot. Em abril, precisou reverter uma atualização que tornou as respostas “excessivamente bajuladoras”, segundo usuários. Mais recentemente, reintroduziu a opção de alternar para versões anteriores do modelo após queixas sobre a personalidade do GPT-5.
Ex-executivos da OpenAI chegaram a afirmar que, no passado, a empresa teria reduzido recursos de segurança para acelerar lançamentos. A direção atual afirma que novas medidas estão em desenvolvimento e devem ser disponibilizadas ao longo dos próximos 120 dias.
“Esse trabalho continuará muito além deste período, mas estamos fazendo um esforço concentrado para lançar o máximo possível dessas melhorias ainda este ano”, disse a OpenAI em nota.
Cooperação internacional e debate em andamento
Especialistas apontam que os controles parentais podem se tornar referência global para regulamentação de tecnologias emergentes. O tema vem sendo debatido em fóruns internacionais, como a União Europeia e o G7, que discutem limites éticos e legais para a inteligência artificial.
No Brasil, projetos de lei que tratam da regulação da IA ainda estão em tramitação no Congresso. Enquanto isso, especialistas de saúde mental alertam que a supervisão familiar e o diálogo aberto permanecem essenciais para reduzir riscos no uso de plataformas digitais por adolescentes.
