Common Sense Media, organização que avalia a segurança de apps para jovens, acabou de rotular o ChatGPT for Teens da OpenAI como um risco inaceitável.
O alerta vem num momento em que a IA está em alta e pais, educadores e criadores de conteúdo tentam entender até onde a tecnologia pode ser confiável para a geração Z.
O que aconteceu
Na manhã de hoje, a equipe de análise de risco da Common Sense Media publicou um relatório curto, mas contundente, afirmando que o ChatGPT for Teens – versão do chatbot da OpenAI adaptada para adolescentes – apresenta "risco inaceitável". O documento destaca três grandes preocupações:
- Conteúdo inadequado: apesar dos filtros, o modelo ainda pode gerar respostas que incluem linguagem ofensiva, conselhos perigosos ou informações errôneas sobre saúde e comportamento.
- Privacidade de dados: a política de coleta de dados da OpenAI permite que interações sejam armazenadas para treinamento futuro, o que pode expor informações sensíveis de menores.
- Influência psicológica: a IA pode criar laços de confiança artificiais, levando adolescentes a depender excessivamente de respostas automatizadas para questões emocionais.
O comunicado da Common Sense Media ainda não detalha exemplos específicos, mas a organização costuma basear suas avaliações em testes práticos com grupos de foco e em auditorias de código.
Como chegamos aqui
Para entender por que chegamos a esse ponto, é preciso recuar alguns meses. A OpenAI lançou o ChatGPT for Teens como resposta ao crescente interesse de escolas e pais por ferramentas de IA que supostamente fossem "seguras" para menores. A promessa era simples: um modelo treinado com filtros mais rígidos, menos exposição a temas adultos e uma interface amigável.
Entretanto, a comunidade tech já vinha levantando bandeiras vermelhas. Em fóruns de desenvolvedores, usuários notaram que o modelo ainda replicava viéses presentes nas versões adultas. Além disso, relatórios de privacidade apontaram que, mesmo em modo "para adolescentes", a OpenAI mantinha a mesma política de armazenamento de logs, apenas com um aviso de "uso interno".
Enquanto isso, a Common Sense Media, que já tem um histórico de avaliações rigorosas – como a classificação de apps de redes sociais e jogos – decidiu testar o novo produto em um ambiente controlado. Os testes envolveram:
- Simulação de perguntas típicas de adolescentes (ex.: "Como lidar com bullying?", "Qual a dose segura de álcool?").
- Análise de respostas geradas, focando em linguagem, precisão e possíveis gatilhos psicológicos.
- Verificação de logs de dados enviados ao servidor da OpenAI.
Os resultados foram, no mínimo, desconcertantes. Em alguns casos, o bot sugeriu "remédios caseiros" para dor de cabeça que não têm comprovação científica. Em outros, a IA respondeu a perguntas sobre consumo de álcool com tom de normalização, algo que educadores consideram perigoso.
Além disso, a auditoria de privacidade revelou que, embora a OpenAI afirme anonimizar os dados, os metadados incluíam informações de idade e localização aproximada, o que poderia ser cruzado com outros bancos de dados.
O que vem depois
Com a declaração da Common Sense Media, o futuro do ChatGPT for Teens está em aberto. A OpenAI ainda não respondeu oficialmente ao relatório, mas a comunidade espera alguns movimentos:
- Revisão de políticas de privacidade: é provável que a empresa ajuste seus termos, oferecendo opt‑out de armazenamento de dados para menores.
- Atualizações de filtro: reforço nos algoritmos de moderação, talvez com a inclusão de revisores humanos especializados em conteúdo para adolescentes.
- Parcerias com escolas: algumas instituições podem decidir adiar a adoção da ferramenta até que haja garantias claras de segurança.
Enquanto isso, pais e educadores podem adotar medidas preventivas: supervisionar o uso, combinar o chatbot com discussões críticas em sala de aula e usar ferramentas de controle parental que monitoram interações com IA.
Vale lembrar que a tecnologia em si não é vilã; o problema está na falta de transparência e no descompasso entre promessas de segurança e a realidade dos algoritmos. Como diria o meme clássico, "não é a IA que está errada, é a gente que não leu o manual".
Para ficar no radar
Se você ainda não acompanha as movimentações da OpenAI, agora é a hora de prestar atenção. A empresa costuma lançar atualizações rápidas, e a pressão de órgãos de avaliação como a Common Sense Media costuma acelerar mudanças. Fique de olho nos comunicados oficiais da OpenAI nos próximos dias, assim como nas reavaliações da Common Sense Media – eles costumam publicar um follow‑up quando as empresas respondem.
Além disso, vale monitorar outras entidades de defesa do consumidor digital, como o Ministério da Justiça e o Procon, que podem abrir processos caso a coleta de dados de menores seja considerada violação de privacidade.
Em resumo, o alerta da Common Sense Media serve como um lembrete de que, mesmo quando a IA parece "amigável", ainda há muito trabalho a ser feito para garantir que ela seja realmente segura para a geração que está crescendo com smartphones na mão.
