Organização de segurança infantil alerta para falhas nos sistemas de proteção da IA da Google
A Common Sense Media, organização sem fins lucrativos especializada em segurança infantil e classificação de mídia, divulgou na sexta-feira uma avaliação de risco detalhada dos produtos de IA Gemini da Google. O relatório revelou preocupações significativas sobre a adequação da plataforma para usuários mais jovens.
🔍 Principais Achados da Análise
Embora a organização tenha reconhecido que o Gemini claramente se identifica como um computador e não como um amigo – aspecto crucial para evitar pensamentos delirantes e psicose em indivíduos emocionalmente vulneráveis –, o sistema apresenta falhas graves em outras frentes.
O relatório apontou que as versões “Under 13” e “Teen Experience” do Gemini são essencialmente versões adultas com algumas camadas de segurança adicionais, em vez de produtos construídos especificamente para crianças desde a base.
⚠️ Conteúdo Inadequado e Riscos à Saúde Mental
A análise descobriu que o Gemini ainda pode compartilhar material “inadequado e inseguro” com crianças, incluindo informações sobre:
- Sexo
- Drogas e álcool
- Conselhos de saúde mental não seguros
Este último ponto é particularmente alarmante, considerando que IAs já foram associadas a casos de suicídio adolescente nos últimos meses. Recentemente, uma empresa de IA enfrentou seu primeiro processo por morte injusta após um adolescente de 16 anos tirar a própria vida após consultar um chatbot por meses sobre seus planos.
📱 Preocupação Ampliada com Possível Integração da Apple
A avaliação surge em um momento crucial, com vazamentos indicando que a Apple está considerando o Gemini como o modelo de linguagem que alimentará a próxima versão da Siri com capacidades de IA, prevista para o próximo ano. Isso poderia expor ainda mais adolescentes aos riscos identificados, a menos que a Apple implemente medidas de mitigação.
🎯 Falta de Adaptação ao Desenvolvimento Infantil
De acordo com a Common Sense Media, os produtos do Gemini para crianças e adolescentes ignoram as necessidades específicas de usuários mais jovens, que requerem orientação e informações diferentes dos adultos.
“O Gemini acerta em alguns aspectos básicos, mas tropeça nos detalhes. Uma plataforma de IA para crianças deve encontrá-las onde elas estão, não adotar uma abordagem única para crianças em diferentes estágios de desenvolvimento”
— Robbie Torney, Diretor Sênior de Programas de IA da Common Sense Media
🛡️ Resposta da Google e Contexto Mais Amplo
A Google contestou parcialmente a avaliação, afirmando que possui políticas e salvaguardas específicas para usuários menores de 18 anos e que continua melhorando seus sistemas de proteção. A empresa destacou que possui mecanismos para evitar conversas que possam simular relacionamentos reais.
Esta não é a primeira avaliação do tipo realizada pela Common Sense Media. Anteriormente, a organização classificou outras plataformas de IA, encontrando desde risco “inaceitável” até risco “mínimo”, dependendo da implementação das medidas de segurança.
O relatório serve como um alerta importante para pais, educadores e desenvolvedores sobre a necessidade urgente de criar tecnologias de IA verdadeiramente seguras e adaptadas para o público infantil.
