ONG monitora segurança de modelos como o ChatGPT para crianças
A organização americana Common Sense Media, conhecida por promover o uso seguro de tecnologia por crianças, lançou uma nova iniciativa para avaliar o impacto de modelos de inteligência artificial, como o ChatGPT e o Claude, no público infantil.
Com a IA sendo considerada a maior mudança tecnológica de nossos tempos, até mais disruptiva que a internet, a ONG acreditar que também cresce a preocupação com seus potenciais riscos, especialmente em relação ao uso por crianças.
A iniciativa da Common Sense Media busca analisar como essas tecnologias estão sendo integradas à vida cotidiana e como afetam crianças e adolescentes. A organização pretende criar maior clareza e confiança, oferecendo avaliações detalhadas de produtos de IA, currículos educativos sobre o tema e pesquisas originais.
Entre as atividades da ONG, destaca-se a criação de “rótulos nutricionais” para produtos de IA, que descrevem suas oportunidades, limitações e potenciais riscos. A organização divide esses produtos em três categorias:
- Uso Múltiplo: abrange ferramentas como chatbots e tradutores automáticos;
- Uso Aplicado: inclui tecnologias como recomendações de streaming;
- Projetados para Crianças: engloba produtos desenvolvidos especificamente para jovens em ambientes domésticos ou educacionais.
Para avaliar os modelos, a Common Sens desenvolveu oito critérios de análise (Colocar as Pessoas em Primeiro Lugar, Ser Eficaz, Priorizar a Justiça, Ajudar as Pessoas a se Conectarem, Ser Confiável, Usar Dados de Forma Responsável, Manter Crianças e Adolescentes Seguros, Ser Transparente e Responsável) para ajudá-los a avaliar como os modelos de linguagem se alinham a cada um deles.
O objetivo da Common Sense Media é garantir que a IA seja introduzida na vida das crianças de maneira ética, segura e transparente, ajudando pais e educadores a tomar decisões informadas sobre o uso dessas tecnologias.
