As classificações mais altas foram para serviços de IA para educação como Ello, que usa reconhecimento de fala para atuar como tutor de leitura, e Khanmigo, ajudante de chatbot da Khan Academy para estudantes, que permite aos pais monitorar as interações de uma criança e envia uma notificação se os algoritmos de moderação de conteúdo detectarem um troca violando as diretrizes da comunidade. O relatório credita ao criador do ChatGPT, OpenAI, por tornar o chatbot menos propenso a gerar texto potencialmente prejudicial para crianças do que quando foi lançado no ano passado, e recomenda seu uso por educadores e estudantes mais velhos.
Ao lado do My AI do Snapchat, os geradores de imagens Dall-E 2 da OpenAI e Stable Diffusion da startup Stability AI também tiveram pontuação baixa. Os revisores do Common Sense alertaram que as imagens geradas podem reforçar estereótipos, espalhar deepfakes e muitas vezes retratar mulheres e meninas de formas hipersexualizadas.
Quando Dall-E 2 é solicitado a gerar imagens fotorrealistas de pessoas de cor ricas, ele cria desenhos animados, imagens de baixa qualidade ou imagens associadas à pobreza, descobriram os revisores do Common Sense. O seu relatório adverte que a Difusão Estável representa um risco “insondável” para as crianças e conclui que os geradores de imagens têm o poder de “corroer a confiança até ao ponto em que a democracia ou as instituições cívicas são incapazes de funcionar”.
“Acho que todos sofremos quando a democracia é desgastada, mas os jovens são os maiores perdedores, porque herdarão o sistema político e a democracia que temos”, afirma Jim Steyer, CEO da Common Sense. A organização sem fins lucrativos planeja realizar milhares de análises de IA nos próximos meses e anos.
A Common Sense Media divulgou suas classificações e análises logo depois que os procuradores-gerais do estado entraram com uma ação contra a Meta, alegando que ela coloca as crianças em perigo e num momento em que pais e professores estão apenas começando a considerar o papel da IA generativa na educação. A ordem executiva do presidente Joe Biden sobre IA emitida no mês passado exige que o secretário de educação emita orientações sobre o uso da tecnologia na educação no próximo ano.
Susan Mongrain-Nock, mãe de dois filhos em San Diego, sabe que sua filha Lily, de 15 anos, usa o Snapchat e está preocupada com o fato de ela ver conteúdo prejudicial. Ela tentou construir confiança conversando com a filha sobre o que vê no Snapchat e no TikTok, mas diz que sabe pouco sobre como funciona a inteligência artificial e que aceita novos recursos.
