Nesta primavera, o Distrito Escolar Unificado de Los Angeles apresentou Ed, uma plataforma de aprendizado com um chatbot muito simpático, representado por um sol sorridente. Ed está sendo testado em 100 escolas e está disponível 24 horas por dia através de um site. Pode responder perguntas sobre os cursos, notas e presença dos estudantes, e também sugere atividades opcionais.
O superintendente Alberto M. Carvalho deixou claro: “A IA veio para ficar. Se você não a dominar, ela dominará você.” Seu objetivo é capacitar professores e estudantes para usar a IA de maneira segura, conscientizando tanto os alunos quanto os adultos sobre seus benefícios e riscos. Além de Ed, o distrito implementou um curso obrigatório de Cidadania Digital na Era da IA para estudantes maiores de 13 anos.
Conversando com três estudantes do primeiro ano da escola primária Alta Loma, ficou claro que Ed é um sucesso entre os mais novos, especialmente porque dá estrelas douradas por completar exercícios. Mas será que eles realmente entendem o que é IA? Quando questionados, um deles pensou que era um robô superinteligente.
Os desafios e riscos da IA para as crianças
Embora empresas como Google, Apple e Meta estejam integrando modelos de IA em produtos cotidianos como Google Search, iOS e Instagram, os mais jovens estão na linha de frente desta revolução tecnológica. Os Chromebooks utilizados por milhões de estudantes de K-12 em todo o país estão recebendo melhorias com IA, e aplicativos populares entre os adolescentes, como Snapchat, oferecem chatbots avançados.
No entanto, nem tudo é positivo. As crianças não só descobrirão as vantagens da IA, mas também seus piores efeitos. Mizuko Ito, uma pesquisadora de tecnologia e crianças da UC Irvine, explica que os jovens tendem a experimentar mais com a tecnologia, o que pode levar a inovações culturais, mas também a novas formas de malícia. Por exemplo, a criação de fotos falsas e prejudiciais através de IA já causou problemas graves em algumas escolas.
Outra preocupação é o uso indevido de dados. Os chatbots precisam de grandes quantidades de informação para funcionar, e já houve casos de uso de dados de crianças sem consentimento. Além disso, os chatbots podem fornecer informações tendenciosas ou incorretas, e as crianças, especialmente as mais jovens, podem ter dificuldades para distinguir entre o real e o gerado pela IA.
A privacidade é um tema delicado. Empresas como OpenAI, Google e Meta estão trabalhando em novos padrões para evitar danos sexuais a menores, mas ainda há muito a ser feito para garantir que a IA seja segura para as crianças.
Em conclusão, enquanto os adultos continuam debatendo e tentando regular o impacto da tecnologia nos jovens, as crianças continuam explorando e se adaptando a este novo mundo impulsionado pela IA. Que papel terão os pais e educadores nesta transformação? A resposta continua em desenvolvimento, mas uma coisa é clara: as crianças serão tanto os inovadores quanto as vítimas desta nova era digital.