Letramento algorítmico: como a inteligência artificial generativa deve entrar nas escolas?

Unesco recomenda que seja assegurado a todos o direito à educação para o uso de inteligência artificial generativa

Com o objetivo de promover valores humanos fundamentais - e ao mesmo tempo defender o agir humano, a inclusão, a equidade, a igualdade de gênero, as diversidades linguísticas e culturais, bem como opiniões e expressões plurais - a Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura) passou a recomendar aos países, a partir de 2022, a educação direcionada ao uso das ferramentas de Inteligência Artificial Generativa (IAGen).

A preocupação encontra justificativa em diferentes vertentes: crescimento latente das ferramentas interativas; velocidade nas atualizações de suas versões com cada vez mais recursos; falta de regulamentações nacionais para uso das IAs - fragilizando a proteção de dados dos usuários - e, por fim, falta de preparação das instituições de ensino para validarem tais sistemas.

Todas as instruções da Unesco estão agrupadas em um guia (disponível no site www.unesco.org) através do qual indica passos que podem ser utilizados pelos governos para regulamentar o uso de IAs, enfatizando a obrigatoriedade da proteção de dados e a necessidade de se estabelecer um limite de idade para acesso às ferramentas. O documento ainda destaca a real necessidade de instituições educacionais se prepararem para orientar a utilização das IAs, observando a adequação ética e pedagógica para a educação. Ou seja, os desafios são imensos e urgentes, tendo em vista as implicações que este universo impõe à produção de conhecimento, ao ensino e aos processos de aprendizagem e avaliação.

Novo cenário

Essa reflexão global sobre educação versus Inteligência Artificial Generativa tem uma conexão direta com a educação midiática, que é hoje a direção para a qual educadores e educandos, além de toda a sociedade, precisam olhar. Considerando este novo cenário mundial, o Instituto Palavra Aberta, por meio de seu programa de educação midiática, EducaMídia, disponibiliza recursos para auxiliar educadores na tarefa de entender melhor os avanços das IAs - que já estão entre nós há bastante tempo, na vida cotidiana, regendo atividades como pedir um carro ou comida por aplicativo, até escolher um filme ou montar uma playlist nas plataformas de streaming.

“A gente vai sentir os impactos mais claramente com a popularização das inteligências artificias generativas, como o ChatGPT e os aplicativos que deixam a gente gerar imagens. Isso impacta por dois lados bem diferentes”, comenta Mariana Ochs, coordenadora do EducaMídia. Ela também é responsável pela elaboração do ebook Educação midiática e inteligência artificial: fundamentos.

Trata-se de um material introdutório para o entendimento sobre IA, que integra um conjunto de ações de educação, juntamente com um minicurso de formação para professores e pessoas adultas sobre o tema; e mais outros materiais, como planos de aula, utilizados pelos professores com base na educação midiática e educação para a informação. Tudo isso pode ser acessado gratuitamente pelo site www.educamidia.org.br.

De acordo com Mariana Ochs, é importante considerar dois desdobramentos sobre toda essa discussão. O primeiro é o uso das IAs na prática pedagógica: Como os professores vão usar? Que diretrizes a escola vai ter sobre isso? Em que momentos a escola vai determinar que é adequado usar ou não? Quais regras e combinados existirão sobre transparência? Como fica o uso de ferramentas de tecnologias educacionais, que incorporam inteligência artificial e privacidade de dados?

O outro lado da questão dialoga com educação midiática e requer o desenvolvimento de um olhar crítico para como essas tecnologias impactam a produção e a circulação de informações, esbarrando em questões como confiabilidade, pois o ChatGPT e outras ferramentas de IAGen são feitas para produzir linguagem estrutural e gramaticalmente correta, mas não necessariamente factualmente correta, portanto, não confiável - daí a necessidade de se checar sempre a informação.

Essas ferramentas podem, ainda, trazer vieses, reproduzir desigualdades latentes já presentes na sociedade, estereótipos, preconceitos em questões éticas e até mesmo de impacto ambiental, devido à quantidade enorme de processamentos e, portanto, de energia.

“Olhar criticamente para essas coisas, é olhar criticamente para as mídias. A gente precisa entender as estruturas sociais e as técnicas que governam a produção e a circulação de informação na sociedade, e as estruturas de poder que estão embutidas nesses sistemas. A educação midiática faz isso e o ambiente algorítmico é mais um que devemos aprender a interrogar e examinar de forma crítica”.