“Não dá para esperar para falar de IA na educação”, diz diretor de inovação

Educação

05.09.2024 - 15h26

Rio de Janeiro - RJ

As tecnologias de Inteligência Artificial tem se mostrado tão eloquentes que podem passar despercebidas por seus usuários, seja no entretenimento, no trabalho ou na educação. “A realidade é que se não pensarmos sobre isso agora, não vamos mais pensar. Não dá para esperar para falar de IA na educação. Existe uma janela curta de intencionalidade sobre o tema que devemos aproveitar”. Assim defende Guilherme Cintra, Diretor de Inovação e Tecnologia da Fundação Lemann, em conversa exclusiva com a Lupa.

Na terceira edição da série IA na Educação, que será dividida em duas partes, Cintra fala sobre o uso crescente das ferramentas de IA em um cenário em que muitas pessoas ainda não entendem, não sabem explicar como funciona ou simplesmente ainda nem conhecem as tecnologias de Inteligência Artificial.

“Uma tecnologia em que escrevo e ela me responde, gera uma tabela, um texto, uma imagem. Essa mágica aparente traz uma espécie de terceirização dos processos cognitivos e distorce o uso da IA no ambiente educacional. A relação é o centro da coisa. A IA precisa facilitar esses processos”.

A escola como espaço das relações e interações humanas, os vieses estigmatizantes das bases de dados e a busca pelo que chama de “fricção ótima” são outros pontos abordados pelo educador nesta primeira parte da conversa.

Confira a seguir os principais trechos da entrevista:

O tema das IAs ganhou popularidade nos dois últimos anos. Considera que estamos diante de um novo paradigma social?

Gosto de dar um passo atrás, para analisar de forma mais ampla como consumimos conteúdo. Quando a Google inaugura seu mecanismo de busca, cria uma forma muito popular de consumir conteúdo, que perdura até hoje, por facilitar a busca [de informação ]na mão do usuário. Quando entra o ChatGPT, o que vemos é uma evolução desse processo, com elementos que simplificam ainda mais a busca e acesso à informação.

Não vejo que isso muda tanto a forma de consumo de conteúdo, mas muda a forma de se relacionar com o que é verdade e o que não é. Aparece a necessidade de ter uma leitura ainda mais apurada sobre mídia, porque o fato de ser fácil [acessar informações], não quer dizer que seja simples.

Agora, gerar conteúdos novos, muda, sim, alguns paradigmas relativos à forma como entendemos a realidade e a forma como podemos criar algo novo a partir da nossa própria compreensão do mundo. Consigo ter acesso ao conteúdo e gerar conteúdo, mas isso aqui é verdade? Afinal, o que é verdade? Então, sim, é uma mudança de paradigma, mas não é essa disrupção tão forte como temos falado.

Que entendimento temos sobre Inteligência Artificial atualmente?

Não temos quase nenhum entendimento, porque ao conversar com especialistas e perguntar se eles sabem explicar como funciona uma IA generativa, muitos vão dizer que não sabem. Não sabemos como isso funciona de verdade. Estamos aprendendo a interpretar um campo bastante novo, onde é quase como se eu fizesse uma ressonância magnética funcional num modelo de Inteligência Artificial.

Parece distante, mas é o que estamos fazendo. Ainda que seja apenas uma analogia, o fato de ser cada vez mais próximo, mais parecido com a estruturação de um cérebro humano, com a lógica das redes neurais, faz com que seja algo cada vez mais complexo. Não temos controle sobre os outputs, ou seja, o que sai desses modelos.

Quando vamos para um nível mais leigo, isso é ainda mais real. O fato de parecer algo mágico, uma tecnologia em que escrevo e ela me responde, gera uma tabela, um texto, uma imagem. Essa mágica aparente traz uma espécie de terceirização de processos cognitivos. Passamos a olhar para isso como se fosse uma verdade em si, porque é muito convincente.

O que explicaria essa “percepção mágica” da IA?

A inteligência artificial generativa, na forma como está sendo construída, é muito eloquente. Se você não tem a capacidade de reparar o que está por trás [dos mecanismos], é difícil perceber que aquilo não é a verdade, e, sim, a resposta a uma interação. É uma escrita que vem de uma base de dados construída e que tem uma série de vieses implícitos, o que requer cuidado por parte de quem usa.

E tem um lugar mais básico ainda que é o fato de muitas pessoas simplesmente não conhecerem a IA. É provável que o público que esteja lendo essa entrevista já tenha alguma consciência do que é inteligência artificial, mas a grande maioria das pessoas não têm.

Recentemente, uma análise sobre os países e como as pessoas interagem com o ChatGPT – que é a IA generativa mais conhecida – mostrou que a Dinamarca é o país que mais usa essa ferramenta semanalmente – 39% das pessoas – e ao mesmo tempo onde 35% não sabia sequer do que se tratava o ChatGPT.

Como aproveitar o momento atual para estimular o melhor uso desse tipo de tecnologia?

A IA já está na nossa vida e, às vezes, nos esquecemos. Pergunto a vários educadores se eles usam IA, e eles falam que não, mas na verdade estão usando. Na Netflix, no Linkedin, no Spotify, no Facebook, no Instagram, a IA está em todo lugar. O que talvez não usem é o ChatGPT, que é uma ferramenta que surgiu mais recentemente e que é hoje visível como IA, mas que será invisível daqui a pouco.

Esta, inclusive, é a intenção de quem constrói o ChatGPT. Não interessa que o maior uso seja por meio do site deles, mas que a ferramenta esteja incluída na interface de outros produtos que usam esses modelos. Então, não vou estar mais usando o ChatGPT, vou estar usando aquele modelo em alguma outra aplicação.

Daqui a pouco, isso vai estar na nossa vida o tempo todo, sem que a gente pense que é IA generativa. A realidade é que se não pensarmos sobre isso agora, não vamos mais pensar. Existe uma janela curta de intencionalidade sobre o tema que devemos aproveitar.

Qual é a função da IA para a educação brasileira?

A primeira coisa a pensar é que não existe um problema de educação propriamente. Muitos empreendedores dizem: eu tenho “a solução”. Não existe “a solução”. É um ecossistema extremamente complexo, com muitas interações humanas, e não tem uma tecnologia que vai resolver isso. Procuro olhar quais são as múltiplas aplicações onde a inteligência artificial pode apoiar, sendo parte de um ecossistema que seja mais útil.

A IA generativa tem permitido coisas super interessantes, como a criação e análise de dados de forma muito mais simples para que um educador possa utilizá-los sem precisar ser um cientista de dados.

Tomando como base meu viés de Educação Básica e pública, [entendo que] a escola é um conjunto de interações humanas e pessoas tentando evoluir todos os dias. A relação é o centro da coisa. A IA precisa facilitar esses processos, o que significa, por exemplo, reduzir o tempo gasto com tarefas administrativas, que o professor e o gestor têm que executar e que não estão relacionadas a interações produtivas, para que o aluno se desenvolva.

Como a IA pode impactar o cenário dos próximos anos?

Ao reler uma carta que escrevi 12 anos atrás sobre o tema, percebi que a descrição é muito parecida com o cenário atual, com a busca pela personalização do ensino, respeitando as dificuldades específicas do aluno. Desde o início do século 20 estamos falando isso. Paulo Freire já falava. Não é novidade.

O que temos hoje são ferramentas com potencial de ajudar efetivamente nesse ambiente formativo. Se o aluno está com dificuldade em determinado ponto, recebe um conteúdo específico ou a sugestão de uma ferramenta para facilitar seu aprendizado naquele determinado aspecto, por exemplo.

No entanto, se estamos desenhando uma tecnologia para ambiente escolar e educacional, precisa ser bem implementado e, para isso, o ecossistema deve trabalhar junto. Não ache que você vai simplesmente desenhar uma plataforma e resolver o problema. Há, sim, a interação aluno-máquina, mas ela sempre vai depender de outro ser humano envolvido, provavelmente o professor ou um gestor. Ainda não temos nenhuma tecnologia que resolva o problema de engajamento [para aprendizagem]. Um dos problemas das tecnologias educacionais é que você engaja cerca de 5% dos alunos, que são ditos autônomos. Os outros 95%, não.

E quanto aos riscos da IA na educação, o que podemos apontar?

Há vários riscos. Um dos mais falados se refere aos vieses, e eles estão em vários elementos. Por exemplo, as bases de dados para a construção de imagens utilizando IA são absolutamente enviesadas. Na prática, isso significa que, ao criar uma imagem gerada por IA, podemos estar reforçando estereótipos na comunidade escolar. Ao pedir a criação da imagem de um profissional médico, muito provavelmente o resultado não será a imagem de uma mulher negra, mas a de um homem branco.

Outro elemento de risco está ligado à segurança, mais especificamente ao vazamento de dados. É fundamental ter clareza sobre como um dado está sendo usado, guardado e como se garante que não vaze, já que estamos falando de dados sensíveis de alunos.

Há usos inadequados da IA no contexto escolar?

Sim, um deles é usar reconhecimento facial em escola, principalmente na vertente de análise de comportamento. Este não é um uso que privilegia a educação de fato. Mesmo sem IA, já vivenciei o uso de câmeras em escolas, e o que acontece é que você terceiriza o processo educacional e remedia ao invés de trabalhar a comunidade para que não aconteça um problema de violência. Imagina isso aplicado à IA preditiva sobre bullying, por exemplo. Não sou favorável a esse tipo de visão.

Poderia explicar mais sobre essa terceirização do processo educacional?

Quando incorporamos um elemento de IA, estamos encurtando os passos entre um problema e uma solução. Isso não é novidade. Várias tecnologias já fizeram isso ao longo do tempo, como a calculadora, por exemplo. Mas no caso da IA generativa, não estamos falando só de um tipo de problema específico. Nesse caso, você pode perguntar qualquer coisa, e receberá respostas múltiplas.

É possível terceirizar muito do processo de raciocínio, e não estou falando que não se deveria terceirizar. Se te torna mais produtivo, você deveria. Mas é importante entender quais são essas partes, porque estamos desenhando soluções educacionais para um aluno que enfrentará problemas no futuro e precisará de pensamento crítico para isso. Nesse sentido, é fundamental um desenho adequado de soluções em que a inteligência artificial facilite processos educacionais, sem tirar o raciocínio do aluno. Chamo isso de “fricção ótima”.

Pode citar um exemplo recente?

Tenho visto textos saindo na mídia com a palavra “crucial”. [O termo] está na base de todas essas IAs generativas de modo muito mais frequente do que até então. E em geral são textos de baixíssima qualidade. Ou seja, não é um bom uso, que te permita perceber que melhorou, fez um texto legal e a IA ajudou a estruturar o raciocínio. O problema nesse caso é que isso não acontece e o processo foi completamente terceirizado. Textos estão saindo na mídia com partes onde se lê: “textos opcionais”, por exemplo.

Estamos em um mundo com acesso às ferramentas, e o uso delas é um processo de construção, onde o aluno precisa ser capaz de pensar por si só, até para validar se as respostas que recebe da IA generativa estão certas e incorporar aquilo de forma produtiva. Precisamos ser capazes de conversar sobre isso, e ainda somos.

Como chegar nesse ponto de “fricção ótima”?

Não é fácil de ser aplicado, principalmente em um país com mais de 200 milhões de pessoas, como o Brasil. Estamos formando hoje o aluno não para 2024, mas também para o futuro. A escola que esse aluno vive hoje é uma escola que o prepara com uma série de elementos de convívio social atual, mas também olhando para o futuro, no qual ele será um adulto, um profissional, alguém com relações próprias. O que esse aluno vai precisar desenvolver criticamente pensando no adulto que será no futuro?

Como aplicar essa perspectiva a nível nacional?

Há pelo menos três camadas a considerar: o que é dependente de contexto, o que é independente de contexto e o que é informado por contexto. A Base Nacional Comum Curricular (BNCC) precisa ser feita assim e já é constituída assim. Há um núcleo de 60% que é mais formatado, que todo o país precisa [saber] e há elementos mais regionalizados. Dependendo de onde se está, os recursos disponíveis, o formato, as condições econômicas locais e culturais, você pode e deve incorporar diferentes tipos de visão de tecnologia e de aprendizagem.

As comunidades locais precisam incorporar a sua visão crítica, envolver alunos, professores e responsáveis para pensar como desejam desenvolver e formar esses alunos. É fundamental que as comunidades escolares de fato estejam trabalhando, respeitando a necessidade de ter uma política nacional e, ao mesmo tempo, considerando as demandas e especificidades das comunidades locais.

Editado por

Raphael Kapa

Clique aqui para ver como a Lupa faz suas checagens e acessar a política de transparência

A Lupa faz parte do

A Agência Lupa é membro verificado da International Fact-checking Network (IFCN). Cumpre os cinco princípios éticos estabelecidos pela rede de checadores e passa por auditorias independentes todos os anos.

A Lupa está infringindo esse código? FALE COM A IFCN

Tipo de Conteúdo: Abre aspas

Tags:

edtechs, ia desplugada, educação, educacao, artigo educacao, inteligência artificial, PL 2338, artigos, abre aspas, IA na educação, educação midiática

Erramos? Informe à nossa redação

Sobre a lupa

Quem somos

Nossa metodologia

Política de correção

Fale com a gente

Sugestões de checagem

Quero ser um checador

Programa de membros

Faça parte do Contexto

Já é membro?

Entrar

revista piauí

Erramos

Política de privacidade

Assine nossa newsletter

sobre desinformação

Acompanhe nossas redes

Feito por