Foi publicado na revista Trilhas Pedagógicas o artigo “Governança informacional da IA na educação: do referencial brasileiro a uma matriz de avaliação de políticas e sistemas”, escrito por mim e por João Antonio de Moraes.
Em um texto anterior deste blog, apresentamos alguns problemas éticos e epistemológicos associados à presença crescente da IA na educação, com destaque para a privacidade informacional, a formação de crenças e a divisão digital. O novo artigo parte dessas discussões, mas desloca o foco para uma questão institucional: como avaliar as políticas, plataformas e sistemas de IA incorporados aos ambientes educacionais?
Nossa tese é que a IA não funciona somente como uma ferramenta acrescentada ao ensino. Ao coletar dados, classificar desempenhos, recomendar conteúdos, produzir respostas e orientar decisões, ela reorganiza as condições pelas quais o conhecimento é produzido, acessado e validado. Por isso, sua governança envolve escolhas sobre quem controla informações, quais critérios são incorporados aos sistemas, quem pode compreender e contestar decisões e como o poder é distribuído entre instituições, docentes, estudantes e fornecedores de tecnologia.
O artigo toma como interlocutor normativo o Referencial para o Uso e Desenvolvimento Responsáveis de Inteligência Artificial na Educação, publicado pelo Ministério da Educação em 2026. Suas diretrizes são examinadas a partir da Ética Informacional, permitindo relacionar proteção de dados, transparência, letramento em IA, centralidade docente, equidade e soberania tecnológica dentro de um mesmo problema de governança.
O que a Ética Informacional acrescenta ao debate?
A Ética Informacional é um campo interdisciplinar dedicado aos problemas éticos relacionados à produção, organização, circulação e uso da informação, especialmente em sociedades profundamente mediadas por tecnologias digitais. Seu olhar não se limita ao conteúdo que circula: ele alcança as infraestruturas, plataformas e critérios que determinam quais informações são coletadas, como são classificadas, o que se torna visível e quem pode tomar decisões a partir delas.
Aplicada à educação, essa perspectiva ajuda a aprofundar alguns conceitos centrais:
- Privacidade informacional vai além da segurança e da proteção jurídica dos dados. Refere-se ao controle efetivo que estudantes e professores possuem sobre as informações que os descrevem, classificam e tornam previsíveis. Uma plataforma pode estar formalmente adequada à legislação e, ainda assim, ampliar a vigilância ou reduzir a autonomia de seus usuários.
- Responsabilidade epistêmica diz respeito à responsabilidade que assumimos pelas crenças que aceitamos, pelas fontes que utilizamos e pelos critérios empregados para justificá-las. No contexto da IA, o conceito ajuda a distinguir uma resposta fluente e plausível de conhecimento efetivamente compreendido e justificado. A IA pode produzir conteúdos, mas não assume responsabilidade epistêmica ou moral por eles.
- Justiça informacional envolve o tratamento justo das pessoas em suas relações com a informação: como usuárias, produtoras e também como sujeitos sobre os quais dados e classificações são produzidos. A igualdade, nesse caso, não se resume ao acesso a dispositivos. Ela exige condições equitativas de compreensão, representação, participação e controle.
- Autonomia informacional corresponde à capacidade de compreender os sistemas utilizados, deliberar sobre suas finalidades, avaliar recomendações e contestar decisões. No caso dos professores, isso significa preservar uma autonomia docente efetiva, evitando que sua atuação seja reduzida à operação de plataformas ou à validação formal de resultados algorítmicos.
- Soberania tecnológica não se restringe à produção nacional de ferramentas. Ela envolve controle público sobre dados, infraestruturas e critérios, além da possibilidade de adaptar os sistemas às realidades linguísticas, culturais e educacionais brasileiras.
- Governança informacional reúne essas questões ao examinar quem controla, organiza e regula os fluxos de informação, segundo quais critérios e sob quais mecanismos de responsabilização. A adoção de uma tecnologia educacional deixa, assim, de ser uma escolha meramente técnica e passa a ser compreendida como decisão ética, pedagógica e política.
Nesse quadro, transparência, explicabilidade e contestabilidade tornam-se condições práticas de uma governança responsável. Não basta informar que determinado sistema utiliza IA: é preciso tornar seus critérios compreensíveis, permitir a revisão de suas classificações e assegurar que as pessoas afetadas possam questionar e corrigir decisões.
Como principal contribuição do artigo, propomos a seguinte matriz. Ela possui caráter heurístico: não substitui avaliações jurídicas, técnicas ou pedagógicas, mas oferece perguntas e indicadores para orientar políticas públicas, contratações institucionais, adoção de plataformas e práticas educacionais mediadas por IA.
Matriz de avaliação da governança informacional da IA na educação
| Dimensão | Problema informacional | Risco educacional | Critério de avaliação | Evidências/Indicadores |
|---|---|---|---|---|
| Privacidade informacional | Coleta, circulação, compartilhamento e reutilização de dados pessoais de estudantes e docentes. | Vigilância, perfilização, modulação de condutas, perda de autonomia e de privacidade. | Há controle efetivo sobre quais dados são coletados, por quem, para quais finalidades, por quanto tempo e com quais mecanismos de revisão e contestação? | Política de dados; consentimento; retenção; anonimização; auditorias. |
| Perfilização e classificação algorítmica | Produção de perfis, inferências e classificações automatizadas a partir de dados educacionais. | Estigmatização, discriminação, profecias autorrealizáveis, limitação de oportunidades educacionais. | Os perfis e classificações são auditáveis, justificáveis, revisáveis e contestáveis pelos sujeitos afetados? | Existência de revisão humana; possibilidade de revisão de perfis; documentação dos critérios. |
| Responsabilidade epistêmica | Formação de crenças mediada por respostas automatizadas, plausíveis e personalizadas. | Confusão entre fluência textual e conhecimento; terceirização da interpretação, inferência e justificação. | O uso da IA exige verificação de fontes, confronto de evidências, explicitação das incertezas e reconstrução argumentativa? | Estratégias de verificação; atividades de checagem; formação crítica. |
| Qualidade informacional | Produção e circulação de conteúdos potencialmente imprecisos, incompletos ou fabricados. | Desinformação, alucinações, falsas referências e perda de confiabilidade. | O sistema informa fontes, evidências, margens de incerteza e permite verificar a origem das informações? | Citações; indicação de fontes; aviso de incerteza; rastreabilidade. |
| Explicabilidade | Opacidade do funcionamento e dos critérios utilizados pelos sistemas. | Decisões incompreensíveis e baixa confiança institucional. | Os usuários conseguem compreender como recomendações e decisões foram produzidas? | Documentação técnica; explicações acessíveis; transparência algorítmica. |
| Contestabilidade | Ausência de mecanismos de revisão das decisões automatizadas. | Decisões irrecorríveis ou arbitrárias. | Existem procedimentos claros para revisão, recurso e correção das decisões produzidas pelo sistema? | Canal de recurso; revisão humana; registro das contestações. |
| Autonomia docente | Transferência do julgamento pedagógico para plataformas e dashboards. | Redução do professor a operador, fiscal ou validador de sistemas. | O docente participa efetivamente da definição de finalidades, critérios, limites e formas de uso da IA? | Participação docente; autonomia curricular; formação crítica. |
| Divisão digital sistêmica | Desigualdades de acesso, uso significativo, competências digitais e participação. | Inclusão apenas formal e ampliação das desigualdades. | Há infraestrutura, formação continuada, acessibilidade e condições equitativas de apropriação crítica da IA? | Conectividade; formação; acessibilidade; suporte técnico. |
| Justiça informacional | Distribuição desigual dos benefícios, riscos e capacidades de agência. | Reprodução de desigualdades sociais, regionais, culturais, linguísticas, raciais e relacionadas à deficiência. | A tecnologia reduz desigualdades e amplia oportunidades ou apenas automatiza desigualdades já existentes? | Avaliação de impacto; indicadores de equidade; participação de grupos vulneráveis. |
| Soberania tecnológica | Dependência de modelos, plataformas, dados e critérios externos. | Colonialismo informacional, baixa adequação cultural e perda de controle público. | Os sistemas são auditáveis, interoperáveis, contextualizados e compatíveis com a diversidade sociocultural brasileira? | Interoperabilidade; dados nacionais; código auditável; governança pública. |
| Governança democrática | Decisões técnicas tomadas sem participação social ou transparência institucional. | Captura institucional por fornecedores privados e responsabilização difusa. | Existem mecanismos permanentes de participação de docentes, estudantes, famílias e gestores na adoção, avaliação e revisão dos sistemas? | Consulta pública; comitês; avaliação de impacto; prestação de contas. |
A matriz deve ser lida de maneira integrada. Um sistema pode apresentar bom desempenho técnico e, ainda assim, ampliar a vigilância, reduzir a autonomia docente ou reproduzir desigualdades. Da mesma forma, o cumprimento de exigências jurídicas mínimas não assegura transparência, contestabilidade ou participação democrática.
A questão decisiva, portanto, não é simplesmente se uma tecnologia funciona, mas que ambiente informacional ela institui e se fortalece ou enfraquece as condições de uma educação crítica, democrática e inclusiva.
Referência
TESTA, Rafael Rodrigues; MORAES, João Antonio de. Governança informacional da IA na educação: do referencial brasileiro a uma matriz de avaliação de políticas e sistemas. Trilhas Pedagógicas, Pirassununga, v. 16, n. 20, p. 324–347, ago. 2026. url:http://ojs.fatece.edu.br/index.php/trilhas-pedagogicas/article/view/416
Disponível para download em https://philpapers.org/rec/TESGID