Artigo 13.º: Transparência da IA na educação — EU AI Act
Como a transparência do artigo 13.º do EU AI Act se aplica à IA da educação — divulgação adequada à idade, transparência da classificação e explicabilidade das admissões.
O artigo 13.º do EU AI Act exige que os sistemas de IA de alto risco sejam suficientemente transparentes para que os responsáveis pela implementação possam interpretar os resultados e utilizá-los adequadamente. Na educação, a transparência protege os direitos dos alunos e dos pais, ao mesmo tempo que permite aos educadores tomar decisões informadas. Nos termos do Anexo III, Secção 3, os sistemas de IA que determinam o acesso ou a admissão a instituições de ensino, avaliam os resultados da aprendizagem ou avaliam o nível de educação adequado para uma pessoa são classificados como de alto risco e sujeitos à totalidade das obrigações de transparência do artigo 13.º.
Esta página explica como os requisitos de transparência do artigo 13.º se aplicam especificamente à IA da educação — da admissão à classificação — incluindo a divulgação adequada à idade, a orientação dos professores, a notificação dos pais e que violações ao nível do código o Scanara deteta nos sistemas de IA educativos.
Que sistemas de IA da educação devem ser transparentes?
IA de admissão e matrícula
Os sistemas de IA que fazem a triagem, classificam ou filtram candidatos a instituições de ensino devem explicar que critérios motivaram as decisões de admissão. “O nosso sistema considerou-o não adequado” sem fundamentação não é conforme ao artigo 13.º(1).
Classificação e avaliação assistidas por IA
Os sistemas que pontuam ensaios, exames ou trabalhos devem ser transparentes quanto aos critérios de avaliação e à ponderação utilizados. Os professores devem compreender as limitações do modelo para utilizar corretamente as recomendações de classificação da IA em vez de as tratarem como veredictos definitivos.
Percurso de aprendizagem e recomendação de conteúdos
Os sistemas de IA que recomendam materiais de aprendizagem, ajustam os níveis de dificuldade ou personalizam os currículos devem ser transparentes quanto à base das recomendações, em especial quando afetam a progressão educativa ou a orientação de um aluno.
Deteção de plágio e de integridade académica
As ferramentas de IA que detetam plágio ou conteúdo gerado por IA devem fornecer explicações transparentes sobre por que motivo o conteúdo foi sinalizado. Os alunos acusados de desonestidade académica devem ter acesso ao raciocínio subjacente à determinação da IA, e não apenas a uma pontuação de semelhança.
Sistemas de risco e de alerta precoce dos alunos
A IA que prevê o risco de abandono escolar, as dificuldades de aprendizagem ou as preocupações comportamentais deve fornecer aos educadores indicadores interpretáveis que expliquem a base da previsão, permitindo uma intervenção direcionada em vez de uma sinalização opaca.
Principais obrigações de transparência para a educação
O artigo 13.º exige instruções de utilização que permitam aos responsáveis pela implementação interpretar adequadamente os resultados da IA. Para a IA da educação, isto significa que as instruções devem ser compreensíveis para professores, administradores e — de forma crucial — para os pais de menores, e não apenas para o pessoal técnico. A transparência adequada à idade é um desafio distintivo neste setor.
Transparência adequada à idade para menores
Quando os sistemas de IA tratam dados de menores, a transparência deve dirigir-se aos pais ou tutores legais, e não apenas aos administradores da instituição. As instruções de utilização devem ser compreensíveis para pais sem formação técnica, explicando o que a IA faz, como afeta a educação do seu filho e que direitos têm.
Os professores devem compreender as limitações do modelo
O artigo 13.º(1) exige que os resultados sejam interpretáveis pelos responsáveis pela implementação. Os professores devem compreender que as recomendações de classificação da IA não são infalíveis — as instruções devem documentar as taxas de exatidão, os enviesamentos conhecidos (língua, referências culturais, estilo de escrita) e quando o juízo humano deve prevalecer sobre a avaliação da IA.
Os alunos e os pais devem ser notificados
O artigo 50.º(1) exige que as pessoas singulares que interagem com um sistema de IA sejam informadas desse facto. Os alunos e os pais devem ser notificados quando a IA é utilizada em decisões de admissão, classificação ou colocação educativa. A notificação deve ser atempada — antes ou no momento da decisão influenciada pela IA.
As instituições devem explicar as decisões assistidas por IA
Quando contestadas, as instituições devem poder explicar por que motivo foi tomada uma decisão assistida por IA. O artigo 22.º do GDPR confere às pessoas o direito de contestar decisões automatizadas com efeitos significativos — a colocação educativa e a classificação enquadram-se claramente neste critério. A transparência do artigo 13.º permite à instituição fornecer esta explicação.
Sobreposições regulamentares
A transparência da IA da educação cruza-se com a proteção de dados das crianças, o direito antidiscriminação e as regulamentações nacionais em matéria de educação. O artigo 13.º deve ser coordenado com estas obrigações sobrepostas.
Artigos 13.º/14.º e artigo 22.º do GDPR — Dados das crianças
O GDPR exige uma linguagem clara e simples ao fornecer informações às crianças (Considerando 58). As informações sobre o tratamento por IA dos dados das crianças devem ser adequadas à idade. O artigo 22.º do GDPR confere o direito de contestar decisões automatizadas — as decisões de IA educativa que afetam a progressão de uma criança qualificam-se como decisões com “efeitos significativos semelhantes”.
Orientações do Conselho da Europa sobre a IA na educação
As orientações do Conselho da Europa sobre a IA e a educação salientam a transparência como princípio fundamental, exigindo que a IA educativa seja compreensível por todas as partes interessadas, incluindo alunos, pais e educadores. Estas orientações não vinculativas informam a implementação nacional e complementam os requisitos vinculativos do artigo 13.º.
Direito nacional da educação e regulamentos de exames
Muitos Estados-Membros da UE têm regulamentações que regem a equidade dos exames, os recursos de classificação e a transparência das admissões. Quando a IA é utilizada nestes processos, as obrigações nacionais de transparência existentes (por exemplo, o direito de rever as provas de exame e de compreender os critérios de classificação) devem ser alargadas para incluir informações específicas da IA sobre o papel do sistema.
Recomendação da UNESCO sobre a ética da IA
A Recomendação da UNESCO sobre a Ética da IA destaca a educação como área prioritária que exige transparência, em particular no que respeita ao enviesamento algorítmico na avaliação e ao potencial de a IA reforçar as desigualdades educativas. Estes princípios informam o espírito da implementação do artigo 13.º na educação.
Violações comuns detetadas pelo Scanara
Classificação por IA sem transparência dos critérios
Pontos de extremidade de classificação que devolvem pontuações ou notas sem explicação acompanhante sobre que critérios de avaliação contribuíram para o resultado. O artigo 13.º(1) exige resultados interpretáveis — o Scanara sinaliza as API de avaliação que devolvem apenas pontuações numéricas sem explicação ao nível da grelha.
Ausência de divulgação de IA nas interfaces destinadas aos alunos
Plataformas de aprendizagem e ferramentas de avaliação que utilizam IA sem notificar os alunos ou os pais. O Scanara deteta páginas destinadas aos alunos e pontos de extremidade de API que iniciam o tratamento por IA sem um componente de divulgação ou mecanismo de notificação.
Recusa de admissão sem explicação dos fatores
Pontos de extremidade de decisão de admissão que devolvem estados de recusa sem explicar que fatores contribuíram para a decisão. Os candidatos e os seus pais devem poder compreender a base de uma decisão de admissão assistida por IA ao abrigo do artigo 13.º e do artigo 22.º do GDPR.
Instruções de utilização sem secção de limitações
Documentação do sistema que descreve as capacidades de avaliação da IA sem documentar limitações conhecidas, como o enviesamento linguístico, o tratamento de referências culturais ou a degradação da exatidão para formatos de submissão não padrão. O artigo 13.º(3)(b)(i) exige a divulgação das limitações e da utilização indevida previsível.
Lista de verificação de conformidade com o artigo 13.º para a educação
Tornar as avaliações da IA interpretáveis para os educadores
Garanta que os professores possam compreender a base das recomendações de classificação da IA, incluindo que critérios contribuíram para a pontuação e como foram ponderados. Forneça transparência ao nível da grelha junto de cada resultado de avaliação da IA.
Notificar os alunos e os pais sobre a utilização da IA
Informe os alunos e os pais quando a IA é utilizada na admissão, na classificação ou na colocação educativa. Para os menores, as notificações devem ser dirigidas aos pais numa linguagem clara e não técnica.
Fornecer instruções de utilização adequadas à idade
Documente as capacidades do sistema, as limitações e a utilização prevista numa linguagem compreensível para pais sem formação técnica. Inclua métricas de exatidão, enviesamentos conhecidos e orientações sobre quando o juízo do educador deve prevalecer sobre as recomendações da IA.
Permitir a contestação das decisões da IA
Garanta que a transparência fornecida ao abrigo do artigo 13.º seja suficiente para que os alunos e os pais contestem as decisões assistidas por IA. A instituição deve poder explicar o contributo da IA para qualquer decisão que afete a progressão educativa.
Divulgar a exatidão e as limitações da avaliação
Reporte a exatidão da classificação, a fiabilidade entre avaliadores com os corretores humanos e as variações de desempenho conhecidas entre os perfis demográficos dos alunos, as línguas e os formatos de submissão. Documente as condições em que a avaliação por IA pode ser menos fiável.
Perguntas frequentes
Recursos relacionados
Artigo 13.º: Transparência
Requisitos completos do artigo 13.º em todos os setores.
IA da educação — Centro setorial
Guia completo de conformidade com o EU AI Act para os sistemas de IA da educação.
Artigo 12.º: Manutenção de registos para a educação
Requisitos de registo e manutenção de registos para a IA da educação.
Artigo 14.º: Supervisão humana para a educação
Obrigações de supervisão humana para os sistemas de IA da educação.
Como o Scanara ajuda
O Scanara automatiza a conformidade com o Regulamento de IA do código ao dossiê. Ligue os seus repos GitHub e obtenha relatórios de conformidade em minutos.