Artigo 26.º: obrigações do implementador na IA da educação
Como as obrigações do implementador do artigo 26.º do Regulamento da UE sobre IA se aplicam a escolas — formação docente, notificação dos pais, dados das crianças e FRIA.
O artigo 26.º do Regulamento da UE sobre IA estabelece obrigações para os responsáveis pela implantação — organizações que utilizam sistemas de IA de risco elevado desenvolvidos por terceiros. Na educação, os responsáveis pela implantação são escolas, universidades, júris de exame e autoridades educativas que adquirem a fornecedores de tecnologia educativa ferramentas baseadas em IA para a avaliação de alunos, a aprendizagem adaptativa, a deteção de plágio ou a triagem de admissões. Estas instituições assumem a responsabilidade direta pela conformidade quanto à forma como as ferramentas de IA são utilizadas nos contextos educativos, ainda que não tenham construído a tecnologia.
Os responsáveis pela implantação na educação enfrentam obrigações reforçadas porque os seus sistemas de IA afetam crianças e jovens — titulares de dados vulneráveis ao abrigo do RGPD. Uma AIPD é obrigatória ao implantar IA em contextos educativos que envolvam menores, e os pais ou tutores devem ser notificados das ferramentas de IA utilizadas na educação do seu filho. Esta página explica o que o artigo 26.º exige das instituições de ensino, como interage com o direito da proteção de dados e da educação e que lacunas de conformidade a Scanara deteta.
Quem é responsável pela implantação na educação?
Escolas e agrupamentos de escolas
Escolas do ensino básico e secundário que implantam ferramentas baseadas em IA para a avaliação de alunos, a análise da aprendizagem ou a monitorização comportamental. Os agrupamentos de escolas que adquirem plataformas de IA de forma centralizada são responsáveis pela implantação com obrigações ao abrigo do artigo 26.º para todas as escolas que utilizam essas ferramentas.
Universidades e ensino superior
Universidades que utilizam IA de terceiros para a pontuação de admissões, a correção automatizada de ensaios, a deteção de plágio (por exemplo, Turnitin) ou plataformas de aprendizagem adaptativa. Cada instituição que implanta estas ferramentas é um responsável pela implantação, independentemente de a aquisição ter sido centralizada.
Organismos de exame e certificação
Organizações que utilizam IA para a pontuação automatizada de exames, a supervisão ou a avaliação de certificação. Estes responsáveis pela implantação tomam decisões de elevado impacto sobre o aproveitamento educativo e devem garantir uma supervisão humana robusta da classificação assistida por IA.
Ministérios e autoridades da educação
Organismos públicos de educação que implantam IA para a análise do desempenho escolar, a afetação de recursos ou os sistemas de alerta precoce do risco de abandono escolar. Enquanto organismos regidos pelo direito público, estes responsáveis pela implantação devem realizar uma FRIA antes da implantação.
Plataformas de aprendizagem em linha
Instituições de ensino que utilizam sistemas de tutoria por IA de terceiros, motores de aprendizagem adaptativa ou sistemas de recomendação personalizada de fornecedores comerciais de tecnologia educativa. A instituição que licencia a plataforma para utilização dos alunos é o responsável pela implantação.
Principais obrigações do responsável pela implantação para a educação
O artigo 26.º exige que os responsáveis pela implantação utilizem os sistemas de IA conforme as instruções do fornecedor, atribuam supervisão humana e monitorizem as operações. Para a educação, estas obrigações revestem-se de um peso adicional porque as pessoas afetadas são frequentemente crianças com capacidade limitada para compreender ou contestar as decisões da IA.
Formação dos professores sobre ferramentas de IA
Os responsáveis pela implantação devem atribuir a supervisão humana a pessoas com a competência, formação e autoridade necessárias. Na educação, tal significa que os professores devem ser formados para utilizar as ferramentas de IA de forma adequada, identificar quando o resultado da IA está incorreto e anular as recomendações da IA. A formação deve abranger as capacidades específicas e as limitações conhecidas do sistema de IA.
Notificação de pais e tutores
Para as ferramentas de IA utilizadas com menores, os pais ou tutores legais devem ser informados dos sistemas de IA implantados na educação do seu filho. Tal inclui a finalidade da IA, que dados esta trata e como os resultados da IA são utilizados nas decisões educativas. Isto estende-se para além do artigo 26.º até aos requisitos do RGPD sobre dados de crianças.
Avaliação de impacto sobre os direitos fundamentais
As escolas públicas e as autoridades educativas devem realizar uma FRIA antes de implantar IA de risco elevado. A avaliação deve analisar os impactos nos direitos das crianças à educação, à não discriminação, ao desenvolvimento e à participação. As escolas privadas que ministram ensino financiado por fundos públicos podem também ser obrigadas a realizar uma FRIA.
Monitorização de uma utilização adequada à idade
Os responsáveis pela implantação devem monitorizar as operações do sistema de IA com base nas instruções do fornecedor. Na educação, tal inclui verificar que a ferramenta de IA é adequada ao grupo etário e ao nível cognitivo do aluno e que não produz resultados prejudiciais, enganosos ou inadequados ao desenvolvimento.
Sobreposições regulamentares
Os responsáveis pela implantação na educação devem cumprir o Regulamento da UE sobre IA a par das proteções do RGPD relativas aos dados de crianças, das leis nacionais da educação e das orientações do Conselho da Europa sobre a IA na educação. A sobreposição cria uma obrigação de conformidade em camadas.
RGPD art. 8.º — Dados de crianças
O RGPD prevê proteções específicas para os dados pessoais das crianças, incluindo os requisitos de consentimento parental para os serviços da sociedade da informação. A implantação de IA que trata dados de alunos desencadeia estas proteções a par das obrigações do responsável pela implantação do artigo 26.º. Os mecanismos de consentimento devem ser concebidos para serem compreendidos pelos pais e, quando adequado, pelos próprios alunos.
RGPD art. 35.º — AIPD para titulares vulneráveis
Uma AIPD é obrigatória ao tratar dados de crianças ou ao utilizar novas tecnologias em contextos educativos. É distinta da FRIA do Regulamento sobre IA, mas aborda preocupações sobrepostas. Os responsáveis pela implantação na educação devem realizar ambas as avaliações em paralelo, garantindo que cada requisito regulamentar é abordado de forma distinta.
Leis nacionais da educação
Os Estados-Membros têm leis da educação que regem as normas de avaliação, os direitos dos alunos e os direitos de informação dos pais. Algumas jurisdições restringem a tomada de decisão automatizada na avaliação educativa ou exigem aprovações específicas antes de implantar tecnologia nas salas de aula. Estes requisitos sobrepõem-se ao artigo 26.º.
Orientações do Conselho da Europa sobre a IA na educação
O Conselho da Europa emitiu orientações sobre a IA na educação que dão ênfase à transparência, à autonomia do aprendente e à capacitação dos professores. Embora não sejam juridicamente vinculativas, estas orientações informam as boas práticas e podem influenciar a forma como as autoridades de controlo interpretam as obrigações do responsável pela implantação do artigo 26.º nos contextos educativos.
Violações comuns detetadas pela Scanara
Sem configuração de registo para eventos de IA de tecnologia educativa
Ferramentas de IA de avaliação ou de aprendizagem adaptativa implantadas sem infraestrutura de registo que capte as entradas, saídas e decisões da IA. A Scanara assinala as implantações educativas em que não existe uma pista de auditoria para as decisões de classificação ou de definição de perfis de alunos assistidas por IA.
IA de terceiros implantada sem documentação de FRIA
Escolas públicas ou autoridades educativas que implantam ferramentas de IA sem uma avaliação de impacto documentada sobre os direitos fundamentais. A Scanara deteta implantações de IA de risco elevado em contextos de educação pública em que não foi registada qualquer FRIA antes da utilização em contacto com os alunos.
Função de supervisão humana não atribuída formalmente
Ferramentas de IA de classificação ou de avaliação implantadas sem designar formalmente que professores ou pessoal académico revê os resultados da IA antes de decisões com consequências. A Scanara identifica as implantações em que nenhuma atribuição de funções liga os educadores formados às responsabilidades de supervisão da IA.
Sem notificação dos pais para a utilização de IA com menores
Ferramentas de IA que tratam dados de alunos implantadas sem notificação documentada aos pais ou tutores. A Scanara assinala as implantações em contextos do ensino básico e secundário em que não foi implementado qualquer mecanismo de notificação ou consentimento parental para a utilização do sistema de IA.
Lista de verificação de conformidade com o artigo 26.º para a educação
Utilização conforme com as instruções de utilização
Verifique que as ferramentas de IA são utilizadas dentro do âmbito declarado pelo fornecedor — grupos etários, disciplinas e tipos de avaliação corretos. Documente qualquer utilização fora do âmbito previsto.
Formação e supervisão dos professores
Forme os professores sobre as capacidades e limitações das ferramentas de IA. Atribua formalmente funções de supervisão com autoridade documentada para anular os resultados da IA nas decisões de avaliação e de definição de perfis de alunos.
Comunicação de incidentes
Estabeleça um fluxo de trabalho para comunicar as avarias da IA ao fornecedor de tecnologia educativa e à autoridade competente. Inclua critérios sobre o que constitui um incidente grave num contexto educativo.
Registo operacional
Configure o registo das decisões de avaliação assistidas por IA e da análise da aprendizagem. Conserve os registos para os recursos académicos, a inspeção regulamentar e os pedidos de informação dos pais.
Avaliação de impacto sobre os direitos fundamentais
Realize uma FRIA antes de implantar IA em contextos de educação pública. Aborde os direitos das crianças à educação, à não discriminação, ao desenvolvimento e à participação.
Perguntas frequentes
Recursos relacionados
Artigo 26.º: obrigações do responsável pela implantação
Requisitos completos para responsáveis pela implantação do artigo 26.º em todos os setores.
IA da educação — polo setorial
Guia completo de conformidade com o Regulamento da UE sobre IA para sistemas de IA da educação.
Artigo 9.º: gestão de riscos para a educação
Requisitos do sistema de gestão de riscos para responsáveis pela implantação e prestadores de IA da educação.
Artigo 13.º: transparência para a educação
Obrigações de transparência e de informação para sistemas de IA da educação.
Como o Scanara ajuda
O Scanara automatiza a conformidade com o Regulamento de IA do código ao dossiê. Ligue os seus repos GitHub e obtenha relatórios de conformidade em minutos.