Regulamento de IA para edtech e educação

O regulamento não tem um regime setorial para a educação. Este sítio usa a palavra para a IA que entra no regulamento pelo anexo III, ponto 3, intitulado «Educação e formação profissional», e pelas regras abaixo.

• Acesso e admissão: anexo III, ponto 3, alínea a)

  Os sistemas de IA concebidos para serem utilizados para determinar o acesso ou a admissão ou a afetação de pessoas singulares a instituições de ensino e de formação profissional de todos os níveis são de risco elevado.

• Resultados da aprendizagem: anexo III, ponto 3, alínea b)

  Os sistemas de IA concebidos para serem utilizados para avaliar os resultados da aprendizagem, nomeadamente quando esses resultados são utilizados para orientar o processo de aprendizagem de pessoas singulares, são de risco elevado.

• Nível de educação: anexo III, ponto 3, alínea c)

  Os sistemas de IA concebidos para serem utilizados para efeitos de avaliação do nível de educação adequado que as pessoas receberão ou a que poderão ter acesso são de risco elevado.

• Controlo durante os testes: anexo III, ponto 3, alínea d)

  Os sistemas de IA concebidos para serem utilizados para efeitos de controlo e deteção de práticas proibidas por parte de estudantes durante testes são de risco elevado. Cada um dos quatro usos está associado a instituições de ensino e de formação profissional de todos os níveis. O ponto 3, alínea d), nomeia os testes.

• Usos que o ponto 3 não nomeia

  O ponto 3 não nomeia, enquanto tais, a deteção de plágio ou de texto gerado por IA, a previsão do abandono escolar, os painéis de aprendizagem, os chatbots administrativos nem a aprendizagem adaptativa. Um sistema para um destes usos só é de risco elevado se a sua finalidade prevista corresponder a uma das alíneas a) a d) do ponto 3, ou se outro ponto do anexo III ou o anexo I o abranger.

• O artigo 6.º, n.º 3, pode retirar um sistema do anexo III

  Um sistema abrangido pelo ponto 3 é de risco elevado nos termos do artigo 6.º, n.º 2. Em derrogação, nos termos do artigo 6.º, n.º 3, um sistema do anexo III não é de risco elevado se não representar um risco significativo de danos para a saúde, a segurança ou os direitos fundamentais das pessoas singulares, nomeadamente se não influenciar de forma significativa o resultado da tomada de decisões. Isto aplica-se quando estiver preenchida qualquer uma de quatro condições: a) o sistema destina-se a desempenhar uma tarefa processual restrita; b) destina-se a melhorar o resultado de uma atividade humana previamente concluída; c) destina-se a detetar padrões de tomada de decisões ou desvios em relação a padrões de tomada de decisões anteriores e não se destina a substituir nem influenciar uma avaliação humana previamente concluída, sem que se proceda a uma verificação adequada por um ser humano; ou d) destina-se a executar uma tarefa preparatória no contexto de uma avaliação pertinente para efeitos dos casos de utilização enumerados no anexo III. Um sistema do anexo III é sempre de risco elevado se executar a definição de perfis de pessoas singulares (artigo 3.º, ponto 52, artigo 4.º, ponto 4), do RGPD). O fornecedor que considere que o seu sistema do anexo III não é de risco elevado documenta a sua avaliação antes de o sistema ser colocado no mercado ou colocado em serviço e regista-o (artigo 6.º, n.º 4, artigo 49.º, n.º 2). Saber se um determinado sistema da educação executa a definição de perfis é uma questão para um jurista.

• Inferir emoções em instituições de ensino: proibido, com exceção por razões médicas ou de segurança

  O artigo 5.º, n.º 1, alínea f), proíbe a colocação no mercado, a colocação em serviço para esta finalidade específica ou a utilização de sistemas de IA para inferir emoções de uma pessoa singular no local de trabalho e nas instituições de ensino, exceto nos casos em que o sistema de IA se destine a ser instalado ou introduzido no mercado por razões médicas ou de segurança. A proibição aplica-se a partir de 2 de fevereiro de 2025 (artigo 113.º, alínea a)). É uma proibição, não um uso de risco elevado: a exceção não cria nenhuma obrigação e não é uma ligação ao anexo III. Uma funcionalidade de um sistema da educação que infira emoções de estudantes enquadra-se na alínea f), salvo se se aplicar a exceção. A infração é punida com coima até 35 milhões de EUR ou, no caso de uma empresa, até 7 % do volume de negócios anual total a nível mundial, consoante o que for mais elevado (artigo 99.º, n.º 3). Para as PME, incluindo as empresas em fase de arranque, cada coima fica limitada ao montante mais baixo dos dois (artigo 99.º, n.º 6).

• Outras regras do regulamento que podem abranger a IA na educação

  O artigo 4.º exige que os fornecedores e os responsáveis pela implantação de sistemas de IA adotem medidas para promover a literacia no domínio da IA do seu pessoal e de outras pessoas envolvidas na operação e utilização de sistemas de IA em seu nome; o capítulo I aplica-se a partir de 2 de fevereiro de 2025. O artigo 50.º estabelece obrigações de transparência para os fornecedores e os responsáveis pela implantação de determinados sistemas de IA; não nomeia nenhum caso da educação e aplica-se a partir da data geral de aplicação, 2 de agosto de 2026. O artigo 53.º estabelece obrigações para os fornecedores de modelos de IA de finalidade geral; não nomeia nenhum caso da educação.

O fornecedor («prestador» no regulamento) desenvolve um sistema de IA, ou manda desenvolvê-lo, e coloca-o no mercado ou em serviço sob o seu próprio nome ou a sua própria marca (artigo 3.º, ponto 3). A colocação em serviço inclui o fornecimento para utilização própria (artigo 3.º, ponto 11). Uma escola, uma universidade ou um organismo de exames que utiliza um sistema sob a sua autoridade é um responsável pela implantação (artigo 3.º, ponto 4). Uma universidade que desenvolve um sistema e o coloca em serviço para utilização própria sob o seu próprio nome é, por isso, fornecedor. O responsável pela implantação passa a ser fornecedor de um sistema de risco elevado em três casos: apõe o seu nome ou marca num sistema já colocado no mercado, sem prejuízo de disposições contratuais que atribuam as obrigações de outra forma; faz uma modificação substancial que mantém o sistema de risco elevado; ou altera a finalidade prevista de um sistema que não era de risco elevado, de modo a que passe a sê-lo (artigo 25.º, n.º 1).

O fornecedor de um sistema de risco elevado para a educação tem as obrigações de conceção abaixo. Cada página ligada em «Páginas de artigos para a educação» trata de uma delas.

• art. 9
  Sistema de gestão de riscos

  Um processo iterativo contínuo ao longo do ciclo de vida, com testes com base em parâmetros previamente definidos e atenção às pessoas com menos de 18 anos.

• art. 10
  Dados e governação de dados

  Conjuntos de dados de treino, validação e teste que cumprem os critérios de qualidade, com exame de enviesamentos e práticas de governação de dados.

• art. 12
  Manutenção de registos

  O sistema permite tecnicamente o registo automático de eventos («registos») durante a sua vida útil.

• art. 13
  Transparência e instruções de utilização

  Funcionamento suficientemente transparente para que os responsáveis pela implantação interpretem os resultados, com instruções de utilização que incluem, pelo menos, os elementos do artigo 13.º, n.º 3.

• art. 14
  Supervisão humana

  Conceção que permite uma supervisão eficaz por pessoas singulares enquanto o sistema está em utilização.

• art. 15
  Exatidão, solidez e cibersegurança

  Um nível apropriado de exatidão, solidez e cibersegurança durante todo o ciclo de vida; os níveis de exatidão e os parâmetros pertinentes são declarados nas instruções de utilização. Os responsáveis pela implantação não têm nenhuma obrigação nos termos do artigo 15.º.

• art. 17
  Sistema de gestão da qualidade

  Um sistema de gestão da qualidade documentado. A sua aplicação é proporcionada à dimensão da organização do fornecedor, nomeadamente para as PME e as pequenas empresas de média capitalização, que devem, em qualquer caso, respeitar o grau de rigor necessário (artigo 17.º, n.º 2).

• art. 43(2), 47–49
  Avaliação da conformidade e registo

  Para os sistemas dos pontos 2 a 8 do anexo III, entre os quais o ponto 3, o fornecedor segue o procedimento de avaliação da conformidade baseado no controlo interno (anexo VI), sem organismo notificado (artigo 43.º, n.º 2). Elabora a declaração UE de conformidade (artigo 47.º), apõe a marcação CE (artigo 48.º) e regista-se a si próprio e o sistema na base de dados da UE (artigo 49.º, n.º 1) antes de colocar o sistema no mercado ou em serviço.

• art. 26(1)–(3)
  Utilizar conforme as instruções, atribuir a supervisão

  Os responsáveis pela implantação tomam medidas técnicas e organizativas adequadas para utilizar o sistema de acordo com as instruções de utilização e atribuem a supervisão humana a pessoas singulares que possuam as competências, a formação e a autoridade necessárias, bem como o apoio necessário. Estas obrigações não prejudicam outras obrigações do responsável pela implantação previstas no direito da União ou no direito nacional (artigo 26.º, n.os 1 a 3).

• art. 26(4)–(6)
  Dados de entrada, controlo e registos

  Na medida em que o responsável pela implantação exerça controlo sobre os dados de entrada, assegura que os dados são pertinentes e suficientemente representativos tendo em vista a finalidade prevista. Controla o funcionamento do sistema com base nas instruções de utilização e, se os responsáveis pela implantação tiverem motivos para considerar que a utilização de acordo com as instruções pode conduzir a um risco na aceção do artigo 79.º, n.º 1, informam, sem demora injustificada, o fornecedor ou distribuidor e a autoridade de fiscalização do mercado e suspendem a utilização. Conserva os registos sob o seu controlo durante pelo menos seis meses, salvo disposição em contrário no direito da União ou no direito nacional (artigo 26.º, n.os 4 a 6).

• art. 26(8)
  Autoridades públicas: registo

  Os responsáveis pela implantação que sejam autoridades públicas, ou instituições, órgãos ou organismos da União, cumprem as obrigações de registo referidas no artigo 49.º e não utilizam um sistema que não tenha sido registado na base de dados da UE (artigo 26.º, n.º 8, artigo 49.º, n.º 3).

• art. 26(9)
  Avaliação de impacto sobre a proteção de dados, quando aplicável

  Se for o caso, os responsáveis pela implantação usam as informações prestadas nos termos do artigo 13.º para cumprirem a sua obrigação de realizar uma avaliação de impacto sobre a proteção de dados nos termos do artigo 35.º do RGPD (artigo 26.º, n.º 9). Saber se essa obrigação existe é decidido pelo direito da proteção de dados.

• art. 26(11)
  Informar as pessoas em causa

  Sem prejuízo do artigo 50.º, os responsáveis pela implantação de sistemas de risco elevado do anexo III que tomam decisões ou ajudam a tomar decisões relacionadas com pessoas singulares informam-nas de que estão sujeitas à utilização do sistema (artigo 26.º, n.º 11). Esta é a obrigação de comunicação do regulamento para com os estudantes. Não é o artigo 50.º, n.º 1.

• art. 27
  Avaliação do impacto nos direitos fundamentais

  Antes de implementarem um sistema de risco elevado, os responsáveis pela implantação que sejam organismos de direito público, ou entidades privadas que prestam serviços públicos, executam uma avaliação do impacto nos direitos fundamentais e notificam a autoridade de fiscalização do mercado dos seus resultados; no caso referido no artigo 46.º, n.º 1, os responsáveis pela implantação podem ficar isentos dessa obrigação de notificação. A obrigação exclui o anexo III, ponto 2, e abrange o ponto 3 (artigo 27.º, n.os 1 e 3). O regulamento não nomeia nenhuma escola nem universidade; saber se uma determinada instituição é um organismo de direito público ou uma entidade privada que presta serviços públicos é uma questão de direito nacional e para um jurista.

• art. 86
  Direito a explicações

  Uma pessoa afetada sujeita a uma decisão tomada pelo responsável pela implantação com base nos resultados de um sistema do anexo III (com exceção do ponto 2) e que produza efeitos jurídicos ou analogamente afete essa pessoa num grau significativo, de forma que considere ter repercussões negativas na sua saúde, segurança ou direitos fundamentais, tem o direito de obter do responsável pela implantação explicações claras e pertinentes (artigo 86.º).

• art. 4
  Literacia do pessoal no domínio da IA

  Os responsáveis pela implantação adotam medidas para promover a literacia no domínio da IA do seu pessoal e de outras pessoas envolvidas na operação e utilização de sistemas de IA em seu nome. Esta obrigação não exige que garantam que qualquer pessoa atinja um nível específico de literacia no domínio da IA (artigo 4.º).

• Datas

  O capítulo III, secções 1 a 3, que incluem os artigos 9.º a 15.º, 17.º, 26.º e 27.º, aplica-se aos sistemas de IA classificados como de risco elevado nos termos do artigo 6.º, n.º 2, e do anexo III a partir de 2 de dezembro de 2027 (artigo 113.º, alínea c), subalínea i)). Um sistema de risco elevado colocado no mercado ou colocado em serviço antes dessa data só fica abrangido se, a partir dessa data, a sua conceção sofrer alterações significativas. Em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de risco elevado concebidos para serem utilizados por autoridades públicas tomam as medidas necessárias para cumprir os requisitos e as obrigações previstos no regulamento até 2 de agosto de 2030 (artigo 111.º, n.º 2). O regulamento não diz se isto se aplica também aos sistemas colocados no mercado ou colocados em serviço depois de 2 de dezembro de 2027; é uma questão para um jurista.

• Coimas

  Os fornecedores devem assegurar que os seus sistemas de risco elevado cumprem os requisitos da secção 2 do capítulo III, que inclui os artigos 9.º a 15.º (artigo 16.º, alínea a)). O incumprimento das obrigações dos fornecedores previstas no artigo 16.º ou das obrigações dos responsáveis pela implantação previstas no artigo 26.º pode ser punido com coima. A coima pode ir até 15 milhões de EUR ou, no caso de uma empresa, até 3 % do seu volume de negócios mundial total anual do exercício anterior, consoante o que for mais elevado (artigo 99.º, n.º 4, alíneas a) e e)). Para as PME, incluindo as empresas em fase de arranque, cada coima fica limitada ao montante mais baixo dos dois (artigo 99.º, n.º 6). O mesmo limite aplica-se às pequenas empresas de média capitalização (artigo 3.º, ponto 14-B, artigo 99.º, n.º 6-A). Cada Estado-Membro define regras que permitam determinar em que medida podem ser aplicadas coimas às autoridades e organismos públicos (artigo 99.º, n.º 8).

• Sistemas e usos fora do regulamento

  O regulamento aplica-se aos fornecedores que coloquem no mercado ou coloquem em serviço sistemas de IA no território da União, independentemente de estarem estabelecidos ou localizados na União ou num país terceiro, e aos fornecedores e responsáveis pela implantação de sistemas de IA que tenham o seu local de estabelecimento ou estejam localizados num país terceiro, se o resultado produzido pelo sistema de IA for utilizado na União (artigo 2.º, n.º 1, alíneas a) e c)). Não se aplica a domínios não abrangidos pelo âmbito de aplicação do direito da União nem afeta, em caso algum, as competências dos Estados-Membros em matéria de segurança nacional (artigo 2.º, n.º 3). Não se aplica aos sistemas de IA se e na medida em que tiverem sido colocados no mercado, colocados em serviço ou utilizados, com ou sem modificações, exclusivamente para finalidades militares, de defesa ou de segurança nacional, nem aos sistemas de IA que não tenham sido colocados no mercado ou colocados em serviço na União, se os seus resultados forem utilizados na União exclusivamente para tais finalidades (artigo 2.º, n.º 3). Não se aplica aos sistemas de IA ou modelos de IA, incluindo os respetivos resultados, especificamente desenvolvidos e colocados em serviço exclusivamente para fins de investigação e desenvolvimento científicos (artigo 2.º, n.º 6). Não se aplica às atividades de investigação, testagem ou desenvolvimento antes de um sistema ser colocado no mercado ou colocado em serviço; a testagem em condições reais não é abrangida por essa exclusão (artigo 2.º, n.º 8). Não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares que utilizam os sistemas de IA no âmbito de uma atividade puramente pessoal de caráter não profissional (artigo 2.º, n.º 10). Os sistemas de IA lançados ao abrigo de licenças gratuitas e de código aberto ficam fora do regulamento, a menos que sejam colocados no mercado ou colocados em serviço como sistemas de IA de risco elevado ou que se enquadrem nos artigos 5.º ou 50.º (artigo 2.º, n.º 12).

• Nenhum valor próprio da educação

  Para além do anexo III, ponto 3, e do artigo 5.º, n.º 1, alínea f), o regulamento não tem nenhuma regra específica da educação. Não nomeia nenhum valor de exatidão, nenhum período de conservação para além do mínimo de seis meses, nenhuma frequência de testes nem nenhum limiar de enviesamento para a educação. O próprio regulamento não nomeia nenhuma norma. Presume-se que os sistemas de risco elevado conformes com normas harmonizadas publicadas no Jornal Oficial da União Europeia são conformes com os requisitos da secção 2, desde que essas normas os abranjam (artigo 40.º, n.º 1). A Comissão elabora orientações sobre a aplicação dos artigos 8.º a 15.º, 25.º e 26.º (artigo 96.º, n.º 1, alínea a)) e sobre as práticas proibidas (artigo 96.º, n.º 1, alínea b)).

• Quem é um organismo de direito público

  O artigo 27.º, n.º 1, e o artigo 26.º, n.º 8, aplicam-se a organismos de direito público, entidades privadas que prestam serviços públicos e autoridades públicas. O regulamento não define estes termos para as escolas nem para as universidades. O direito nacional decide como uma instituição é classificada.

• Ferramentas que não são nomeadas

  Saber se um verificador de plágio, um previsor de abandono escolar ou uma ferramenta de aprendizagem adaptativa é de risco elevado depende da sua finalidade prevista, definida pelo fornecedor, à luz do ponto 3, alíneas a) a d). O regulamento não dá nenhuma lista dessas ferramentas.

Uma página por cada artigo que mais importa aos fornecedores e responsáveis pela implantação na educação.

• Artigo 9.º para a IA na educação: sistema de gestão de riscos

  Sistema de gestão de riscos, incluindo as pessoas com menos de 18 anos.

• Artigo 10.º para a IA na educação: dados e governação de dados

  Conjuntos de dados, exame de enviesamentos e categorias especiais de dados pessoais.

• Artigo 12.º para a IA na educação: manutenção de registos

  Registo automático de eventos e conservação dos registos.

• Artigo 13.º para a IA na educação: transparência e informação aos responsáveis pela implantação

  Instruções de utilização e informação aos responsáveis pela implantação.

• Artigo 14.º para a IA na educação: supervisão humana

  Supervisão humana por conceção e o papel do responsável pela implantação.

• Artigo 15.º para a IA na educação: exatidão, solidez e cibersegurança

  Exatidão, solidez e cibersegurança.

• Artigo 17.º para a IA na educação: sistema de gestão da qualidade

  Sistema de gestão da qualidade para os fornecedores.

• Artigo 26.º na educação: obrigações dos responsáveis pela implantação

  O que os responsáveis pela implantação de sistemas de risco elevado devem fazer.

• Artigo 50.º para a IA na educação: transparência e divulgação

  Obrigações de transparência para determinados sistemas de IA.

• Artigo 53.º na educação: obrigações dos fornecedores de modelos de IA de finalidade geral

  Obrigações dos fornecedores de modelos de IA de finalidade geral.

• Anexo III em detalhe: as 8 categorias de risco elevado

  As oito áreas do anexo III, incluindo o ponto 3 sobre a educação e a formação profissional.

• Artigo 6.º: classificação de IA de risco elevado

  Como o artigo 6.º classifica os sistemas de IA de risco elevado, incluindo a exceção do artigo 6.º, n.º 3.

• Artigo 27.º: avaliação de impacto nos direitos fundamentais

  A avaliação do impacto nos direitos fundamentais para os responsáveis pela implantação que sejam organismos de direito público ou entidades privadas que prestam serviços públicos.

• Práticas de IA proibidas: artigo 5.º do AI Act

  As práticas proibidas do artigo 5.º, incluindo a proibição de inferir emoções nas instituições de ensino.