Artigo 15.º para a IA na educação: exatidão, solidez e cibersegurança

O artigo 15.º fixa requisitos de conceção para o fornecedor. Não indica nenhum valor de exatidão para nenhum setor.

• art. 15(1)
  Nível adequado, durante todo o ciclo de vida

  Os sistemas de IA de risco elevado devem ser concebidos e desenvolvidos de modo a atingirem um nível adequado de exatidão, solidez e cibersegurança e a funcionarem de forma coerente nesses aspetos durante todo o seu ciclo de vida.

• art. 15(2)
  Os parâmetros de referência são promovidos pela Comissão

  A Comissão incentiva, se for caso disso, o desenvolvimento de parâmetros de referência e metodologias de medição, em cooperação com partes interessadas como as autoridades de metrologia e de avaliação comparativa. Não é uma obrigação do fornecedor.

• art. 15(3)
  Declarar níveis e parâmetros

  Os níveis de exatidão e os parâmetros de exatidão relevantes devem ser declarados nas instruções de utilização que acompanham o sistema.

• art. 15(4)
  Resiliência a erros e ciclos de realimentação

  Os sistemas devem ser tão resilientes quanto possível a erros, falhas ou incoerências que possam ocorrer no sistema ou no ambiente em que funciona, em especial devido à interação com pessoas singulares ou outros sistemas. Devem ser tomadas medidas técnicas e organizativas; a redundância técnica, os planos de salvaguarda ou de segurança em caso de falha são citados como opções. Um sistema que continue a aprender depois de colocado no mercado deve ser desenvolvido de modo a eliminar ou reduzir, tanto quanto possível, o risco de resultados enviesados influenciarem entradas futuras (ciclos de realimentação).

• art. 15(5)
  Cibersegurança contra terceiros não autorizados

  Os sistemas devem ser resilientes a tentativas de terceiros não autorizados de alterar a sua utilização, resultados ou desempenho explorando vulnerabilidades. As soluções técnicas incluem, se for caso disso, medidas contra a contaminação de dados, a contaminação do modelo, os exemplos adversariais ou a evasão do modelo, os ataques à confidencialidade e as falhas do modelo.

O artigo 15.º só vincula sistemas de IA de risco elevado. As linhas abaixo mostram onde a IA na educação passa a ser de risco elevado.

• Onde fica a educação no regulamento

  O regulamento não tem um regime setorial para a educação. Este sítio usa «educação» para a IA utilizada em escolas, universidades, formação profissional e exames. Esta IA chega ao regulamento pelo anexo III, ponto 3, intitulado «Educação e formação profissional», e pela proibição de inferir emoções em estabelecimentos de educação (artigo 5.º, n.º 1, alínea f)). O ponto 3 não nomeia a deteção de plágio, a previsão do abandono, as plataformas de aprendizagem adaptativa, os painéis de aprendizagem nem os chatbots administrativos; saber se um sistema nele se enquadra decorre da finalidade prevista (artigo 3.º, ponto 12). Um sistema também pode ser de risco elevado ao abrigo de outro ponto do anexo III.

• Anexo III, ponto 3: quatro utilizações

  O anexo III, ponto 3 abrange os sistemas de IA concebidos para serem utilizados: a) para determinar o acesso ou a admissão ou a afetação de pessoas singulares a instituições de ensino e de formação profissional de todos os níveis; b) para avaliar os resultados da aprendizagem, nomeadamente quando esses resultados são utilizados para orientar o processo de aprendizagem de pessoas singulares em instituições de ensino e de formação profissional de todos os níveis; c) para efeitos de avaliação do nível de educação adequado que as pessoas receberão ou a que poderão ter acesso no contexto dessas instituições ou nessas instituições; d) para efeitos de controlo e deteção de práticas proibidas por parte de estudantes durante testes no contexto dessas instituições ou nessas instituições. Nos termos do artigo 6.º, n.º 2, os sistemas de IA referidos no anexo III são considerados de risco elevado. O fornecedor que considere que um sistema desse tipo não é de risco elevado nos termos do artigo 6.º, n.º 3 deve documentar a sua avaliação antes de o sistema ser colocado no mercado ou em serviço, e registá-lo nos termos do artigo 49.º, n.º 2. A derrogação nunca se aplica quando o sistema realiza definição de perfis de pessoas singulares. A definição de perfis é a definida no artigo 4.º, ponto 4, do Regulamento (UE) 2016/679 (artigo 3.º, ponto 52).

• Fornecedor e responsável pela implantação

  O fornecedor desenvolve o sistema de IA, ou manda desenvolvê-lo, e coloca-o no mercado ou em serviço sob o seu próprio nome (artigo 3.º, ponto 3); pode ser um fornecedor de tecnologia educativa ou uma universidade que desenvolve um sistema para uso próprio. Uma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que utiliza um sistema sob a sua autoridade, como uma escola, uma universidade ou uma entidade examinadora, é um responsável pela implantação (artigo 3.º, ponto 4). Passa a ser fornecedor se apuser o seu nome ou marca num sistema de risco elevado já colocado no mercado, fizer uma modificação substancial que o mantenha de risco elevado, ou alterar a finalidade prevista de um sistema que não era de risco elevado de modo a que passe a sê-lo (artigo 25.º, n.º 1).

• Datas

  O anexo III, ponto 3 aplica-se desde 2 de dezembro de 2027 (artigo 113.º, alínea c)). Um sistema colocado no mercado ou em serviço antes dessa data só fica abrangido se, a partir dela, sofrer alterações significativas em termos de conceção. No mesmo número, a frase «em todo o caso» dispõe que os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas tomem as medidas necessárias para cumprir até 2 de agosto de 2030 (artigo 111.º, n.º 2). O regulamento não diz se isto abrange também sistemas colocados no mercado depois de 2 de dezembro de 2027; consulte um jurista.

• Coimas

  O incumprimento das obrigações dos fornecedores (artigo 16.º) e dos responsáveis pela implantação (artigo 26.º) pode ser punido com coimas até 15 milhões de EUR ou, no caso de uma empresa, até 3 % do seu volume de negócios mundial total anual do exercício anterior, consoante o que for mais elevado (artigo 99.º, n.º 4). Para as PME, incluindo as empresas em fase de arranque, cada coima fica limitada ao montante mais baixo (artigo 99.º, n.º 6). O mesmo limite aplica-se às pequenas empresas de média capitalização (artigo 3.º, ponto 14-B, artigo 99.º, n.º 6-A). Cada Estado-Membro estabelece as regras sobre em que medida podem ser aplicadas coimas às autoridades e organismos públicos estabelecidos nesse Estado-Membro (artigo 99.º, n.º 8).

• Limites do âmbito de aplicação do regulamento

  O regulamento aplica-se aos fornecedores que coloquem no mercado ou em serviço sistemas de IA na União, ou coloquem no mercado modelos de IA de finalidade geral na União, independentemente do local onde estejam estabelecidos (artigo 2.º, n.º 1, alínea a)), e aos fornecedores e responsáveis pela implantação estabelecidos num país terceiro quando os resultados do sistema de IA sejam utilizados na União (alínea c)). Não se aplica a domínios que não sejam abrangidos pelo âmbito de aplicação do direito da União nem afeta as competências dos Estados-Membros em matéria de segurança nacional; também não se aplica aos sistemas de IA utilizados exclusivamente para fins militares, de defesa ou de segurança nacional (artigo 2.º, n.º 3). O regulamento não se aplica aos sistemas ou modelos de IA, incluindo os seus resultados, especificamente desenvolvidos e colocados em serviço com o único objetivo da investigação e do desenvolvimento científicos (artigo 2.º, n.º 6). Também não se aplica às atividades de investigação, teste ou desenvolvimento anteriores à colocação no mercado ou em serviço de um sistema ou modelo; os testes em condições reais não estão abrangidos por essa exclusão (artigo 2.º, n.º 8). Não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares que utilizam os sistemas de IA no âmbito de uma atividade puramente pessoal de caráter não profissional (artigo 2.º, n.º 10). Não se aplica aos sistemas de IA divulgados ao abrigo de licenças gratuitas e de código aberto, a menos que sejam colocados no mercado ou colocados em serviço como sistemas de IA de risco elevado ou como sistemas de IA abrangidos pelo artigo 5.º ou 50.º (artigo 2.º, n.º 12).

• Sem valores de exatidão para a educação

  O artigo 15.º não indica, para nenhum setor, parâmetro de exatidão, valor mínimo, método de teste ou norma, nem para sistemas de admissão, classificação ou vigilância de testes. O fornecedor declara os níveis e os parâmetros pertinentes (artigo 15.º, n.º 3). As normas harmonizadas cujas referências são publicadas no Jornal Oficial conferem presunção de conformidade na medida em que cubram os requisitos (artigo 40.º, n.º 1); um certificado de cibersegurança publicado nos termos do Regulamento (UE) 2019/881 confere-a quanto aos requisitos de cibersegurança na medida em que os cubra (artigo 42.º, n.º 2). Os sistemas abrangidos pelo âmbito de aplicação do Regulamento (UE) 2024/2847 que cumpram as condições do artigo 12.º, n.º 1, desse regulamento consideram-se conformes com os requisitos de cibersegurança do artigo 15.º (artigo 42.º, n.º 3). A Comissão elabora orientações sobre a aplicação dos requisitos e obrigações dos artigos 8.º a 15.º e 25.º e 26.º (artigo 96.º, n.º 1, alínea a)).

• Exemplo: parâmetros de um modelo de classificação

  Exemplo, não um requisito do regulamento: o fornecedor de um sistema que avalia resultados da aprendizagem poderia declarar que parâmetros de exatidão mediu e indicar a população de estudantes e o tipo de avaliação em que foram medidos.

• Exemplo: ciclos de realimentação

  Exemplo, não um requisito do regulamento: o fornecedor de um sistema que continua a aprender depois de colocado no mercado (artigo 15.º, n.º 4) poderia verificar se os resultados que voltam como entradas posteriores alteram os resultados para determinados grupos de estudantes, e conservar os resultados.

• Artigo 15 do Regulamento de IA: exatidão, solidez e cibersegurança

  O artigo 15.º para todos os setores: requisitos, datas e coimas.

• Regulamento de IA para edtech e educação

  A visão geral da educação: como o regulamento chega à IA em escolas, universidades e formação.

• Artigo 17.º para a IA na educação: sistema de gestão da qualidade

  IA na educação e artigo 17.º: os 13 aspetos e quem é o fornecedor.

• Anexo III em detalhe: as 8 categorias de risco elevado

  As oito áreas do anexo III, incluindo a educação e a formação profissional.