Artigo 26.º na educação: obrigações dos responsáveis pela implantação

O artigo 26.º fixa estas obrigações aos responsáveis pela implantação de sistemas de IA de risco elevado.

• art. 26(1)
  Utilizar de acordo com as instruções

  Tomar medidas técnicas e organizativas adequadas para utilizar o sistema de acordo com as instruções de utilização.

• art. 26(2)
  Atribuir a supervisão humana

  Atribuir a supervisão humana a pessoas singulares que possuam as competências, a formação e a autoridade necessárias, bem como o apoio necessário.

• art. 26(4)
  Verificar os dados de entrada

  Na medida em que o responsável pela implantação exerça controlo sobre os dados de entrada, garantir que esses dados são pertinentes e suficientemente representativos tendo em conta a finalidade prevista.

• art. 26(5)
  Acompanhar, informar, suspender

  Acompanhar o funcionamento com base nas instruções de utilização e, se for caso disso, informar os fornecedores nos termos do artigo 72.º. Se a utilização de acordo com as instruções puder apresentar um risco na aceção do artigo 79.º, n.º 1, informar sem demora injustificada o fornecedor ou o distribuidor e a autoridade de fiscalização do mercado e suspender a utilização. Após um incidente grave, informar imediatamente primeiro o fornecedor e depois o importador ou o distribuidor e as autoridades de fiscalização do mercado. Se não conseguir contactar o fornecedor, aplica-se o artigo 73.º, com as devidas adaptações.

• art. 26(6)
  Conservar os registos

  Conservar os registos gerados automaticamente pelo sistema, na medida em que estejam sob o seu controlo, durante um período adequado à finalidade prevista e de, pelo menos, seis meses, salvo disposição em contrário do direito da União ou nacional, em especial em matéria de proteção de dados pessoais.

• art. 26(7)
  Informar os trabalhadores

  Os empregadores devem informar os representantes dos trabalhadores e os trabalhadores afetados, antes de colocarem em serviço ou utilizarem um sistema de risco elevado no local de trabalho, de que estarão sujeitos à sua utilização. Esta informação é prestada, se aplicável, em conformidade com as regras e os procedimentos do direito e da prática da União e nacionais em matéria de informação dos trabalhadores e dos seus representantes.

• art. 26(8)
  As autoridades públicas registam-se

  Os responsáveis pela implantação que sejam autoridades públicas, ou instituições, órgãos ou organismos da União, devem cumprir as obrigações de registo do artigo 49.º, que dizem respeito a sistemas do anexo III. Não devem utilizar um sistema que não esteja registado na base de dados da UE.

• art. 26(9)
  Avaliação de impacto sobre a proteção de dados

  Se for caso disso, utilizar as informações prestadas nos termos do artigo 13.º para a avaliação de impacto sobre a proteção de dados prevista no artigo 35.º do Regulamento (UE) 2016/679 ou no artigo 27.º da Diretiva (UE) 2016/680.

• art. 26(11)
  Informar as pessoas afetadas por decisões

  Nos sistemas do anexo III que tomam ou ajudam a tomar decisões sobre pessoas singulares, informar essas pessoas de que estão sujeitas à utilização do sistema, sem prejuízo do artigo 50.º.

• art. 26(12)
  Cooperar com as autoridades

  Cooperar com as autoridades competentes em qualquer ação que estas empreendam relativamente ao sistema de IA de risco elevado.

O artigo 26.º só vincula os responsáveis pela implantação de sistemas de IA de risco elevado. As linhas abaixo mostram onde a IA na educação passa a ser de risco elevado e que outras regras afetam escolas e universidades.

• Onde fica a educação no regulamento

  O regulamento não tem um regime setorial para a educação. Este sítio usa «educação» para a IA utilizada em escolas, universidades, formação profissional e exames. Esta IA chega ao regulamento pelo anexo III, ponto 3, intitulado «Educação e formação profissional», e pela proibição de inferir emoções em estabelecimentos de educação (artigo 5.º, n.º 1, alínea f)). O ponto 3 não nomeia a deteção de plágio, a previsão do abandono, as plataformas de aprendizagem adaptativa, os painéis de aprendizagem nem os chatbots administrativos; saber se um sistema nele se enquadra decorre da finalidade prevista (artigo 3.º, ponto 12). Um sistema também pode ser de risco elevado ao abrigo de outro ponto do anexo III.

• Anexo III, ponto 3: quatro utilizações

  O anexo III, ponto 3 abrange os sistemas de IA concebidos para serem utilizados: a) para determinar o acesso ou a admissão ou a afetação de pessoas singulares a instituições de ensino e de formação profissional de todos os níveis; b) para avaliar os resultados da aprendizagem, nomeadamente quando esses resultados são utilizados para orientar o processo de aprendizagem de pessoas singulares em instituições de ensino e de formação profissional de todos os níveis; c) para efeitos de avaliação do nível de educação adequado que as pessoas receberão ou a que poderão ter acesso no contexto dessas instituições ou nessas instituições; d) para efeitos de controlo e deteção de práticas proibidas por parte de estudantes durante testes no contexto dessas instituições ou nessas instituições. Nos termos do artigo 6.º, n.º 2, os sistemas de IA referidos no anexo III são considerados de risco elevado. O fornecedor que considere que um sistema desse tipo não é de risco elevado nos termos do artigo 6.º, n.º 3 deve documentar a sua avaliação antes de o sistema ser colocado no mercado ou em serviço, e registá-lo nos termos do artigo 49.º, n.º 2. A derrogação nunca se aplica quando o sistema realiza definição de perfis de pessoas singulares. A definição de perfis é a definida no artigo 4.º, ponto 4, do Regulamento (UE) 2016/679 (artigo 3.º, ponto 52).

• Fornecedor e responsável pela implantação

  O fornecedor desenvolve o sistema de IA, ou manda desenvolvê-lo, e coloca-o no mercado ou em serviço sob o seu próprio nome (artigo 3.º, ponto 3); pode ser um fornecedor de tecnologia educativa ou uma universidade que desenvolve um sistema para uso próprio. Uma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que utiliza um sistema sob a sua autoridade, como uma escola, uma universidade ou uma entidade examinadora, é um responsável pela implantação (artigo 3.º, ponto 4). Passa a ser fornecedor se apuser o seu nome ou marca num sistema de risco elevado já colocado no mercado, fizer uma modificação substancial que o mantenha de risco elevado, ou alterar a finalidade prevista de um sistema que não era de risco elevado de modo a que passe a sê-lo (artigo 25.º, n.º 1). As pessoas singulares que utilizam um sistema no âmbito de uma atividade puramente pessoal e não profissional não estão vinculadas como responsáveis pela implantação (artigo 2.º, n.º 10). Apor o seu nome ou marca no sistema não prejudica os acordos contratuais que atribuam as obrigações de outra forma (artigo 25.º, n.º 1, alínea a)); o fornecedor inicial deixa então de ser o fornecedor desse sistema e coopera estreitamente com o novo fornecedor (artigo 25.º, n.º 2). A obrigação de cooperar não se aplica quando o fornecedor inicial tenha especificado claramente que o seu sistema de IA não deve ser transformado num sistema de IA de risco elevado e que, por isso, não está sujeito à obrigação de cooperar (artigo 25.º, n.º 2, último parágrafo).

• Datas

  O anexo III, ponto 3 aplica-se desde 2 de dezembro de 2027 (artigo 113.º, alínea c)). Um sistema colocado no mercado ou em serviço antes dessa data só fica abrangido se, a partir dela, sofrer alterações significativas em termos de conceção. No mesmo número, a frase «em todo o caso» dispõe que os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas tomem as medidas necessárias para cumprir até 2 de agosto de 2030 (artigo 111.º, n.º 2). O regulamento não diz se isto abrange também sistemas colocados no mercado depois de 2 de dezembro de 2027; consulte um jurista.

• Coimas

  O incumprimento das obrigações dos fornecedores (artigo 16.º) e dos responsáveis pela implantação (artigo 26.º) pode ser punido com coimas até 15 milhões de EUR ou, no caso de uma empresa, até 3 % do seu volume de negócios mundial total anual do exercício anterior, consoante o que for mais elevado (artigo 99.º, n.º 4). Para as PME, incluindo as empresas em fase de arranque, cada coima fica limitada ao montante mais baixo (artigo 99.º, n.º 6). O mesmo limite aplica-se às pequenas empresas de média capitalização (artigo 3.º, ponto 14-B, artigo 99.º, n.º 6-A). Cada Estado-Membro estabelece as regras sobre em que medida podem ser aplicadas coimas às autoridades e organismos públicos estabelecidos nesse Estado-Membro (artigo 99.º, n.º 8). Os artigos 27.º, 49.º e 86.º não constam do artigo 99.º, n.os 3 a 5; os Estados-Membros estabelecem as regras relativas às sanções aplicáveis a qualquer infração do regulamento por parte dos operadores (artigo 99.º, n.º 1).

• Limites do âmbito de aplicação do regulamento

  O regulamento aplica-se aos fornecedores que coloquem no mercado ou em serviço sistemas de IA na União, ou coloquem no mercado modelos de IA de finalidade geral na União, independentemente do local onde estejam estabelecidos (artigo 2.º, n.º 1, alínea a)), e aos fornecedores e responsáveis pela implantação estabelecidos num país terceiro quando os resultados do sistema de IA sejam utilizados na União (alínea c)). Não se aplica a domínios que não sejam abrangidos pelo âmbito de aplicação do direito da União nem afeta as competências dos Estados-Membros em matéria de segurança nacional; também não se aplica aos sistemas de IA utilizados exclusivamente para fins militares, de defesa ou de segurança nacional (artigo 2.º, n.º 3). O regulamento não se aplica aos sistemas ou modelos de IA, incluindo os seus resultados, especificamente desenvolvidos e colocados em serviço com o único objetivo da investigação e do desenvolvimento científicos (artigo 2.º, n.º 6). Também não se aplica às atividades de investigação, teste ou desenvolvimento anteriores à colocação no mercado ou em serviço de um sistema ou modelo; os testes em condições reais não estão abrangidos por essa exclusão (artigo 2.º, n.º 8). Não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares que utilizam os sistemas de IA no âmbito de uma atividade puramente pessoal de caráter não profissional (artigo 2.º, n.º 10). Não se aplica aos sistemas de IA divulgados ao abrigo de licenças gratuitas e de código aberto, a menos que sejam colocados no mercado ou colocados em serviço como sistemas de IA de risco elevado ou como sistemas de IA abrangidos pelo artigo 5.º ou 50.º (artigo 2.º, n.º 12).

• Uma escola ou universidade é um organismo público?

  O regulamento não define «autoridade pública» nem «organismo de direito público». Por exemplo, estas regras dependem deste estatuto: o registo do sistema e da sua utilização na base de dados da UE pelos responsáveis pela implantação que sejam autoridades públicas, instituições, órgãos ou organismos da União, ou pessoas que atuem em seu nome (artigo 26.º, n.º 8, artigo 49.º, n.º 3); a avaliação de impacto sobre os direitos fundamentais (artigo 27.º, n.º 1); e a frase «em todo o caso» do artigo 111.º, n.º 2 sobre os sistemas destinados a autoridades públicas (2 de agosto de 2030). O regulamento não responde se uma determinada escola, universidade ou entidade examinadora tem esse estatuto.

• Avaliação de impacto sobre os direitos fundamentais (artigo 27.º)

  Artigo 27.º, n.º 1: antes de colocar em utilização um sistema de IA de risco elevado referido no artigo 6.º, n.º 2, com exceção dos sistemas destinados a ser utilizados na área enumerada no ponto 2 do anexo III, os responsáveis pela implantação que sejam organismos de direito público ou entidades privadas que prestem serviços públicos devem avaliar o impacto que a utilização do sistema pode ter nos direitos fundamentais. O ponto 3 do anexo III não é uma área excluída; só o ponto 2 o é. A obrigação aplica-se à primeira utilização; em casos semelhantes, o responsável pela implantação pode basear-se em avaliações anteriores (artigo 27.º, n.º 2). O responsável pela implantação notifica a autoridade de fiscalização do mercado dos resultados (artigo 27.º, n.º 3) e pode remeter para uma avaliação de impacto sobre a proteção de dados (artigo 27.º, n.º 4).

• Explicação das decisões (artigo 86.º) e informação (artigo 26.º, n.º 11)

  Nos termos do artigo 26.º, n.º 11, os responsáveis pela implantação de sistemas de IA de risco elevado do anexo III que tomem decisões relacionadas com pessoas singulares, ou ajudem a tomá-las, devem informar essas pessoas de que estão sujeitas à utilização do sistema. Em separado, qualquer pessoa afetada sujeita a uma decisão tomada pelo responsável pela implantação com base nos resultados de um sistema de IA de risco elevado do anexo III (com exceção do ponto 2), que produza efeitos jurídicos ou a afete de forma igualmente significativa, de uma forma que considere ter um impacto negativo na sua saúde, segurança ou direitos fundamentais, tem o direito de obter do responsável pela implantação explicações claras e significativas sobre o papel do sistema de IA no processo de tomada de decisão e sobre os principais elementos da decisão tomada (artigo 86.º, n.º 1). Isto só se aplica na medida em que esse direito não esteja previsto de outra forma no direito da União (artigo 86.º, n.º 3). O n.º 1 não se aplica quando decorram exceções ou restrições do direito da União ou do direito nacional, em conformidade com o direito da União (artigo 86.º, n.º 2).

• Literacia no domínio da IA (artigo 4.º)

  Os fornecedores e os responsáveis pela implantação de sistemas de IA devem tomar medidas para apoiar o desenvolvimento da literacia no domínio da IA do seu pessoal e de outras pessoas que, em seu nome, se ocupem do funcionamento e da utilização de sistemas de IA, tendo em conta os seus conhecimentos técnicos, experiência, educação e formação e o contexto de utilização (artigo 4.º, n.º 1). Isto vale para os sistemas de IA em geral, e não só para os de risco elevado. O capítulo I, que contém o artigo 4.º, aplica-se desde 2 de fevereiro de 2025 (artigo 113.º, alínea a)). Esta obrigação não impõe a garantia de um nível específico de literacia no domínio da IA de nenhuma pessoa. A competência, a formação e a autoridade das pessoas encarregadas da supervisão humana são exigidas em separado pelo artigo 26.º, n.º 2.

• Sem números de pessoal ou de formação

  O artigo 26.º não fixa efetivos, horas de formação nem qualificações para as pessoas que supervisionam um sistema de admissão, classificação ou vigilância de testes. Exige a competência, a formação, a autoridade e o apoio necessários. A Comissão elabora orientações sobre a aplicação dos requisitos e obrigações dos artigos 8.º a 15.º e 25.º e 26.º (artigo 96.º, n.º 1, alínea a)).

• Conservação dos registos

  O artigo 26.º, n.º 6, fixa pelo menos seis meses para os registos sob o controlo do responsável pela implantação e cede perante outro direito da União ou nacional, em especial sobre dados pessoais. O regulamento não indica nenhum prazo de conservação para a educação.

• Escolha de conceção: papéis de supervisão

  Uma opção de conceção comum, não um requisito do regulamento: designar as pessoas de supervisão pela sua função nos procedimentos de admissão, classificação ou exame e registar a sua formação.

• Revisão humana de cada classificação ou decisão de admissão

  O artigo 14.º, n.º 4, e o artigo 26.º, n.º 2, dizem respeito à supervisão humana do sistema. Nenhum deles diz que uma pessoa deve rever cada decisão individual. O regulamento não responde se outro direito, por exemplo sobre decisões individuais automatizadas, o exige.

• Artigo 26.º: obrigações do responsável pela implantação de IA de risco elevado

  O artigo 26.º para todos os setores: quem é responsável pela implantação, as obrigações, o artigo 27.º e as coimas.

• Regulamento de IA para edtech e educação

  A visão geral da educação: como o regulamento chega à IA em escolas, universidades e formação.

• Artigo 17.º para a IA na educação: sistema de gestão da qualidade

  IA na educação e artigo 17.º: os 13 aspetos e quem é o fornecedor.

• Artigo 27.º: avaliação de impacto nos direitos fundamentais

  O artigo 27.º para todos os setores: quem tem de avaliar o impacto nos direitos fundamentais e o que a avaliação abrange.