Artigo 13.º para a IA na educação: transparência e informação aos responsáveis pela implantação

O artigo 13.º estabelece obrigações para o fornecedor. O seu destinatário é o responsável pela implantação, como uma escola, uma universidade ou um organismo de exames.

• art. 13(1)
  Suficientemente transparente para interpretar os resultados

  Os sistemas de IA de risco elevado devem ser concebidos e desenvolvidos de maneira que o seu funcionamento seja suficientemente transparente para permitir aos responsáveis pela implantação interpretar os resultados do sistema e utilizá-los de forma adequada. Deve ser garantido um tipo e um grau adequados de transparência com vista a garantir o cumprimento das obrigações pertinentes que incumbem ao fornecedor e ao responsável pela implantação por força da secção 3.

• art. 13(2)
  Instruções de utilização

  Os sistemas de risco elevado devem ser acompanhados de instruções de utilização, num formato digital adequado ou outro. Estas incluem informações concisas, completas, corretas e claras, pertinentes, acessíveis e compreensíveis para os responsáveis pela implantação.

• art. 13(3)(a)–(c)
  Identidade, desempenho e riscos

  As instruções incluem, pelo menos: a) a identidade e os dados de contacto do fornecedor e, se for caso disso, do seu representante autorizado; b) as características, capacidades e limitações de desempenho, incluindo i) a finalidade prevista, ii) o nível de exatidão, incluindo os seus parâmetros, de solidez e de cibersegurança a que se refere o artigo 15.º, usado como referência para testar e validar o sistema e que pode ser esperado, bem como quaisquer circunstâncias conhecidas e previsíveis que possam ter um impacto nesse nível, e iii) qualquer circunstância conhecida ou previsível de utilização que possa causar os riscos para a saúde e a segurança ou para os direitos fundamentais a que se refere o artigo 9.º, n.º 2; c) as alterações do sistema e do seu desempenho que tenham sido predeterminadas pelo fornecedor aquando da avaliação da conformidade inicial, se for caso disso.

• art. 13(3)(b)(iv)–(vii)
  Elementos que dependem do sistema

  Fazem também parte da alínea b), com as condições do próprio regulamento: iv) se for caso disso, as capacidades técnicas e as características do sistema que sejam pertinentes para explicar os seus resultados; v) quando oportuno, o seu desempenho em relação a determinadas pessoas ou grupos de pessoas específicos em que o sistema se destina a ser utilizado; vi) quando oportuno, especificações para os dados de entrada, ou quaisquer outras informações importantes em termos dos conjuntos de dados de treino, validação e teste utilizados, tendo em conta a finalidade prevista; vii) se for caso disso, informações que permitam aos responsáveis pela implantação interpretar os resultados e utilizá-los adequadamente.

• art. 13(3)(d)–(f)
  Supervisão, recursos e registos

  As instruções incluem também: d) as medidas de supervisão humana a que se refere o artigo 14.º, incluindo as soluções técnicas adotadas para facilitar a interpretação dos resultados pelos responsáveis pela implantação; e) os recursos computacionais e de hardware necessários, a vida útil esperada do sistema e quaisquer medidas de manutenção e assistência necessárias, incluindo a sua frequência, inclusive no tocante a atualizações do software; f) sempre que pertinente, uma descrição dos mecanismos incluídos no sistema que permitam aos responsáveis pela implantação recolher, armazenar e interpretar corretamente os registos, em conformidade com o artigo 12.º.

O artigo 13.º aplica-se apenas aos sistemas de IA de risco elevado. As linhas abaixo mostram onde a IA para a educação passa a ser de risco elevado e a quem tem de chegar a informação.

• O regulamento não tem um regime setorial para a educação

  O regulamento não tem um regime setorial para a educação. O anexo III, ponto 3, é a área de risco elevado intitulada «Educação e formação profissional». Este sítio usa a palavra educação para a IA que entra no regulamento por esse ponto. O ponto 3 enumera quatro usos. a) Sistemas de IA concebidos para serem utilizados para determinar o acesso ou a admissão ou a afetação de pessoas singulares a instituições de ensino e de formação profissional de todos os níveis. b) Sistemas de IA concebidos para serem utilizados para avaliar os resultados da aprendizagem, nomeadamente quando esses resultados são utilizados para orientar o processo de aprendizagem de pessoas singulares. c) Sistemas de IA concebidos para serem utilizados para efeitos de avaliação do nível de educação adequado que as pessoas receberão ou a que poderão ter acesso. d) Sistemas de IA concebidos para serem utilizados para efeitos de controlo e deteção de práticas proibidas por parte de estudantes durante testes. Cada um dos usos está associado a instituições de ensino e de formação profissional de todos os níveis. O ponto 3 não nomeia, enquanto tais, a deteção de plágio ou de texto gerado por IA, a previsão do abandono escolar, os painéis de aprendizagem, os chatbots administrativos nem a aprendizagem adaptativa. Um sistema para um destes usos só é de risco elevado se a sua finalidade prevista corresponder a um dos quatro usos, ou se outro ponto do anexo III ou o anexo I o abranger.

• Inferir emoções em instituições de ensino: proibido, com exceção por razões médicas ou de segurança

  O artigo 5.º, n.º 1, alínea f), proíbe a colocação no mercado, a colocação em serviço para esta finalidade específica ou a utilização de sistemas de IA para inferir emoções de uma pessoa singular no local de trabalho e nas instituições de ensino, exceto nos casos em que o sistema de IA se destine a ser instalado ou introduzido no mercado por razões médicas ou de segurança. A proibição aplica-se a partir de 2 de fevereiro de 2025 (artigo 113.º, alínea a)). É uma proibição, não um uso de risco elevado: a exceção não cria nenhuma obrigação e não é uma ligação ao anexo III. Uma funcionalidade de um sistema da educação que infira emoções de estudantes enquadra-se na alínea f), salvo se se aplicar a exceção. A infração é punida com coima até 35 milhões de EUR ou, no caso de uma empresa, até 7 % do volume de negócios anual total a nível mundial, consoante o que for mais elevado (artigo 99.º, n.º 3). Para as PME, incluindo as empresas em fase de arranque, cada coima fica limitada ao montante mais baixo dos dois (artigo 99.º, n.º 6).

• O artigo 6.º, n.º 3, pode retirar um sistema do anexo III

  Um sistema abrangido pelo ponto 3 é de risco elevado nos termos do artigo 6.º, n.º 2. Em derrogação, nos termos do artigo 6.º, n.º 3, um sistema do anexo III não é de risco elevado se não representar um risco significativo de danos para a saúde, a segurança ou os direitos fundamentais das pessoas singulares, nomeadamente se não influenciar de forma significativa o resultado da tomada de decisões. Isto aplica-se quando estiver preenchida qualquer uma de quatro condições: a) o sistema destina-se a desempenhar uma tarefa processual restrita; b) destina-se a melhorar o resultado de uma atividade humana previamente concluída; c) destina-se a detetar padrões de tomada de decisões ou desvios em relação a padrões de tomada de decisões anteriores e não se destina a substituir nem influenciar uma avaliação humana previamente concluída, sem que se proceda a uma verificação adequada por um ser humano; ou d) destina-se a executar uma tarefa preparatória no contexto de uma avaliação pertinente para efeitos dos casos de utilização enumerados no anexo III. Um sistema do anexo III é sempre de risco elevado se executar a definição de perfis de pessoas singulares (artigo 3.º, ponto 52, artigo 4.º, ponto 4), do RGPD). O fornecedor que considere que o seu sistema do anexo III não é de risco elevado documenta a sua avaliação antes de o sistema ser colocado no mercado ou colocado em serviço e regista-o (artigo 6.º, n.º 4, artigo 49.º, n.º 2). Saber se um determinado sistema da educação executa a definição de perfis é uma questão para um jurista.

• Fornecedor e responsável pela implantação

  O fornecedor («prestador» no regulamento) desenvolve um sistema de IA, ou manda desenvolvê-lo, e coloca-o no mercado ou em serviço sob o seu próprio nome ou a sua própria marca (artigo 3.º, ponto 3). A colocação em serviço inclui o fornecimento para utilização própria (artigo 3.º, ponto 11). Uma escola, uma universidade ou um organismo de exames que utiliza um sistema sob a sua autoridade é um responsável pela implantação (artigo 3.º, ponto 4). Uma universidade que desenvolve um sistema e o coloca em serviço para utilização própria sob o seu próprio nome é, por isso, fornecedor. O responsável pela implantação passa a ser fornecedor de um sistema de risco elevado em três casos: apõe o seu nome ou marca num sistema já colocado no mercado, sem prejuízo de disposições contratuais que atribuam as obrigações de outra forma; faz uma modificação substancial que mantém o sistema de risco elevado; ou altera a finalidade prevista de um sistema que não era de risco elevado, de modo a que passe a sê-lo (artigo 25.º, n.º 1).

• Informação aos estudantes: artigo 26.º, n.º 11, e artigo 86.º, não o artigo 13.º

  O artigo 13.º não exige nenhuma comunicação aos estudantes nem aos pais. Nos termos do artigo 26.º, n.º 11, e sem prejuízo do artigo 50.º, os responsáveis pela implantação de sistemas de risco elevado referidos no anexo III, que tomam decisões ou ajudam a tomar decisões relacionadas com pessoas singulares, devem informar as pessoas singulares de que estão sujeitas à utilização do sistema de IA de risco elevado. O artigo 86.º, n.º 1 dá a qualquer pessoa afetada sujeita a uma decisão tomada pelo responsável pela implantação com base nos resultados de um sistema do anexo III (com exceção do ponto 2) e que produza efeitos jurídicos ou analogamente afete essa pessoa num grau significativo, de forma que considere ter repercussões negativas na sua saúde, segurança ou direitos fundamentais, o direito de obter do responsável pela implantação explicações claras e pertinentes sobre o papel do sistema de IA no processo de tomada de decisão e sobre os principais elementos da decisão tomada. O artigo 86.º, n.os 2 e 3 estabelecem exceções. O artigo 85.º permite que qualquer pessoa singular ou coletiva que tenha motivos para considerar que houve uma infração ao regulamento apresente uma queixa à autoridade de fiscalização do mercado.

• Datas

  O capítulo III, secções 1 a 3, que incluem os artigos 9.º a 15.º, 17.º, 26.º e 27.º, aplica-se aos sistemas de IA classificados como de risco elevado nos termos do artigo 6.º, n.º 2, e do anexo III a partir de 2 de dezembro de 2027 (artigo 113.º, alínea c), subalínea i)). Um sistema de risco elevado colocado no mercado ou colocado em serviço antes dessa data só fica abrangido se, a partir dessa data, a sua conceção sofrer alterações significativas. Em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de risco elevado concebidos para serem utilizados por autoridades públicas tomam as medidas necessárias para cumprir os requisitos e as obrigações previstos no regulamento até 2 de agosto de 2030 (artigo 111.º, n.º 2). O regulamento não diz se isto se aplica também aos sistemas colocados no mercado ou colocados em serviço depois de 2 de dezembro de 2027; é uma questão para um jurista.

• Coimas

  Os fornecedores devem assegurar que os seus sistemas de risco elevado cumprem os requisitos da secção 2 do capítulo III, que inclui os artigos 9.º a 15.º (artigo 16.º, alínea a)). O incumprimento das obrigações dos fornecedores previstas no artigo 16.º ou das obrigações dos responsáveis pela implantação previstas no artigo 26.º pode ser punido com coima. A coima pode ir até 15 milhões de EUR ou, no caso de uma empresa, até 3 % do seu volume de negócios mundial total anual do exercício anterior, consoante o que for mais elevado (artigo 99.º, n.º 4, alíneas a) e e)). Para as PME, incluindo as empresas em fase de arranque, cada coima fica limitada ao montante mais baixo dos dois (artigo 99.º, n.º 6). O mesmo limite aplica-se às pequenas empresas de média capitalização (artigo 3.º, ponto 14-B, artigo 99.º, n.º 6-A). Cada Estado-Membro define regras que permitam determinar em que medida podem ser aplicadas coimas às autoridades e organismos públicos (artigo 99.º, n.º 8).

• Sistemas e usos fora do regulamento

  O regulamento aplica-se aos fornecedores que coloquem no mercado ou coloquem em serviço sistemas de IA no território da União, independentemente de estarem estabelecidos ou localizados na União ou num país terceiro, e aos fornecedores e responsáveis pela implantação de sistemas de IA que tenham o seu local de estabelecimento ou estejam localizados num país terceiro, se o resultado produzido pelo sistema de IA for utilizado na União (artigo 2.º, n.º 1, alíneas a) e c)). Não se aplica a domínios não abrangidos pelo âmbito de aplicação do direito da União nem afeta, em caso algum, as competências dos Estados-Membros em matéria de segurança nacional (artigo 2.º, n.º 3). Não se aplica aos sistemas de IA se e na medida em que tiverem sido colocados no mercado, colocados em serviço ou utilizados, com ou sem modificações, exclusivamente para finalidades militares, de defesa ou de segurança nacional, nem aos sistemas de IA que não tenham sido colocados no mercado ou colocados em serviço na União, se os seus resultados forem utilizados na União exclusivamente para tais finalidades (artigo 2.º, n.º 3). Não se aplica aos sistemas de IA ou modelos de IA, incluindo os respetivos resultados, especificamente desenvolvidos e colocados em serviço exclusivamente para fins de investigação e desenvolvimento científicos (artigo 2.º, n.º 6). Não se aplica às atividades de investigação, testagem ou desenvolvimento antes de um sistema ser colocado no mercado ou colocado em serviço; a testagem em condições reais não é abrangida por essa exclusão (artigo 2.º, n.º 8). Não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares que utilizam os sistemas de IA no âmbito de uma atividade puramente pessoal de caráter não profissional (artigo 2.º, n.º 10). Os sistemas de IA lançados ao abrigo de licenças gratuitas e de código aberto ficam fora do regulamento, a menos que sejam colocados no mercado ou colocados em serviço como sistemas de IA de risco elevado ou que se enquadrem nos artigos 5.º ou 50.º (artigo 2.º, n.º 12).

• Nenhum conteúdo específico da educação para as instruções

  O artigo 13.º, n.º 3, é a mesma lista para todos os setores. O regulamento não diz que grupos de estudantes a informação sobre o desempenho tem de abranger; diz «quando oportuno» (artigo 13.º, n.º 3, alínea b), subalínea v)). O próprio regulamento não nomeia nenhuma norma. Presume-se que os sistemas de risco elevado conformes com normas harmonizadas publicadas no Jornal Oficial da União Europeia são conformes com os requisitos da secção 2, desde que essas normas os abranjam (artigo 40.º, n.º 1). A Comissão elabora orientações sobre a aplicação dos artigos 8.º a 15.º, 25.º e 26.º (artigo 96.º, n.º 1, alínea a)).

• Exemplo: a finalidade prevista nas instruções

  Exemplo, não um requisito do regulamento: para um sistema que apoia o pessoal quando ordena candidaturas, as instruções poderiam indicar, na finalidade prevista, para que deve ser usado o resultado, para que o responsável pela implantação o possa usar de forma adequada (artigo 13.º, n.º 3, alínea b), subalínea i)).

• Exemplo: circunstâncias conhecidas no controlo de testes

  Exemplo, não um requisito do regulamento: para um sistema que deteta práticas proibidas durante os testes, as instruções poderiam indicar circunstâncias conhecidas que possam afetar a exatidão, como as condições em que foi testado e validado (artigo 13.º, n.º 3, alínea b), subalínea ii)).

• Artigo 13 do Regulamento de IA: transparência e instruções de utilização

  O artigo 13.º para todos os setores: requisitos, datas e coimas.

• Regulamento de IA para edtech e educação

  A visão geral da educação: como o regulamento abrange a IA de admissão, de atribuição de notas, de avaliação do nível e de controlo de testes.

• Artigo 14.º para a IA na educação: supervisão humana

  IA para a educação e artigo 14.º: supervisão humana por conceção.

• Artigo 26.º: obrigações do responsável pela implantação de IA de risco elevado

  O que os responsáveis pela implantação de sistemas de IA de risco elevado devem fazer, incluindo informar as pessoas afetadas.