Práticas de IA proibidas: artigo 5.º do AI Act

• Técnicas subliminares e manipuladoras

  art. 5.º, n.º 1, alínea a)

  Sistemas de IA que empregam técnicas subliminares que contornam a consciência de uma pessoa, ou técnicas manifestamente manipuladoras ou enganadoras, para distorcer substancialmente o comportamento. A proibição aplica-se quando isso causa, ou é razoavelmente suscetível de causar, danos significativos.

• Exploração de vulnerabilidades

  art. 5.º, n.º 1, alínea b)

  Sistemas de IA que exploram vulnerabilidades devidas à idade, à incapacidade ou a uma situação socioeconómica específica para distorcer substancialmente o comportamento de uma forma que cause, ou seja razoavelmente suscetível de causar, danos significativos.

• Material íntimo não consensual

  art. 5.º, n.º 1, alínea ba)

  Sistemas de IA que geram ou manipulam imagens, vídeos, áudio ou material semelhante realistas das partes íntimas de uma pessoa identificável, ou dessa pessoa em atividades sexualmente explícitas, sem o seu consentimento livre, específico, informado, inequívoco e explícito. Não conta a manipulação que não aumente a exposição das partes íntimas nem altere a natureza das atividades (artigo 5.º, n.º 1-B). Os fornecedores só estão abrangidos se essa for a finalidade prevista do sistema, ou se a sua conceção, treino, arquitetura, capacidades ou funções voltadas para o utilizador fizerem disso um resultado razoavelmente previsível e reproduzível sem modificação técnica significativa e o sistema não tiver salvaguardas razoáveis e adequadas para o evitar e corrigir. Os responsáveis pela implantação estão abrangidos quando utilizam um sistema para esse fim (artigo 5.º, n.º 1-A). Aplica-se desde 2 de dezembro de 2026.

• Material com imagens de abusos sexuais de crianças

  art. 5.º, n.º 1, alínea bb)

  Sistemas de IA que geram ou manipulam materiais ou espetáculos na aceção do artigo 2.º, alíneas c) e e), da Diretiva 2011/93/UE, exceto quando, ao abrigo do direito nacional, se aplique uma defesa «sem direito». Aplicam-se aos fornecedores e aos responsáveis pela implantação as mesmas condições da alínea b-A) (artigo 5.º, n.º 1-A). Aplica-se desde 2 de dezembro de 2026.

• Pontuação social

  art. 5.º, n.º 1, alínea c)

  Sistemas de IA que avaliam ou classificam pessoas durante um determinado período com base no seu comportamento social ou em características pessoais, quando a pontuação social conduz a um tratamento prejudicial em contextos sociais não relacionados, ou a um tratamento injustificado ou desproporcionado. A proibição não se limita às autoridades públicas.

• Previsão de crimes apenas com base em perfis

  art. 5.º, n.º 1, alínea d)

  Sistemas de IA que avaliam ou preveem o risco de uma pessoa cometer uma infração penal exclusivamente com base na definição de perfis ou na avaliação dos seus traços de personalidade. Não é proibida a IA que apoia uma avaliação humana baseada em factos objetivos e verificáveis diretamente ligados a uma atividade criminosa.

• Recolha não seletiva de imagens faciais

  art. 5.º, n.º 1, alínea e)

  Sistemas de IA que criam ou expandem bases de dados de reconhecimento facial através da recolha aleatória de imagens faciais da Internet ou de imagens de CCTV.

• Reconhecimento de emoções no trabalho e na educação

  art. 5.º, n.º 1, alínea f)

  Sistemas de IA que inferem as emoções de uma pessoa no local de trabalho ou em instituições de ensino. A proibição não se aplica aos sistemas destinados a fins médicos ou de segurança.

• Categorização biométrica por características sensíveis

  art. 5.º, n.º 1, alínea g)

  Sistemas de IA que categorizam individualmente pessoas singulares com base nos seus dados biométricos para deduzir ou inferir a sua raça, opiniões políticas, filiação sindical, convicções religiosas ou filosóficas, vida sexual ou orientação sexual. Não estão abrangidos a rotulagem ou a filtragem de conjuntos de dados biométricos adquiridos legalmente nem a categorização de dados biométricos no domínio da aplicação da lei.

• Identificação biométrica à distância em tempo real

  art. 5.º, n.º 1, alínea h)

  É proibida a utilização de sistemas de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei. As três exceções restritas constam mais abaixo.

A proibição do artigo 5.º, n.º 1, alínea h) não se aplica quando a utilização é estritamente necessária para um de três fins. Os Estados-Membros podem decidir se permitem essa utilização e em que condições (artigo 5.º, n.º 5).

• São permitidos três fins

  A utilização só é permitida quando for estritamente necessária para: a busca seletiva de vítimas específicas de rapto, tráfico de seres humanos ou exploração sexual, bem como de pessoas desaparecidas; a prevenção de uma ameaça específica, substancial e iminente à vida ou à segurança física, ou de uma ameaça real e atual ou real e previsível de um ataque terrorista; ou a localização ou identificação de um suspeito de uma infração do anexo II, para efeitos de investigação criminal, ação penal ou execução de uma sanção penal. A infração deve ser punível com pena ou medida de segurança privativa de liberdade de duração máxima não inferior a quatro anos (artigo 5.º, n.º 1, alínea h)).

• São exigidas autorização prévia e salvaguardas

  Cada utilização requer autorização prévia de uma autoridade judiciária ou de uma autoridade administrativa independente cuja decisão seja vinculativa. Numa situação de urgência devidamente justificada, a utilização pode começar sem ela, se a autorização for pedida sem demora injustificada e, o mais tardar, em 24 horas. Se for recusada, a utilização cessa e todos os dados e resultados são eliminados (artigo 5.º, n.º 3). Autorizar uma utilização exige ainda uma avaliação do impacto sobre os direitos fundamentais concluída e o registo na base de dados da UE. Em caso de urgência, o registo pode ser concluído sem demora injustificada (artigo 5.º, n.º 2). Cada utilização deve ainda ser notificada à autoridade de fiscalização do mercado e à autoridade nacional de proteção de dados (artigo 5.º, n.º 4).

• A identificação posterior é de risco elevado, não proibida

  A identificação biométrica à distância que não decorre em tempo real não é proibida. É uma utilização de risco elevado nos termos do anexo III, ponto 1, alínea a). Numa busca seletiva de uma pessoa suspeita ou condenada por uma infração penal, o responsável pela implantação deve pedir autorização a uma autoridade judiciária ou a uma autoridade administrativa cuja decisão seja vinculativa e sujeita a controlo jurisdicional, antes da utilização ou sem demora injustificada e no prazo máximo de 48 horas. Tal não se aplica à identificação inicial de um potencial suspeito com base em factos objetivos e verificáveis diretamente ligados à infração (artigo 26.º, n.º 10).

• Regulamento de IA: cronograma de prazos de 2024 a 2030

  Cada data de aplicação do regulamento, com o artigo que a fixa.

• AI Act vs RGPD: diferenças e sobreposições

  Os dois diplomas aplicam-se em paralelo. O artigo 5.º não prejudica o artigo 9.º do RGPD no que respeita aos dados biométricos fora da aplicação da lei.