Artikel 50 voor fintech-AI: transparantie en bekendmaking

Elk lid noemt wie moet bekendmaken. Elk lid heeft ook een uitzondering voor gebruik dat bij wet is toegestaan om strafbare feiten op te sporen, te voorkomen, te onderzoeken of te vervolgen; de leden 1 en 3 koppelen daar voorwaarden aan.

• art. 50(1)
  Systemen die met mensen interageren (aanbieder)

  Aanbieders moeten systemen die bedoeld zijn om rechtstreeks met natuurlijke personen te interageren zo ontwerpen dat die personen worden geïnformeerd dat zij met een AI-systeem interageren, tenzij dit duidelijk is vanuit het oogpunt van een redelijk geïnformeerde, oplettende en omzichtige natuurlijke persoon, gezien de omstandigheden en de gebruikscontext.

• art. 50(2)
  Synthetische output markeren (aanbieder)

  Aanbieders van systemen die synthetische audio-, beeld-, video- of tekstinhoud genereren, moeten ervoor zorgen dat de outputs worden gemarkeerd in een machineleesbaar formaat en detecteerbaar zijn als kunstmatig gegenereerd of gemanipuleerd. De verplichting geldt niet voor zover het systeem een ondersteunende functie voor standaardbewerking vervult of de inputdata of de semantiek daarvan niet substantieel wijzigt.

• art. 50(3)
  Emotieherkenning en biometrische categorisering (gebruiksverantwoordelijke)

  Gebruiksverantwoordelijken van een systeem voor het herkennen van emoties of voor biometrische categorisering moeten de daaraan blootgestelde natuurlijke personen informeren over de werking van het systeem en persoonsgegevens verwerken in overeenstemming met het toepasselijke gegevensbeschermingsrecht.

• art. 50(4)
  Deepfakes en gepubliceerde tekst (gebruiksverantwoordelijke)

  Gebruiksverantwoordelijken van een systeem dat beeld-, audio- of videocontent genereert of manipuleert die een deepfake vormt, moeten bekendmaken dat de content kunstmatig is gegenereerd of gemanipuleerd. Hetzelfde geldt voor tekst die wordt gepubliceerd om het publiek te informeren over aangelegenheden van algemeen belang, tenzij de tekst menselijke toetsing of redactionele controle heeft ondergaan en een persoon de redactionele verantwoordelijkheid draagt. Bij een kennelijk artistiek, creatief, satirisch of fictief werk beperkt de verplichting zich tot het op passende wijze bekendmaken van het bestaan van gegenereerde content, zonder het tonen of genieten van het werk te hinderen.

• art. 50(5)
  Hoe en wanneer informeren

  De informatie moet duidelijk en te onderscheiden zijn, uiterlijk bij het eerste contact of de eerste blootstelling worden verstrekt en voldoen aan de toepasselijke toegankelijkheidseisen (artikel 50, lid 5).

Het gaat erom wat het systeem doet, niet in welke bijlage het staat.

• ‘Fintech’ is geen categorie van de verordening

  De verordening kent geen categorie ‘fintech’. Artikel 50 hangt niet af van een sector of bijlage: het geldt voor wat een systeem doet, ongeacht of het een hoog risico vormt.

• Hoogrisicosystemen dragen beide sets verplichtingen

  Een kredietscoresysteem dat een hoog risico vormt op grond van bijlage III, punt 5, b), en ook een chatinterface heeft, heeft de verplichtingen van artikel 50 sinds 2 augustus 2026 en die van hoofdstuk III vanaf 2 december 2027. Artikel 50 laat de eisen van hoofdstuk III onverlet (artikel 50, lid 6).

• Voorbeelden per lid

  Voorbeeld: een chatbot voor klantenservice of een adviesinterface in een bankapp interacteert rechtstreeks met natuurlijke personen (artikel 50, lid 1). Voorbeeld: een systeem dat brieven of rapporten voor klanten opstelt, genereert synthetische tekst en valt onder de markeringsplicht van de aanbieder (artikel 50, lid 2); een bank die het alleen gebruikt, is gebruiksverantwoordelijke, en haar verplichtingen komen, waar ze gelden, uit artikel 50, leden 3 en 4, niet uit lid 2.

• Emoties afleiden op het werk en in het onderwijs

  Artikel 5, lid 1, punt f) verbiedt AI-systemen om emoties van een natuurlijke persoon af te leiden op de werkplek en in onderwijsinstellingen, behalve wanneer het systeem om medische of veiligheidsredenen is bedoeld. Voorbeeld: het afleiden van de emoties van medewerkers van een callcenter tijdens hun werk valt onder het verbod. De plicht om blootgestelde personen te informeren in artikel 50, lid 3, staat daarnaast.

• Data

  Artikel 113 laat de verordening gelden vanaf 2 augustus 2026; hoofdstuk IV, dat artikel 50 bevat, hoort niet bij de bepalingen waarvoor de punten a) tot en met d) een andere datum noemen. Aanbieders van systemen die synthetische content genereren en vóór die datum in de handel zijn gebracht, moeten de nodige stappen zetten om uiterlijk 2 december 2026 aan artikel 50, lid 2, te voldoen (artikel 111, lid 4). De verordening kent geen overgangsperiode voor artikel 50, leden 1, 3 en 4.

• Boetes

  Overtredingen van de transparantieverplichtingen van aanbieders en gebruiksverantwoordelijken in artikel 50 kunnen worden beboet met maximaal 15 miljoen EUR of, voor een onderneming, maximaal 3 % van haar totale wereldwijde jaaromzet in het voorgaande boekjaar, als dat bedrag hoger is (artikel 99, lid 4, punt g)). Voor mkb-bedrijven, met inbegrip van start-ups, geldt het lagere bedrag als maximum voor elke boete (artikel 99, lid 6). Hetzelfde maximum geldt voor kleine midcapondernemingen (artikel 3, punt 14 ter, artikel 99, lid 6 bis). Elke lidstaat stelt regels vast over de mate waarin administratieve boetes kunnen worden opgelegd aan in die lidstaat gevestigde overheidsinstanties en -organen (artikel 99, lid 8).

• Grenzen van het toepassingsgebied van de verordening

  De verordening is van toepassing op aanbieders die AI-systemen in de Unie in de handel brengen of in gebruik stellen, of AI-modellen voor algemene doeleinden in de Unie in de handel brengen, ongeacht waar zij zijn gevestigd (artikel 2, lid 1, punt a)), en op aanbieders en gebruiksverantwoordelijken in een derde land wanneer de output van het AI-systeem in de Unie wordt gebruikt (punt c)). Zij is niet van toepassing op gebieden die buiten het toepassingsgebied van het Unierecht vallen en doet geen afbreuk aan de bevoegdheden van de lidstaten op het gebied van nationale veiligheid; zij is evenmin van toepassing op AI-systemen die uitsluitend voor militaire doeleinden, defensiedoeleinden of doeleinden van nationale veiligheid worden gebruikt (artikel 2, lid 3).

• Geen fintechregel, geen labelformaat

  Artikel 50 bevat geen fintechspecifieke regel. Het noemt geen formulering of pictogram; de markeringsplicht vraagt om een machineleesbaar formaat en detecteerbaarheid, rekening houdend met de algemeen erkende stand van de techniek, zoals die kan blijken uit relevante technische normen (artikel 50, lid 2). De Commissie ontwikkelt richtsnoeren over artikel 50 (artikel 96, lid 1, punt d)).

• Praktijkcodes

  De Commissie moedigt het opstellen van praktijkcodes voor het detecteren, markeren en labelen van kunstmatig gegenereerde of gemanipuleerde content aan en vergemakkelijkt dit, en beoordeelt of naleving van een code volstaat om de naleving van artikel 50, leden 2 en 4, te waarborgen. Als zij een code ontoereikend acht, kan zij een uitvoeringshandeling vaststellen met gemeenschappelijke regels (artikel 50, lid 7). Het artikel maakt naleving niet verplicht.

• Menselijke toetsing

  De uitzondering voor menselijke toetsing of redactionele controle staat in artikel 50, lid 4, voor gepubliceerde tekst. Artikel 50, lid 2, kent haar niet; de uitzonderingen daar zijn ondersteunende standaardbewerking, geen substantiële wijziging van de inputdata of de semantiek daarvan en toestemming bij wet voor strafrechtelijke doeleinden.

• Geen plicht om deepfakes te detecteren

  Artikel 50 bevat geen plicht voor een bank om door anderen gemaakte deepfakes te detecteren. Aanbieders moeten hun output detecteerbaar maken (artikel 50, lid 2); gebruiksverantwoordelijken die een deepfake genereren of manipuleren, moeten dat bekendmaken (artikel 50, lid 4).

• Informatieplichten in het financiële recht en consumentenrecht

  Artikel 50 doet geen afbreuk aan andere transparantieverplichtingen voor gebruiksverantwoordelijken op grond van Unierecht of nationaal recht (artikel 50, lid 6). Of het financiële recht of consumentenrecht verdere informatie aan klanten vereist, beantwoordt de verordening niet.

• Artikel 50: transparantie- en bekendmakingsplicht

  Artikel 50 voor alle sectoren: de vier verplichtingen, uitzonderingen, data en boetes.

• AI-verordening fintech: nalevingsgids

  Het fintech-overzicht: hoe de verordening AI voor krediet en verzekeringen bereikt.

• Artikel 53 in fintech: verplichtingen van aanbieders van AI-modellen voor algemene doeleinden

  Fintech-AI en artikel 53: modelaanbieders, documentatie, auteursrecht en samenvatting van trainingsdata.

• Verboden AI-praktijken volgens artikel 5 AI-verordening

  De verboden praktijken, waaronder het afleiden van emoties op het werk en in het onderwijs.