De AI-Verordening komt eraan – ben jij contractueel voorbereid?

Wat valt onder de AI-Verordening?

De AI-Verordening is van toepassing op het ontwerpen, ontwikkelen, op de markt brengen en gebruiken van AI-systemen binnen de EU en stelt hieraan eisen. De regels zijn van toepassing op elke sector. Daardoor kan in principe iedere ondernemer onder het toepassingsbereik van de AI-Verordening vallen. De AI-Verordening maakt onderscheid tussen AI-systemen met verschillende risiconiveaus:

1. Verboden AI-praktijken
   Bepaalde AI-systemen worden beschouwd als een ernstige bedreiging voor de rechten en vrijheden van personen. Om die reden zijn deze AI-systemen onder de AI-Verordening expliciet verboden. Het gaat bijvoorbeeld om AI-systemen die worden ingezet voor social scoring, het manipuleren van menselijk gedrag of het afleiden van emoties op de werkvloer of in het onderwijs.

2. AI-systemen met een hoog risico
   Sommige AI-systemen kunnen aanzienlijke gevolgen hebben voor de gezondheid, veiligheid en grondrechten van personen. Deze AI-systemen worden aangemerkt als een hoog risico. De AI-Verordening bevat een uitgebreide lijst van categorieën die hieronder vallen. Een voorbeeld is het gebruik van AI bij de werving en selectie van natuurlijke personen. Zulke systemen raken aan fundamentele rechten, zoals het recht op gelijke behandeling. Het gebruik van AI-systemen met een hoog risico is niet verboden, maar er gelden wel strikte voorwaarden.

3. AI-systemen met een laag of beperkt risico
   Deze laatste categorie AI-systemen is een restcategorie. Als een systeem niet wordt aangemerkt als een verboden praktijk of een hoog risico, valt het systeem onder een van deze categorieën. Ook voor deze AI-systemen gelden bepaalde verplichtingen zoals het geven van transparantie over het betreffende AI-systeem.

AI-systeem en de verschillende rollen

Het risiconiveau van het AI-systeem bepaalt in belangrijke mate aan welke verplichtingen een ondernemer moet voldoen. Hoe hoger het risico, des te ingrijpender de eisen. Zo gelden er bij AI-systemen met een hoog risico strengere eisen op het gebied van transparantie, toezicht en documentatie dan bij AI-systemen met een laag of beperkt risico.

Maar: het vaststellen van het risiconiveau is slechts één stap. Een ondernemer moet ook bepalen welke rol hij inneemt binnen het AI-systeem. De AI-Verordening kent namelijk verschillende juridische rollen, elk met zijn eigen set verplichtingen. In de verordening worden de volgende rollen genoemd:

1. Aanbieder: een partij die een AI-systeem ontwikkelt of laat ontwikkelen en dat systeem onder eigen (merk)naam in de handel brengt of in gebruik stelt;
2. Gebruiksverantwoordelijke: een partij die een AI-systeem onder eigen verantwoordelijkheid (professioneel) gebruikt;
3. Importeur: een partij die een AI-systeem uit een land buiten de EU, in de EU in de handel brengt;
4. Distributeur: een partij die een AI-systeem in de handel brengt, anders dan een aanbieder of importeur.

Dit moet jij volgens de AI-Verordening regelen

Door de verschillende rollen en daarbij behorende eisen verplicht de AI-Verordening partijen in de keten tot nauwere samenwerking. Alleen op die manier kan iedere partij voldoen aan zijn wettelijke verplichtingen. Het is dan ook van essentieel belang dat partijen contractueel vastleggen wat zij van elkaar verwachten, wie welk risico draagt en welke informatie zij met elkaar moeten delen.

Zo geldt er voor aanbieders van AI-systemen een monitoringsplicht: zij moeten het functioneren van hun systeem actief blijven volgen en controleren of het systeem zich gedraagt zoals bedoeld en geen risico vormt. Voor een goede uitvoering van die verplichting zullen zij afhankelijk zijn van gebruiksdata. Deze data kan vaak alleen de gebruiksverantwoordelijke leveren.

Ook andere rollen zijn afhankelijk van elkaar. Een importeur moet bijvoorbeeld nagaan of het AI-systeem voldoet aan de AI-Verordening. Om dat te controleren, is hij aangewezen op technische documentatie van de aanbieder. Op grond van de AI-verordening moet bij AI-systemen met een hoog risico technische documentatie worden opgesteld voordat het systeem in de handel wordt gebracht of in gebruik wordt gesteld.

Het bepalen van het risiconiveau, de juiste rol en de naleving van de bijbehorende verplichtingen is cruciaal voor elke onderneming die met AI werkt. Niet-naleving van de AI-Verordening kan namelijk verstrekkende gevolgen hebben: er kunnen forse boetes worden opgelegd. Deze boetes kunnen oplopen tot EUR 35 miljoen of 7% van de wereldwijde jaaromzet.

De impact van de AI-Verordening: wees tijdig voorbereid

De AI-Verordening heeft een enorme impact op de regulering van AI-systemen door de Europese Unie. Niet alleen softwareontwikkelaars, maar vrijwel alle ondernemers kunnen te maken krijgen met de verplichtingen uit deze verordening.

Een groot deel van deze regels wordt in de zomer van 2026 van kracht. Dat lijkt misschien nog ver weg, maar ondernemers doen er verstandig aan om hun processen, samenwerkingen en contracten rondom AI-systemen nu al onder de loep te nemen. Onze ICT-recht advocaten helpen daar graag bij.