Home AI-Act en compliance: voorkom juridische valkuilen, leer hoe je AI verantwoord inzet

AI-Act en compliance: voorkom juridische valkuilen, leer hoe je AI verantwoord inzet

maart 13, 2025

Bart Willem Schermer, Partner, Considerati & Hoogleraar Privacy & Cybercrime, Leiden University

AI is geen toekomstmuziek meer, het is hier en nu. Maar weet je ook welke regels eraan vastzitten? De AI-Act stelt duidelijke kaders om risico’s te beheersen en verantwoorde innovatie mogelijk te maken. Organisaties die AI slim willen inzetten, moeten nú in actie komen. Tijdens het Nationaal Congres AI Governance & Compliance van Outvie krijg je een heldere roadmap en leer je hoe je AI-compliant en strategisch inzet.

De impact van de AI-Act: dit moet je weten

De AI-Act bepaalt of jouw organisatie een hoog risicoprofiel heeft en welke verplichtingen daarbij horen. Volgens Bart Schermer, Partner bij Considerati en Professor Privacy & Cybercrime aan de Universiteit Leiden, is er nog veel onwetendheid: “Veel bedrijven realiseren zich niet dat ze door kleine aanpassingen aan AI-systemen plotseling als ‘aanbieder’ worden gezien. Dat brengt een berg extra verplichtingen met zich mee. Dat betekent dat je niet zomaar AI-oplossingen zoals ChatGPT kunt inzetten in hoog-risico-sectoren zoals HR, finance of juridische dienstverlening. Doe je dat toch, dan kun je zomaar aan de beurt zijn voor een flinke compliance-check.”

Wat zijn de risicocategorieën binnen de AI-Act?

De AI-Act onderscheidt verschillende risiconiveaus. AI-toepassingen vallen in een van de volgende categorieën:

Verboden AI: denk aan toepassingen die manipulatief zijn of sociale scoring mogelijk maken.
Hoog risico: AI-systemen die invloed hebben op fundamentele rechten, zoals HR-beslissingen, rechtspraak of kredietverlening.
Beperkt risico: AI-modellen die interactie hebben met gebruikers, zoals chatbots, waarbij transparantie verplicht is.
Minimaal risico: toepassingen zoals spamfilters of videogames, waarvoor weinig extra regelgeving geldt.

Bart benadrukt: “De AI-Act dwingt bedrijven een keuze te maken. Blijf je puur afnemer of stap je in de rol van aanbieder met alle gevolgen van dien?” Daarnaast waarschuwt hij voor verborgen risico’s: “Wat veel organisaties niet beseffen, is dat als je een bestaand AI-model aanpast, je mogelijk onder de aanbieder-regels valt. Dit kan betekenen dat je een volledig compliance-systeem moet inrichten, inclusief kwaliteitsbeheer en risicobeoordeling.”

Nieuwe wetgeving en toekomstige verplichtingen

De AI-Act staat niet op zichzelf. De wetgeving wordt verder aangescherpt met aanvullende regelgeving zoals de European Data Spaces, de Data Act en een Code of Conduct. “De AI-Act is pas het begin. Straks komen daar nieuwe richtlijnen bij die de verantwoordelijkheid rondom data-uitwisseling en transparantie verder zullen uitbreiden. Dit betekent dat organisaties structureel hun AI-gebruik moeten blijven evalueren”, aldus Bart.

Vergis je niet: AI werkt anders dan traditionele software

Een foutje in een AI-model kan grote gevolgen hebben. Het is niet zoals bij een standaard software-update. Om een metafoor te gebruiken, denk eens aan een skilift: als een exploitant zelf de kabels en snelheid aanpast, is hij ineens verantwoordelijk voor de veiligheid. Hetzelfde geldt voor AI. Zodra je een bestaand model aanpast, ben je juridisch verantwoordelijk voor de uitkomsten.

Bart geeft een treffend voorbeeld: “Stel je voor dat een gemeente ChatGPT inzet om bezwaarprocedures automatisch af te handelen. Op het moment dat dit model beslissingen neemt die burgers raken, kunnen er juridische gevolgen zijn. Je wordt dan aansprakelijk voor de uitkomst en moet voldoen aan alle eisen van de AI-Act.”

Wat kun je nu doen?

De AI-Act is complex, maar jij hoeft dat niet in je eentje uit te zoeken. Het congres biedt een helder overzicht van de wetgeving en een concrete aanpak.

Leer hoe je AI-compliant inzet zonder innovatie te remmen.
Ontdek de strategische keuzes die de AI-Act afdwingt.
Krijg inzicht in toekomstige verplichtingen en hoe je daarop voorsorteert.
Ga naar huis met een concreet actieplan voor jouw organisatie.

Bart benadrukt: “De eerste stap die iedere organisatie nu al moet zetten, is werken naar AI-geletterdheid. Zorg dat medewerkers begrijpen hoe AI werkt, wat de risico’s zijn en waar ze op moeten letten. Dit alleen al kan voorkomen dat je onbewust in een juridische valkuil stapt.”

Schrijf je nu in voor het Nationaal Congres AI Governance & Compliance

Laat AI een strategische versneller zijn, niet een juridisch mijnenveld. Tijdens het congres van Outvie nemen experts zoals Bart Schermer je mee in de impact van de AI-Act. Je krijgt praktische handvatten om AI slim én verantwoord in te zetten.

Meld je vandaag nog aan.