Home AI Act: bezoek Het Nationaal AI-congres voor alle ins en outs

AI Act: bezoek Het Nationaal AI-congres voor alle ins en outs

april 24, 2024

Bart Schermer, Partner bij Considerati & Professor of Privacy & Cybercrime | Leiden University

Door de AI Act voert de EU als eerste continent strikte regels in voor AI-gebruik. Vanaf eind 2024 gelden strenge regels voor de AI Act, met algemene AI-verplichtingen in 2025. Het niet naleven zal leiden tot beperkte markttoegang en boetes tot 7% van de jaaromzet.

In dit artikel vertelt Bart Schermer, spreker op Het Nationaal AI-Congres Compliance & Update dat op 30 mei aanstaande gehouden wordt, alvast over zijn input op die dag.

Acties goed in beeld

‘Na het congres hoop ik dat deelnemers goed in beeld hebben welke bepalingen van de AI-act belangrijk voor ze zijn. Deze act telt maar liefst 500 pagina’s, het is een bijzonder lijvig document dus. In de tekst staan allerlei regels opgenomen die her en der in de act terug te vinden zijn. Dat maakt het complex, mede omdat er nog geen adequate samenvatting is. Dit kan tot gevolg hebben dat de juiste toepassing van de act een enorme uitdaging wordt, voor zowel de gebruikers als de ontwikkelaars van AI. Tijdens mijn sessie hoop ik een soort roadmap te kunnen geven zodat duidelijk is wat de regels zijn, waar men aan moet voldoen en wat daarvoor georganiseerd moet worden’, aldus Bart.

‘Vooral privacy officers en juristen zullen te maken krijgen met de AI-act, terwijl een groot gedeelte van deze act technische specificaties bevat. Dat gedeelte zal dan weer op het bordje van de data scientist komen verwacht ik. Dat is voor juristen meteen weer een uitdaging, want hoe ga je als jurist een vertaling maken naar de technische mensen binnen je organisatie?’

Heldere to do-lijst

‘Wanneer mensen op 30 mei het congres verlaten, dan beschikken ze wat mij betreft over een heldere to do-lijst rondom de AI-act. Op deze lijst staan aantekeningen over de systemen waar ze mee aan de slag moeten gaan, de mensen die men moet spreken, de contract- en inkoopprocessen die opnieuw georganiseerd moeten worden, de documentatie die aangepast moet worden et cetera. Kortom, het is een hele waslijst waar men, zowel als aanbieder als gebruiker van een systeem aan moet voldoen.’

Volgens marktonderzoeker Forrester zal 50% van de grote EU-bedrijven in 2025 gaan investeren in de European AI Act-compliance. Maar, let op: bedrijven blijven een uitdaging hebben met het bepalen van het risiconiveau van hun AI-systemen. Wat betekent de AI Act voor de AVG/GDPR? Hoe kan AI worden ingezet, wat mag er wel, wat mag er niet en waar gaat het heen met de AI Act? Dat en meer komt aan bod tijdens het congres op 30 mei aanstaande.

Enorme compliance last

Bart: ‘Voor de aanbieders op de markt geldt dat zij tot in detail aan de regelgeving moeten voldoen. Hypothetische modellen zijn niet voldoende meer. Het gaat om het beschikken over uitgebreide, hoogwaardige quality- en risk management systemen en méér. Er komt een enorme compliance last op aanbieders af rondom de hoog risico-systemen, zodat deze écht goed beveiligd zijn. Ik kan niet genoeg benadrukken hoe belangrijk het is om je daar nu al bewust van te zijn.

Wanneer je nog steeds denkt dat je een paar weken voor de invoering wel met de AI-act aan de slag kunt: dat gaat niet, dan is het écht te laat. Dit is een traject waar je je complete organisatie op in moet regelen, om ervoor te zorgen dat je straks je systeem überhaupt nog mag verkopen op de Europese markt. Voorbeelden van hoog risico-systemen zijn onder meer HR-systemen, of, vanuit de overheid systemen die te maken hebben met subsidies of toeslagen, of systemen die zich richten op recruitment en selectie. Maar ook law enforcement, waaronder de politie en Defensie vallen, vallen hieronder.’

Deze conferentie is geschikt voor professionals werkzaam in het bedrijfsleven of bij de (semi)overheid die met AI-toepassingen werken of willen gaan werken.

Denk dan aan:

Juristen, legal counsels, advocaten 
Data Protection Officers (DPO/FG/CPO’s)

Compliance Officers & Managers
Hoofden IT, Legal, Privacy, Risk & Compliance
Managers data science & analytics afdeling

Twijfel je of dit congres ook voor jou relevant is? Neem contact met ons op via 0202- 580 54 00.

Geslaagd AI congres

‘Voor mij als spreker is deze dag geslaagd als mensen de urgentie voelen om aan de slag te gaan én als men handelingsperspectief ziet. En dat laatste dan vanuit een gevoel van ‘ik weet wat er op me af komt en vandaag heb ik geleerd wat ik kan doen.’ En als ik daar vanuit mijn rol een bijdrage aan kan leveren, dan doe ik dat heel graag’, besluit Bart.

Benieuwd naar de after movie van 2023? Die bekijk je hier. Of bestel meteen je tickets op onze congres pagina.