Home Wat moeten privacy professionals weten over AI (en waarom)?

Wat moeten privacy professionals weten over AI (en waarom)?

oktober 31, 2024

Bram de Wit | ApplyAI

Privacy professionals krijgen steeds vaker te maken met AI-toepassingen. Wat is er nodig voor een effectieve en verantwoorde inzet? Bram de Wit, AI-expert en docent van de training AI Officer, vertelt over de uitdagingen en de do’s & don’ts.

“De belangstelling voor Artificial Intelligence (AI) is recent explosief toegenomen. Steeds meer organisaties verkennen de mogelijkheden van AI, of zijn al met concrete tools en systemen aan de slag. Als privacy officer, Functionaris Gegevensbescherming (FG) of juridisch adviseur op het gebied van privacy is het onvermijdelijk dat je daarmee te maken krijgt”, zegt Bram de Wit, machine learning engineer en AI-adviseur bij ApplyAI en een van de docenten van de Outvie-praktijktraining AI van Basis en Ethische Principes naar de Praktijk.

Er ontstaat al snel een complex spanningsveld, zegt De Wit over de grote uitdaging voor privacy professionals en juridisch specialisten als het gaat om de effectieve en verantwoorde toepassing van AI. “Je wilt dat de gegevensverwerkingen van AI-toepassingen verantwoord verlopen, en dat de werkwijze van de organisatie voldoet aan de Algemene verordening gegevensbescherming (AVG) en andere wet- en regelgeving. Maar je wilt ook niet onnodig op de rem trappen, en ontwikkelingen tegenhouden die de organisatie nodig heeft.”

Kennis over de werking van AI-systemen is essentieel om met het spanningsveld om te gaan, zegt De Wit. “De wereld van AI is voortdurend in beweging, en dat kan overweldigend zijn. Als je het overzicht houdt over de grote lijnen, plaats je nieuwe toepassingen in de juiste context. Daarvoor heb je feitelijke kennis over de werking van AI-modellen nodig.”

Basiskennis over AI

De Wit houdt zich al ruim vijf jaar actief bezig met AI, als engineer, consultant en data-analist. Hij studeerde AI aan de Rijksuniversiteit Groningen, en hij heeft een ruime ervaring met het ontwerp, de ontwikkeling en de implementatie van geavanceerde AI-oplossingen in organisaties.

Basiskennis over de achtergronden van de actuele AI-ontwikkelingen maakt het mogelijk om nieuwe initiatieven beter te begrijpen, aldus De Wit. “Je kunt AI-gedreven innovaties in de juiste kaders zetten als je weet wat er schuilgaat achter de opmars van tools zoals ChatGPT en Copilot. OpenAI en Microsoft gebruiken vergelijkbare AI-modellen. Maar de bedrijven werken vanuit heel verschillende filosofieën, en dat is van invloed op onder meer de omgang met de data die de tools verwerken.”

Onder basiskennis van AI verstaat De Wit ook een begrip van enkele technische principes van AI, zoals over de soorten AI-modellen die er nu zijn. “We denken bij AI vaak aan taalmodellen, waarvan ChatGPT de bekendste is. ChatGPT is gemaakt met neurale netwerken. Daarnaast zijn er allerlei andere soorten modellen, die werken met algoritmen zoals linear regression, decision trees en support vector machines.”

De Wit ziet dat er nog veel misverstanden bestaan over algoritmen en AI. “Het helpt als je kunt doorgronden hoe een AI-product tot stand komt, en hoe de implementatie van een AI-model verloopt. Van welke algoritmen maken apps nu al gebruik, vaak zonder dat we ons ervan bewust zijn? Wat gebeurt er allemaal met de data waarmee een AI-model wordt getraind? Het antwoord op deze vragen is een voorwaarde voor privacy compliance.”

Van privacy officer tot AI officer

De Wit doceert samen met Rozemarijn Jens, die zich bij het R&D Department van Shell bezighoudt met AI, ethiek en compliance, de tweedaagse Outvie-praktijktraining AI Officer. “Een privacy professional hoeft geen AI-expert te worden”, benadrukt De Wit. “Als privacy officer beschik je over speciale expertise over de verwerking van persoonsgegevens en de naleving van de wet- en regelgeving rond dataprotectie. De samenwerking met de collega’s en leveranciers die zijn betrokken bij AI-toepassingen is gebaseerd op inzicht in de soorten systemen en de ontwikkeling van producten. Dat vraagt om een rijke skillset, zodat je de concrete risico’s van AI adequaat beoordeelt.”

De komst van de AI-verordening in de Europese Unie stelt eisen aan de zogenoemde AI geletterdheid van organisaties. Tegelijkertijd is de regulering van AI nog volop in ontwikkeling. Privacy compliance staat of valt met het beoordelingsvermogen van de betrokken professionals om de impact van AI-systemen in te schatten, stelt De Wit. “Als privacy professional moet je daarvoor goed communiceren met technische teams die bezig zijn met AI, zoals de tech lead en developers. Hoe werkt de techniek? Welke risico’s spelen er? Welke oplossingen zijn er mogelijk?”

Het morele kompas

“We weten al decennialang dat wet- en regelgeving meestal achterloopt op technologische ontwikkelingen. De uitweg uit het dilemma tussen juridische verplichtingen en technologische vernieuwing ligt in je eigen morele kompas”, benadrukt De Wit. “Als een AI-tool zeer gevoelige persoonsgegevens verwerkt, vind je dat dan kloppen? Onder welke omstandigheden is zo’n verwerking wel toelaatbaar? Als een toepassing juridisch is toegestaan, is het dan automatisch OK?”

Een moreel kompas hangt samen met een sterke intuïtie en een scherpe visie, licht De Wit toe. “Taalmodellen zijn niet altijd betrouwbaar. ChatGPT vermeldt niet voor niets expliciet: ChatGPT kan fouten maken. Naarmate je AI beter begrijpt, krijg je meer gevoel voor de zaken waarop je wel of juist niet kunt vertrouwen. Je kijkt dan ook kritischer naar gratis tools. Betaal je misschien met je data? Met welke gegevens worden modellen getraind?”

Voorbij de hype en buzz words

Houd de mens in de lead, adviseert De Wit. “Gebruik AI als ondersteuner, niet als vervanger van mensen. Laat AI bijvoorbeeld een voorzet genereren op basis van je eigen inhoud, en neem zelf verantwoordelijkheid voor het eindresultaat. Een centrale rol voor de mens betekent ook: denk steeds vanuit de klant, bijvoorbeeld als het gaat om transparantie. Je wilt dat producten en diensten die zijn gebaseerd op AI altijd uitlegbaar zijn. Wat gebeurt er precies met klantdata in de ontwikkeling en toepassing van AI-modellen? Hoe verlopen de datastromen?”

“Uiteindelijk is AI niets meer of minder dan een computer – een apparaat dat draait op enen en nullen”, vat De Wit samen. “Als je dat doorziet, dan laat je je niet zo snel intimideren door de vele hypes en buzz words. Je kunt dan ook realistisch kijken naar de torenhoge verwachtingen van AI, dat soms wordt gezien als een superbrein. Daarmee ontstaat ruimte om te focussen op wat nu cruciaal is: de risico’s verminderen en de kansen verzilveren.”

Wilt u als privacy professional of juridisch specialist het verschil maken voor een verantwoorde inzet van AI in uw organisatie? Geef uw kennis een boost met de tweedaagse basistraining!

Bent u bekend met de basis van AI en compliance, en wilt u doorgroeien tot AI compliance officer? Ontdek dan onze gecertificeerde praktijktraining Certified AI Governance & Compliance Officer.