Verantwoord gebruik van AI in het hoger onderwijs

Wat is er nodig voor een verantwoorde inzet van Artificial Intelligence (AI) in het hoger onderwijs? Gabriella Obispa, consultant bij Cuccibu en docent aan de Hogeschool Rotterdam en een van de sprekers tijdens het AI Congres van Outvie, vertelt over de uitdagingen en aandachtspunten.

Verantwoord gebruik van AI in het hoger onderwijs: wat houdt het in?

“De opkomst van AI is veel meer dan alleen een technische ontwikkeling. AI ontwikkelt zich namelijk in interactie met onze maatschappij en heeft dus ook impact op publieke waarden en mensenrechten. Het is daarom noodzakelijk om na te denken over de ethische, juridische en sociaalmaatschappelijke aspecten van AI”, zegt Gabriella Obispa “Verantwoord gebruik van AI houdt in dat we bij het ontwikkelen, inzetten en toepassen van AI rekening houden met de ethische, juridische en sociaalmaatschappelijke implicaties voor mens, maatschappij en milieu.

“Er is geen eenduidig antwoord op de vraag: wat is verantwoord gebruik van AI? Er zijn nog veel discussies over”, voegt Obispa toe. “Dat geldt in algemene zin en zeker ook in het hoger onderwijs. Onderwijs is een essentieel onderdeel van onze maatschappij. Het is daarom van groot belang om te bepalen onder welke voorwaarde wij AI in het hoger onderwijs willen inzetten.”

Ethische overwegingen bij het gebruik van AI in het hoger onderwijs

Gabriella Obispa is Privacy & Legal Consultant bij Cuccibu en docent Responsible Technology aan de Hogeschool Rotterdam en een van de sprekers tijdens het AI Congres van Outvie op 17 juni 2023. Cuccibu is een adviesbureau met een specialisatie in privacy, information security, cybersecurity en QHSE. In de breakout sessie van Cuccibu tijdens het AI Congres deelt Obispa onderbouwde en praktisch toepasbare inzichten over onder meer de ethische overwegingen bij het gebruik van AI in het hoger onderwijs.

“Bij het verantwoorde gebruik van AI staan drie perspectieven, die zijn gebaseerd op de ethische richtsnoeren voor betrouwbare AI, centraal: kan het, mag het en is het wenselijk? Naar mijn mening schetsen juridische kaders vaak de ‘minimale’ vereisten. Een ethisch perspectief geeft een bredere blik op de ontwikkeling en de verantwoorde inzet van AI. Je kijkt in het hoger onderwijs naar onder andere publieke waarden zoals autonomie, privacy en gelijke behandeling. Maar ook naar de impact op directe en indirecte stakeholders.”

Uitdagingen bij het gebruik van AI in het hoger onderwijs

Het College voor de Rechten van de Mens oordeelde in 2022 dat antispieksoftware van de Vrije Universiteit (VU) vermoedelijk studenten discrimineerde. De universiteit gebruikte de software, die gebruik maakt van gezichtsdetectiealgoritmes, tijdens de coronapandemie om fraude bij thuistentamens te voorkomen. Een studente ondervond meerdere keren hinder bij het inloggen op het platform en de toegang tot de tentamenvragen. Haar vermoeden was dat de problemen samenhingen met haar huidskleur.

De casus illustreert volgens Obispa verschillende uitdagingen bij het gebruik van AI binnen het hoger onderwijs, en geldt een mijlpaal in de discussie over verantwoorde AI-toepassingen. “Het was voor het eerst dat een persoon in Nederland algoritmische discriminatie aannemelijk heeft gemaakt. Een belangrijke les voor het hoger onderwijs is om – ook in een uitzonderlijke situatie met veel onzekerheden, zoals tijdens de coronacrisis – een goed doordachte keuze te maken voor AI-gestuurde modellen.”

De opkomst van AI in het hoger onderwijs betekent volgens Obispa dus niet dat onderwijs-instellingen geen eisen aan AI-toepassingen zouden kunnen stellen. “Onderwijsinstellingen kunnen bijvoorbeeld onderzoeken of huidige leveranciers nog wel passen bij de kernwaarden van de organisatie. Daarnaast laat de zaak tegen de VU ook de noodzaak van een verantwoord gebruik van AI zien. Het is daarom belangrijk om zeer kritisch te blijven over de inzet van AI voor onderwijs-kundige doelstellingen. Welke onderwijskundige doelen wil je behalen door de inzet van AI? Heeft het algoritme een meerwaarde? Is de technologie het juiste middel voor de onderwijskundige uitdagingen waar we tegenaan lopen?”

Transparantie, uitlegbaarheid en verantwoording in AI-toepassingen in het hoger onderwijs

In reactie op het onderzoek van het College voor de Rechten van de Mens heeft de VU navraag gedaan bij de ontwikkelaar van de software, die ontkent dat er sprake is van discriminatie. De rapportage hierover is echter niet openbaar, en de universiteit heeft van het College de opdracht gekregen om het standpunt dat er geen sprake is van discriminatie te onderbouwen.

De zaak tegen de VU maakt duidelijk dat transparantie, uitlegbaarheid en verantwoording belangrijke pijlers zijn voor verantwoorde AI-toepassingen in het hoger onderwijs, aldus Obispa. “De VU moet aantonen dat er geen discriminatie plaatsvindt. De bewijslast ligt dus bij de onderwijsinstelling. De les voor andere onderwijsinstellingen is om zorg te dragen voor de inzichtelijkheid en controleerbaarheid van in een algoritme gemaakte keuzes, de gedane aannames en de gebruikte gegevens.”

Oplossingen voor verantwoord gebruik van AI in het hoger onderwijs

Er is geen one size fits all oplossing voor verantwoord gebruik van AI in het hoger onderwijs, benadrukt Obispa. “Dit komt door de contextgebondenheid van AI. We kunnen wel stappen maken richting het verantwoorde gebruik van AI. Er dient nagedacht te worden over de ethische, juridische en sociaalmaatschappelijke implicaties gedurende de gehele levenscyclus van een AI-systeem. Het betrekken van belanghebbenden, zoals studenten, bij het ontwikkelen, gebruiken en inzetten van AI is cruciaal. Het gaat in het hoger onderwijs uiteindelijk om de student.”

Voorbeelden van verantwoord gebruik van AI in het hoger onderwijs

Obispa ziet governance als een mooie stap richting een verantwoord gebruik van AI in het hoger onderwijs. “AI-governance schetst een kader met regels, processen en vereisten voor de ontwikkeling, de inzet en het gebruik van AI binnen een organisatie. Governance kaders ondersteunen personen om AI op een verantwoorde manier te ontwikkelen en te gebruiken.”

Het gebruik van AI voor gepersonaliseerd leren in het hoger onderwijs

In potentie liggen er veel kansen om AI te gebruiken om het hoger onderwijs te verbeteren. Bijvoorbeeld om gepersonaliseerd leren, waarbij het onderwijs aansluit op de capaciteiten, interesses en leerstijl van individuele studenten, naar een volgend niveau te brengen. Een gesprek over de risico’s is daarbij volgens Obispa essentieel. “Ga na: voor welk onderwijskundig doel willen we AI inzetten? Welke verantwoordingsplicht hebben we tegenover onze studenten? Is AI het juiste middel voor onze onderwijskundige doelstellingen? Zo ja, hoe kunnen we dat onderbouwen? Wat vandaag goed is, is dat morgen misschien niet meer als er onbedoelde effecten optreden.”