De vijf van ’25 – Ilyaz Nasrullah over AI in het hoger onderwijs
Boudewijn Bollmann (bewerking: HvanA)
Ilyaz Nasrullah
Het jaar loopt ten einde. HvanA kijkt vooruit naar wat het hbo na 2025 te wachten staat en houdt er vijf verdiepende gesprekken over. Deze keer: digitaal strateeg Ilyaz Nasrullah over de belofte van AI in het hoger onderwijs. Kan artificiële intelligentie de HvA sterker maken, of zijn er vooral risico’s? ‘Waar mensen worden vervangen door AI zit in mijn ogen het grootste gevaar.’
De opkomst van AI wordt eigenlijk al sinds de lancering van ChatGPT als iets onvermijdelijks gezien. Soms schoorvoetend, ‘we kunnen de technologie onmogelijk nog buiten de deur houden’. Maar steeds vaker ook met enthousiasme, ‘AI biedt een zee aan mogelijkheden’, of ‘AI gaat alles radicaal veranderen!’
Dit jaar hebben we veel gelezen over hoe AI het onderwijs beïnvloedt. Maar hoe zit het met de bedrijfsvoering? Inmiddels dringt bij bestuurders het besef door dat je allerlei processen efficiënter kunt organiseren met AI. Zeker in tijden van bezuinigingen een aantrekkelijke gedachte.
Maar gaan ze niet te snel in hun enthousiasme over de belofte dat AI allerlei zaken kan optimaliseren? Waar moeten hogescholen en universiteiten op letten bij deze ontwikkeling? We spreken erover met Ilyaz Nasrullah, die zich al vanaf het begin kritisch uitlaat over AI.
‘Efficiëntie en kostenbesparing gaan ten koste van allerlei andere overwegingen’
In het begin – laten we de lancering van ChatGPT als ijkpunt nemen – was de reactie van het hoger onderwijs op AI: ‘Nu deze technologie er is, moeten we het maar omarmen.’ Inmiddels is die omarming wel een heel stevige knuffel geworden. De HvA wil studenten AI-proof opleiden en het bestuur onderzoekt hoe AI allerlei taken kan overnemen. Hoe volgt u deze ontwikkeling?
‘Alles wat we veronderstellen over de technologie die we AI noemen, artificial intelligence, is gebaseerd op de aanname dat er echte intelligentie in zit. We denken daarom dat de problemen die we allemaal tegenkomen – zoals hallucinaties – slechts kinderziektes zijn die vanzelf verdwijnen. Ik blijf erop hameren: dat is niet zo. Wat men verwacht dat deze technologie gaat opleveren, is een utopie.’
‘Ik denk dan ook dat het inzetten van AI door hogeronderwijsinstellingen meer problemen oplevert dan het uiteindelijk waard is. Bestuurders zouden zich daarom moeten afvragen: kan deze technologie wat er beloofd wordt? En áls dat zo is, is dat dan wel wat we willen? Is die utopie eigenlijk een dystopie, en hoe moet je daar dan mee omgaan? Dat zijn fundamentele vragen die onterecht ondergesneeuwd raken in een soort enthousiasme bij bestuurders over efficiëntieslagen en kostenbesparingen.’
AI in de organisatie
Al in 2021 betoogde SURF, de ict-coöperatie voor het hoger onderwijs, dat AI veel kansen biedt – ook voor de organisatie van instellingen. Zoals bij het roosteren van vakken of tentamens en in HR, of bij het ‘ontsluiten van informatie voor studenten.’
Inmiddels wil de Radboud Universiteit miljoenen euro’s bezuinigen door bij veel afdelingen te ‘automatiseren en digitaliseren’ en zinspeelde collegevoorzitter Jopie Nooren bij de HvA al op het vervangen van student info-medewerkers door chatbots. De HvA heeft ook inmiddels een eigen chatbot, andere instellingen zoals de Hogeschool Rotterdam maken gebruik van Microsoft Copilot, een soort AI-gestuurde chatbot die medewerkers ondersteunt bij veel taken.
‘De belofte van AI als technologie past heel erg bij het “spreadsheet-denken” wat in veel organisaties gemeengoed is geworden. Efficiëntie en kostenbesparing gaan ten koste van allerlei andere overwegingen.’
Ten koste van welke overwegingen bijvoorbeeld?
‘Kwaliteit, menselijk contact, autonomie van het individu, dat soort dingen. Want wat betekent het eigenlijk als je zegt: we gaan studenten AI-proof maken? Als een student straks niet meer in staat is om vanaf een leeg document een tekst te schrijven, dan heb je een stukje van zijn autonomie afgenomen. Is dat wat je moet willen als onderwijsinstelling? Dat soort vragen gaan veel dieper dan het economische denken, dat per definitie geen oog heeft voor dit soort overwegingen.’
U bent vaker kritisch over de manier waarop overheden, organisaties en ook het onderwijs ‘blind’ meegaan in de ‘AI-hype’. Waar stoort u zich vooral aan? Is het niet logisch dat organisaties willen innoveren?
‘Ik zeg niet dat het bestuur van de HvA voor een makkelijke uitdaging staat. Ik snap waarom ze aan AI denken. Maar wat je niet moet doen is AI neerzetten als dé oplossing voor bezuinigingen. Dat is gevaarlijk, want dat weet je helemaal niet.’
Wie is Ilyaz Nasrullah?
Als één van de meest vooraanstaande experts op het gebied van digitale technologie, adviseert Ilyaz Nasrullah overheden, bedrijven en onderwijsinstellingen over de inzet en gevolgen van kunstmatige intelligentie. Hij werkte onder meer voor Eneco, de gemeente Rotterdam en de TU Delft.
Daarnaast is Nasrullah bekend om zijn kritische stem over digitalisering, kunstmatige intelligentie en de impact daarvan op de samenleving. Hij schrijft een tweewekelijkse column voor Trouw, maakt de podcast Welkom in de AI-fabriek voor BNR Nieuwsradio, en is regelmatig te gast in radio- en televisieprogramma’s.
‘Je moet eerst evalueren waar AI daadwerkelijk een meerwaarde heeft. Ik stoor me dus niet zozeer aan aan het feit dat de HvA met AI wil experimenteren, daar heb ik op zich wel begrip voor, maar aan de manier waarop dat door veel organisaties wordt gepresenteerd.’
‘We moeten het perspectief niet omdraaien: “We moeten bezuinigen, dus we gaan kijken hoe we AI kunnen inzetten,” is iets anders dan: “Wij geloven in AI en zouden deze keuze uiteindelijk ook maken zonder bezuinigingen.” Dat is subtiele framing die suggereert dat AI de enige route is, en dat zegt veel over de richting waarin we ons bewegen.’
Zo gek is het toch niet dat onderwijsinstellingen in tijden van bezuinigingen kijken wat er goedkoper kan? Ik bedoel, welk alternatief is er, if not AI?
‘De bezuinigingen gaan hoe dan ook pijn doen, daar ontkom je niet aan. Maar AI lost vaak de structurele problemen niet op die bestuurders denken aan te pakken. Ik hoor weleens dat docenten het zo druk hebben dat ze een lesplan laten maken door generatieve AI. Maar het fundamentele probleem — een te hoge werkdruk — is niet nieuw. Als docenten naar chatbots moeten grijpen, dan verstop je dat probleem en blijf je ermee zitten.’
‘Ik zie veel liever dat onderwijsinstellingen daar open en eerlijk over communiceren. Dat ze onder ogen zien dat het hoger onderwijs in Nederland structureel aan kwaliteit gaat inboeten door de bezuinigingen. Dat is de pijnlijke realiteit. Van daaruit kun je kijken of AI kan helpen om bepaalde problemen te verzachten. Niet als eerste keuze en zeker niet als quick fix, maar omdat je iets moet proberen in een lastige situatie.’
‘Zo’n besluit zou bovendien tot stand moeten komen via een serieus gesprek binnen de instelling. Bespreek met elkaar wat je als onderwijsinstelling overeind wil houden, welke waarden belangrijk zijn en waar de prioriteiten liggen. Daar hoort ook bij dat je luistert naar de werkvloer: hoe kijken studenten, medewerkers en docenten aan tegen deze bezuinigingen, en welke rol zien zij daarin voor AI? Dan krijg je misschien wel een heel ander antwoord dan: zet AI in.’
‘De vraag is of de sociale gevolgen wel voldoende worden meegewogen door bestuurders wanneer zij besluiten nemen over AI’
We hebben het al veel gehad over AI in het klaslokaal, maar onderwijsinstellingen lijken steeds meer hun organisatie zelf ook te willen ‘ver-AI-ficeren’. AI kan roosteraars vervangen, of fungeren als student-assistent. Wat zijn de risico’s van die ontwikkeling?
‘Waar mensen worden vervangen door AI — bijvoorbeeld als student-assistent of baliemedewerker — zit in mijn ogen het grootste gevaar. Jongeren ervaren nu al veel eenzaamheid. Ik weet niet of de baliemedewerker per se het verschil maakt, maar als je steeds overal een klein stukje afschaaft, dan creëer je wel voorwaarden waarbij mensen zich sneller vervreemd voelen in een organisatie.’
‘Ik weet uit ervaring hoe belangrijk het is dat er student-assistenten zijn. Het is echt prettig om met een oudere student te kunnen praten, een tip te krijgen of op een andere manier ondersteund te worden. Dat gaat niet alleen over inhoudelijke vragen, maar ook over nabijheid en menselijk contact. Het zijn subtiele dingen, maar ze doen er wel toe. De vraag is of dit soort sociale gevolgen wel voldoende worden meegewogen door bestuurders wanneer zij besluiten nemen over AI in de organisatie.’
Beeld: Werry Crone | Ilyaz Nasrullah
Welke risico’s moeten bestuurders volgens u nog meer in ogenschouw nemen bij het inzetten van chatbots en AI binnen een organisatie als de HvA?
‘Om te beginnen maken chatbots veel fouten. Als een chatbot het honderd procent van de tijd mis heeft, weet jij als mens hoe je daarmee om moet gaan: je vertrouwt het niet. Maar als die maar vijf procent van de tijd een fout maakt, dan heb je een probleem. Omdat het meestal goed gaat, denk je al snel dat het altijd goed gaat. Dat is waar de fouten in het proces beginnen te sluipen.’
‘Het is daarom cruciaal dat je bedrijfsvoering niet volledig afhankelijk is van dit soort systemen en dat je continu monitort of het wel werkt. Kijk naar een bedrijf als Klarna, dat een jaar geleden nog zei: “We are an AI first company”. Inmiddels neemt Klarna weer mensen in dienst omdat AI toch niet het gewenste effect had.’
‘Dan is er nog een ander probleem dat bekendstaat als automation bias. Een psychologisch effect waarbij mensen overmatig vertrouwen hebben in automatische systemen en daardoor hun eigen beoordelingsvermogen loslaten. Wees je ervan bewust dat het niet alleen om vaardigheden gaat, maar ook om menselijk gedrag.’
Heeft de HvA gelijk als ze veronderstelt dat AI veel taken uit handen kan nemen? Of levert het juist extra werk op?
‘Dat is de vraag. Bij een individuele taak zoals het schrijven van een persbericht kan ik me voorstellen dat een chatbot misschien iets sneller kan werken. Maar omdat er vaak veel meer stappen zijn die doorlopen moeten worden, moet je breder kijken dan alleen naar tijdwinst op één taak.’
‘Sneller werken kan altijd als je de kwaliteit loslaat. Maar kun je ook sneller werken mét behoud van kwaliteit? Daar overschatten we AI op dit moment. Ik heb tot nu toe op grote schaal nog geen enkel bewijs gezien dat generatieve AI voor productiviteitswinst zorgt.’
‘Ik krijg vaak de vraag: Wat als we de boot missen? Mijn wedervraag is dan: Wat als die boot zinkt?’
Als het gaat om digitale onafhankelijkheid: gloort er dan hoop? De HvA heeft inmiddels haar eigen alternatief voor ChatGPT, en instellingen experimenteren met Nextcloud, een alternatief (van SURF) voor programma’s als Microsoft Teams.
‘Ik ben op zich een groot voorstander van je eigen infrastructuur opbouwen als onderwijsinstelling zijnde, en SURF is daar een uitstekende organisatie voor. Waarschijnlijk draait de HvA op Microsoft, en als je jezelf als onderwijsinstelling kunt losmaken van zulke grote Amerikaanse techbedrijven en overstapt op alternatieven, dan is dat op zichzelf een heel waardevolle stap.’
‘Maar dat staat los van het AI-vraagstuk. Bij AI gaat het voor mij vooral om: waar werkt het wel, waar niet, en welke problemen wil je ermee oplossen? Pas als je plekken in de organisatie vindt waar het nuttig kan zijn, kun je nadenken over welke systemen je wilt inzetten en aan welke randvoorwaarden die moeten voldoen. Dan is het inderdaad beter om te kiezen voor een eigen ontwikkeling of een Europees alternatief. Ik weet niet of de HvA daar een technologievisie op heeft. Wat ik wel weet, is dat de HvA genoeg experts in huis heeft die daar verstand van hebben.’
U noemt veel hobbels bij het inzetten van AI en waarschuwt voor risico’s. Waarom lijken hogeronderwijsinstellingen dan toch zo’n haast te hebben met verdere AI-implementatie?
‘Wat ik de afgelopen drie jaar heb gezien, is dat er een grote angst is ontstaan om de AI-boot te missen. Die vraag krijg ik vaak gesteld vanuit organisaties: “Wat als we de boot missen?” Mijn wedervraag is dan: “Wat als die boot zinkt?” We willen er maar al te graag op springen, zonder te weten waar de boot heen vaart of wat de status van de boot is. Daarmee creëer je afhankelijkheid van een technologie die je niet goed begrijpt en waarvan je niet weet wat die precies gaat brengen.’
‘Als je AI inzet, blijf dan voortdurend ophalen bij medewerkers en studenten of het goed gaat’
‘Daarnaast speelt de financiële prikkel een grote rol. Bezuinigingen stimuleren bestuurders om kostenbesparende technologie te omarmen. Onderwijsinstellingen kampen al jaren met tekorten, dus ik begrijp de motivatie. Maar het is gevaarlijk om je daar volledig door te laten leiden, want je verliest iets dat je niet makkelijk terugkrijgt. Een collega van mij zei laatst: “AI is te belangrijk om aan je baas over te laten.” Bestuurders hebben een bepaald belang, die zijn blij als ze onderaan de streep dingen kunnen schrappen. Het verbaast mij echt hoe bereidwillig organisaties zijn om het kwaliteitsverlies dat vaak met AI gepaard gaat, maar te omarmen.’
Het is duidelijk dat u er geen voorstander van bent om AI allerlei taken te laten overnemen. Maar stel dat de HvA toch besluit om AI op grote schaal in te zetten in de bedrijfsvoering: waar moeten zij dan vooral op letten, voordat ze ermee beginnen?
‘Begin altijd met een pilot en bepaal vooraf aan welke kwaliteitseisen een AI-oplossing moet voldoen. Niet achteraf, want dan ga je, omdat je het al wilde, goedpraten waarom het ‘goed genoeg’ is. Wat je al helemaal niet moet doen is zeggen: het werkt nu niet goed, maar in de toekomst vast wel, dus we gebruiken het toch.’
‘Als het in de toekomst beter wordt, moet je het in de toekomst gebruiken: als het nu niet goed genoeg is, gebruik het dan niet. Dat is cruciaal, omdat je AI onderdeel maakt van de digitale infrastructuur van je organisatie. Zodra het er eenmaal inzit, is het heel moeilijk om het er weer uit te halen.’
‘Als je AI inzet, blijf dan voortdurend ophalen bij medewerkers en studenten of het goed gaat. Idealiter doe je een nulmeting: hoe voelen mensen zich nu, en hoe straks? Voelen ze zich nog welkom en ondersteund, of veroorzaakt AI juist frustratie omdat chatbots fouten maken en alleen maar meer problemen opleveren dan oplossen?’
‘Voor mij begint het niet bij de vraag waar je op moet letten bij AI-implementatie. De fundamentele vraag is: wat willen we als onderwijsinstelling behouden, waar willen we naartoe, en welke rol kan technologie daarin spelen? AI kun je niet zomaar als oplossing presenteren.’
Het volgende eindejaarsinterview van De vijf van ‘25 is met regeringscommissaris Mariëtte Hamer, over seksueel grensoverschrijdend gedrag tussen studenten. Wat blijft de grootste uitdaging, wat zijn de doelstellingen, en wie is verantwoordelijk?
Deel dit verhaal op je socials:
[molongui_author_box]
