AI werft aan: vloek of zegen?

Gepubliceerd op 2026-06-13 door Geert Van Houcke

Steeds meer internationale bedrijven gebruiken kunstmatige intelligentie om cv’s te beoordelen, werknemers te evalueren en zelfs beslissingen over bonussen en ontslagen te nemen.

Dit is een gastbijdrage van Geert Van Houcke voor SAI Update. Dit artikel schreef hij in het kader van een afstudeerproject toegepaste informatica aan de Karel de Grote Hogeschool (KdG).

Op 30 oktober 2023 berichtte VRT NWS dat bedrijven ook in België ChatGPT gebruiken om cv’s te screenen. Zo gebruikt het Gentse uitzendbureau Nowjobs dit systeem om flexi-jobbers te koppelen aan vacatures. Maar is deze praktijk ethisch verantwoord? En aan welke voorwaarden moet een AI-systeem voldoen om op een ethische manier cv’s te screenen?

Op het eerste gezicht is het antwoord eenvoudig: nee, het is niet ethisch verantwoord om ChatGPT te gebruiken om cv’s te screenen. Het is namelijk bewezen dat ChatGPT etnische minderheden discrimineert. Zij krijgen systematisch een slechtere beoordeling. Erg verwonderlijk is dat ook niet: discriminatie maakt deel uit van onze wereld, ze sloop ook onvermijdelijk in de teksten waarmee ChatGPT getraind werd.

Daarmee refereren we aan het fameuze GIGO-principe: garbage in, garbage out. Hoe accuraat de logica van een programma ook is, de resultaten zullen fout zijn als de input rommel is. Maar hier eindigt het niet. De discriminatieratio van menselijke beoordelaars was namelijk 30 à 40 procent, terwijl die van ChatGPT tussen de 14 à 19 procent lag. Met andere woorden, hoewel ChatGPT discrimineert, doet het dat minder dan mensen. Dit zijn echter gemiddelden. We gaan ervan uit dat sommige mensen nog minder discrimineren dan ChatGPT. Bovendien is bewezen dat een correcte selectieprocedure de discriminatieratio verlaagt.

Het uiteindelijke doel is natuurlijk nul procent, dus geen discriminatie. De vraag is dus hoe we dit het snelst bereiken. Als we massaal overstappen naar ChatGPT om cv’s te beoordelen, bestaat het risico dat de aanwezige discriminatie niet verdwijnt. De beoordeelde cv’s kunnen namelijk samen met de door ChatGPT gemaakte beoordeling opnieuw gebruikt worden als trainingsdata voor AI-systemen. Dit bestendigt de discriminatie.

Computer says: pregnant

Je zou kunnen denken dat je het AI-systeem onmogelijk kunt maken om te discrimineren, bijvoorbeeld door cv’s en motivatiebrieven voor een aanwerving te anonimiseren voor je ze aan ChatGPT voorschotelt. Het lijkt een voor de hand liggende oplossing, maar ze schiet tekort. Het is immers alom bekend dat AI-systemen een heleboel over jou te weten kunnen komen zonder dat je hen dat expliciet zegt.

Een bekend voorbeeld is het verhaal van de supermarktketen Target, die reclame voor zwangerschapsproducten naar een scholier stuurde. Haar vader was verrast en ging verhaal halen bij de winkel. Het algoritme dat haar aankopen ontleedde, had geoordeeld dat zij waarschijnlijk zwanger was. En wat bleek? Het klopte, maar de tiener had dit nog aan niemand verteld. Nadien bleek dat het aankopen van ongeparfumeerde lotions dé aanwijzing was. Op basis van gegevens die op het eerste gezicht niets met een zwangerschap te maken hebben, kon Target achterhalen dat zij vermoedelijk zwanger was.

Iets gelijkaardigs geldt wellicht ook voor ChatGPT. Als we cv’s en motivatiebrieven anonimiseren, bevatten ze op het eerste gezicht geen informatie op basis waarvan ChatGPT kan discrimineren. Toch zullen er in de tekst altijd aanwijzingen staan over allerhande persoonskenmerken, zoals het geslacht en de etniciteit, die voor de vacature niet van belang zijn. Zoals de ongeparfumeerde lotions een zwangerschap verraden, kan bijvoorbeeld de schrijfstijl of school dat soort persoonskenmerken onthullen. Als ChatGPT zijn beslissing neemt op basis van die kenmerken, maakt het een ongeoorloofd verschil tussen de kandidaten.

Daarenboven is ChatGPT helemaal niet ontworpen om cv’s op hun waarde te beoordelen. Het is een machine die op basis van de input van de gebruiker voorspelt welke woorden, zinnen, alinea’s hier logischerwijze op kunnen volgen. Dat wil nog niet zeggen dat die tekst inhoudelijk correct is. Evengoed kan ChatGPT in zijn beoordelingen van cv’s hallucineren, dus feiten verzinnen, en dus goede cv’s afwijzen en slechte cv’s goedkeuren.

Op naar verantwoorde AI

Natuurlijk is het technisch gezien mogelijk om een AI-systeem te ontwerpen specifiek om cv’s te beoordelen. Zo’n systeem kan getraind worden met talloze cv’s en hun beoordeling door een HR-team. Die beoordeling zou daarna aangepast kunnen worden in functie van hoe tevreden de werkgever uiteindelijk was over de aangeworven medewerker. Een goed getraind neuraal netwerk zou op die manier in staat zijn cv’s te beoordelen. De vraag is echter of zo’n systeem wel ethisch verantwoord kan zijn.

Toju Duke werkte jarenlang voor Google en was er onder meer manager verantwoordelijk voor ‘verantwoorde AI’. In haar boek Building Responsible AI Algorithms ontvouwt zij hoe een AI-systeem explainable (uitlegbaar) gemaakt kan worden. Ze verwijst daarin naar het uitgebreid documenteren van het AI-systeem: waar de data vandaan komen, welke methodes gebruikt werden om de data op te schonen en welke tests uitgevoerd werden om te controleren dat de data wel representatief zijn. Alle keuzes bij de bouw van het AI-systeem moeten toegelicht worden.

Dat is natuurlijk al een interessante eerste stap: we kunnen wel verwachten dat mensen meer vertrouwen hebben in een AI-systeem, waarvan duidelijk is hoe de trainingsdata verzameld en gebruikt werden, dan in een systeem zonder die info. Dat hoeft nog niet te betekenen dat de eindgebruiker zelf moet controleren of het AI-systeem op een correcte manier ontwikkeld werd. Het systeem stelt zich hiermee wel open voor kritiek: er kan een publiek debat over gevoerd worden onder ontwikkelaars, AI-onderzoekers en beleidsmensen. De resultaten van dat debat sijpelen uiteindelijk wel door in de keuzes van de eindgebruiker.

Toch antwoordt Duke met haar invulling van verantwoorde AI niet op de ultieme vraag die ‘explainable AI’ aan een AI-systeem kan stellen: leg eens uit hoe je tot jouw output komt? Dat is vaak niet mogelijk. Het precieze algoritme, op basis waarvan de input omgezet wordt in output, is vaag, zelfs voor de ontwikkelaars. Dat blijft het geval als het systeem uitgebreid gedocumenteerd is. Een technische uitleg over back and forward propagation passes zal weinig soelaas bieden voor de afgewezen sollicitant.
Rule-based expert systems

Dat is althans het geval bij machine learning met neurale netwerken. Bij een eenvoudiger vorm van artificiële intelligentie, rule-based expert systems, is het resultaat van het algoritme wél uitlegbaar. Zo’n AI-systeem volgt vaststaande regels om de input te vertalen naar een output.

Voor het screenen van cv’s zou zo’n algoritme bijvoorbeeld een aantal regels kunnen volgen die bepalen welke kandidaten uitgenodigd worden op gesprek en welke niet. Misschien hecht de werkgever veel belang aan een vlotte woon-werkverbinding en wil hij daarom al bij voorbaat kandidaten uitsluiten die meer dan 20 km van het bedrijf wonen. Dat is natuurlijk een eenvoudige regel, maar de regels kunnen zo complex worden als nodig is voor een effectief aanwervingsbeleid.

Zo kunnen er ook regels opgesteld worden die de filegevoeligheid van de route of het bestaan van een vlotte verbinding met het openbaar vervoer mee in rekening brengen. Of die helemaal geen rekening houden met een vlotte woon-werkverbinding als de kandidaat x-aantal jaar ervaring heeft in gelijkaardige functies.

De regels worden daarbij opgesteld op basis van de kennis van HR-experts. De heuristieken en vuistregels die zij gebruiken om goede van slechte cv’s te onderscheiden, worden geconsolideerd in de rules van het expert system. Daar ligt een belangrijk verschil met neurale netwerken, waarbij het algoritme door het AI-systeem zélf bedacht wordt op basis van de trainingsdata – maar altijd ondoorzichtig is voor de ontwikkelaars.

Bij rule-based expert systems valt achteraf wel eenvoudig vast te stellen waarom de ene kandidaat niet werd uitgenodigd en de andere wel. Het systeem beschikt over zogenaamde explanation facilities die toelaten het systeem te bevragen welke regel toegepast werd en dus waarom een kandidaat al dan niet uitgenodigd werd voor een gesprek. Wanneer zo’n systeem gebruikt wordt, is het natuurlijk cruciaal een ethisch verantwoord algoritme op te stellen, dus om doordachte rules te maken.

Recht op een verklaring

Als we echter de beslissingen over aanwervingen overlaten aan ChatGPT of andere generatieve AI, vallen ze niet meer uit te leggen. En dat is toch waar het uiteindelijk om draait: als er beslissingen genomen worden die een grote impact hebben op het leven van een individu, dan moeten die beslissingen met redenen gestoffeerd kunnen worden, of moet op z’n minst post hoc bewezen kunnen worden dat de beslissing van het AI-systeem inderdaad de beste was. Dat lukt bij ChatGPT niet. Zelfs al zou het systeem uitgebreid gedocumenteerd zijn, hoe het van input tot output kwam, blijft in nevelen gehuld.

Dat is ronduit problematisch. Er is voor ons geen enkele manier om te weten te komen of ChatGPT bij het beoordelen van cv’s en motivatiebrieven rekening heeft gehouden met persoonskenmerken die wij zelf als irrelevant voor de functie zouden beschouwen, of niet. Let wel: dat wil niet zeggen dat we ChatGPT daarover niet kunnen bevragen. Het is veeleer zo dat er geen manier is om te bepalen of de uitleg die ChatGPT daarover geeft betrouwbaar is. Zoals Geoff Hinton, cognitief psycholoog en computerwetenschapper bij de University of Toronto en Google, het verwoordt: If you ask them [neural nets] to explain their decision, you are forcing them to make up a story (geciteerd in The AI Dilemma van Juliette Powell & Art Kleiner).

Kortom, nieuwe technologieën zijn niet noodzakelijk beter. In ons enthousiasme over beloftevolle nieuwe technologieën blijven we soms blind voor de nadelen ervan en durven we de voordelen van oudere benaderingen al eens over het hoofd te zien. In het geval van cv-screening bieden rule-based expert systems een ethisch verantwoorde en effectieve oplossing, vooral vanwege hun transparantie en uitlegbaarheid. Bij het nemen van beslissingen die een grote impact hebben op het leven van een individu, is dat van fundamenteel belang.