‘Computer says no’ is geen argument meer

Is het eigenlijk wel mogelijk om met iedereen rekening te houden? Zowel op het werk als in de software die daar uit komt? “Ja en nee”, zegt Serebrenik. “De vraag is welke criteria je gebruikt. Neem de toegangstoets om studenten te selecteren voor een opleiding. Je kunt zeggen ‘we houden alleen rekening met specifieke kennis’ en die eis is voor iedereen gelijk. Maar dan vergeet je dat bepaalde mensen in de samenleving geen kans hebben gehad om die kennis te vergaren. Je moet dan een voortraject inrichten om die mensen bij te scholen. Een van de problemen hierbij is dat dat soort oplossingen geld kosten."

Serebrenik, in Leuven opgeleid als informaticus, heeft niet altijd geweten dat hij zich met dit thema wilde bezighouden. “Als ik het als student al had geweten, was ik wel sociologie gaan studeren. Maar software heeft altijd een menselijke component, software gebeurt niet gewoon. Het wordt bijna altijd ontwikkeld in teams en hoe mensen binnen die teams met elkaar omgaan, beïnvloedt zowel het proces als het resultaat ervan. Ergens in dat proces is ook mijn fascinatie voor de menselijke component ontstaan.”

De mens achter de software

In de tekst voor zijn intreerede haalt Serebrenik een onderzoek aan waaruit blijkt dat pull-requests (het indienen van software) op GitHub (een beheersysteem voor softwareprojecten) van softwareontwikkelaars uit landen met een lage human development index (HDI) minder vaak worden geaccepteerd dan die van softwareontwikkelaars uit landen met een hoge HDI.

Uit een ander onderzoek blijkt dat pull-requests van softwareontwikkelaars uit Zwitserland meer dan twee keer zo veel kans hebben om te worden geaccepteerd dan die van Chinese ontwikkelaars. “Het Westen is nog altijd dominant in het zetten van de standaard aan verwachtingen. Iemand uit de dominante, westerse groep wordt ook minder streng beoordeeld.”

Racistische programma’s

Voorbeelden van computerprogramma’s die (onbedoeld) discrimineren zijn er genoeg. “Je hebt natuurlijk de klassieke voorbeelden met huidskleur. Neem Proctorio, software die wordt gebruikt om spieken tegen te gaan bij online tentamens, waarbij donkere mensen plots onzichtbaar worden. Een ander voorbeeld is een geautomatiseerde waterkraan die gaat lopen als je er vlakbij komt; als die kraan iemand met een donkere huidskleur niet herkent, krijgt die persoon dus geen water.”

“Maar vaak is het veel subtieler. Neem de verschillen tussen mannen en vrouwen op het gebied van informatieverwerking. Mannen gebruiken vaker een 'heuristic information processing' strategie en vrouwen een 'comprehensive information processing' strategie. Veel overheidswebsites gebruiken nog lange lappen tekst zonder fatsoenlijke samenvatting. De informatie die je zoekt, zit ergens daarin verstopt en je moet dus al die tekst tot je nemen. Daarmee benadeel je vrouwen. En zo zijn er nog 1001 dingen. Zo zijn er banken in België die nog altijd brieven sturen met een klassiek partnerbeeld van man en vrouw. Ik als homoman krijg nog altijd een brief met beste meneer en mevrouw Serebrenik.”

Klassiek hetero-argument

Om te zorgen dat software inclusiever wordt, moeten de teams die die software maken, ook diverser en inclusiever worden, zegt Serebrenik. “Niet alleen gender of seksuele geaardheid, maar ook leeftijd kan aanleiding geven tot discriminatie. Als we kijken naar de arbeidsmarkt, en dan spreek ik even specifiek over de softwarebranche, zie je dat oudere software-ontwikkelaars zeker in VS een beetje uit het beroep worden geduwd.

Als je oud bent, ben je niet up-to-date. Oudere mensen worden aangemoedigd zich te verjongen. Jong van geest, lijf en leden zijn. In kleding en uiterlijk, zelfs zo ver dat men naar een plastisch chirurg gaat tegenwoordig of Ritalin neemt, maar ook dat men leeftijd op het cv probeert te verbergen, bijvoorbeeld.”

Als we kijken naar de diversiteit in teams op het werk, kun je je afvragen hoe ver dat moet gaan. Welke aspecten van je identiteit moet je naar het werk kunnen meenemen? Hoort seksualiteit daarbij?

Het basisidee van inclusie op het werk is dat iedereen zich op zijn gemak moet kunnen voelen op de werkvloer en zelf moet kunnen beslissen welk deel van de identiteit die persoon bekend wil maken.

Serebrenik vindt dat een klassieke heterogedachte: “Seksualiteit wordt niet alleen in de slaapkamer beleefd. Het komt terug in hoe je op maandag over je weekend vertelt – dat je met je vrouw en kinderen ergens heen bent geweest – en in hoe je je onderzoeksvragen formuleert, hoe je omgaat met collega’s en studenten.

Het is een klassiek argument van heteroseksuelen dat seksualiteit alleen in de privésfeer thuishoort. Redelijk homofoob, want het suggereert dat alleen een onzichtbare seksualiteit normaal is.

Uit interviews met LHBTIQ+ software-ontwikkelaars is gebleken dat het heel belangrijk is voor hen om op het werk zichzelf te kunnen zijn. Hoe zeer ze zich momenteel thuis voelen op het werk, verschilt sterk binnen die groep. Het basisidee van inclusie op het werk is dat iedereen zich op zijn gemak moet kunnen voelen op de werkvloer en zelf moet kunnen beslissen welk deel van de identiteit die persoon bekend wil maken op het werk”, vindt Serebrenik.

Diversiteit is geen regenboogsticker

“Diversiteit is niet een simpele sticker die je ergens op kunt plakken. Diversiteit is niet iets in regenboogkleuren verven en een paar woorden laten spreken door een bestuurder zonder echt iets te veranderen. Neem Canvas, het leermanagementsysteem van de TU/e. Iemands gewenste persoonlijk voornaamwoorden zijn nog altijd niet in dat systeem geregistreerd. Bij de VU in Amsterdam zijn die wel opgenomen in hun systeem.

En dan zijn we weer terug bij een geldkwestie, want systemen veranderen kost geld. Een college van bestuur moet dan kiezen tussen een onderwijsprijs uitreiken, onderzoek financieren of een computersysteem aanpassen. Als ze dat laatste kiezen, is het een uitgave die door 95 procent van de gemeenschap niet eens gezien zal worden. Dat is geen makkelijke discussie, maar we moeten hem wel voeren.

Ook als je kijkt naar ons inschrijvingsmodel, waarbij internationale niet-EER studenten ruim 11.000 euro collegegeld per jaar betalen om hier te kunnen studeren, dan kunnen we al nooit inclusief zijn. Heel vaak komt het toch weer terug op het argument ‘maar het kost geld’. Ja. Maar met alleen praten kom je er niet. Je moet investeren om inclusiever te worden.”

Wat is ‘fair’?

Serebrenik is nog niet klaar met zijn missie om de wereld van software inclusiever te maken en betrekt nu ook de sociale wetenschap erbij.

Door de gemeenschap van softwareontwikkelaars beter en inclusiever te maken, kunnen we de hele maatschappij beter en inclusiever maken, want software zit overal.

“Samen met George Fletcher van de TU/e en Linnet Taylor van Tilburg University hebben we geprobeerd het gesprek aan te gaan tussen software-mensen, data-mensen en mensen van sociale wetenschappen om te bepalen met welke verschillen van mening we prima kunnen leven en met welke niet.”

“Social X hebben we het project genoemd, omdat we vooraf niet wisten wat er precies uit zou komen. Welke strijden nog niet gestreden zijn. Fairness is zo’n controversieel begrip. Wat betekent fair zijn? Ik wil het niet eens in het Nederlands zeggen, omdat ‘eerlijk’ voor mij niet de volledige lading van ‘fair’ dekt.”

“Aan softwareontwikkelaars wil ik eigenlijk zeggen: software wordt voor en door mensen ontwikkeld. Dat mag absoluut niet vergeten worden. Door de gemeenschap van softwareontwikkelaars beter en inclusiever te maken, kunnen we de hele maatschappij beter en inclusiever maken, want software zit overal.”

Meer info

De oratie van Alexander Serebrenik is hier na te lezen.

Met dank aan Cursor.