It’s the user, stupid!

In de slijpsteen van onze geest (NRC) van 19 september 2017 was het 2x raak:  “Computer says ho” van techredacteur Marc Hijink, en “De computer is racistisch” van Wouter van Noort. Beste mensen: hoe lang moet die arme computer de schuld krijgen van wat een dat door mensen gebruikt programma uitkraamt? It’s the user, stupid!

Ik ben geen jurist, maar ik denk dat het belangrijk is om een onderscheid te maken tussen een computer en zijn programmatuur als een ding, en de mensen die dat ding gebruiken. Het is natuurlijk makkelijk om de combinatie ‘de computer’ te noemen, maar het gaat natuurlijk uiteindelijk om wat mensen met een computer en zijn software doen. Daarvoor zijn mensen verantwoordelijk die de computer inclusief programma gebruiken.

Neem bijvoorbeeld een auto waarmee een ongeluk veroorzaakt wordt. Dan geef je toch niet de auto de schuld, maar de automobilist?! Ander voorbeeld: er is een moord begaan. Dan geef je toch niet het moordwapen de schuld, maar de moordenaar?! Auto’s, moordwapens en computers zijn dingen, die door mensen gebruikt òf misbruikt kunnen worden. Het zijn mensen die dat doen, niet de dingen zelf. Computers zijn dingen die niets uit zichzelf doen, ook als zij automatisch werken is er altijd een mens die de opdracht gegeven heeft.

Dit verschil wordt belangrijker nu computers een steeds groter aandeel hebben in onze maatschappij. Dat speelt vooral in AI-toepassingen, waarbij mensen een hoeveelheid big data selecteren en dan een computer beslissingen laten maken op basis van de aangeleverde voorbeelden. Heel knap en leuk, en het lijkt alsof de computer zo’n programma zelf gemaakt heeft, maar ook dáár zijn de mensen verantwoordelijk die het programma laten uitvoeren. Daarvan kun je die arme computer en zijn programmeurs niet de schuld geven.

In een gelaagde organisatie moet iemand de verantwoordelijkheid dragen voor problemen die de organisatie veroorzaakt – dat is meestal de topman. Bij AI-computers ligt dat iets gecompliceerder omdat eigenlijk niemand goed weet wat de invloed is van de selectie van voorbeelden, hoe die gebruikt wordt voor het vormen van uitkomsten, en wat de nauwkeurigheid van die uitkomsten is. Er worden veel soorten computers gebruikt, elk met verschillende graden van belangrijkheid. Dat neemt echter niet weg dat er ook hier altijd een mens verantwoordelijk is.

We hebben helaas geen goede naam voor dit soort opdrachtgever. Het Engelse woord user komt er het dichtste bij, maar die omvat in ons spraakgebruik ook de operator, de persoon die werk uitvoert, al dan niet in opdracht van een baas. Het woord ‘opdrachtgever’ – principal in het Engels – bekt niet lekker. De programmeur werkt meestal in opdracht van iemand anders . We moeten echt een goed woord voor dit soort opdrachtgever verzinnen, want die belangrijke persoon draagt de uiteindelijke verantwoordelijkheid voor wat een computer uitspuugt. Net zoals de chauffeur van de auto die een aanrijding veroorzaakt en de moordenaar die iemand vermoord. We moeten in ieder geval ophouden de computer als zondebok te beschouwen! It’s the user, stupid!

Hein van Steenis (20 september 2017)