Superintelligentie

De laatste jaren wordt de tem ‘superintelligentie’ nogal veel gebruikt. Vooral nu Google zijn AI-machine in 4 uur zichzelf beter dan de vorige machine go heeft leren spelen en beter schaak dan Deep Blue in slechts een half uur. Verbluffende resultaten, zonder enige twijfel, maar superintelligent?

Nick Bostrom maakt in zijn boek Superintelligentie (2014) de volgende vergelijking: Aangezien het lot van gorilla’s nu meer afhankelijk is van mensen dan van de gorilla’s zelf, zal het lot van ons mensen gaan afhangen van de acties van superintelligentie machines. Ik vind dit een onzindelijke redenering, alleen  al omdat hij er kennelijk van uitgaat dat ons lot afhankelijk is van dit soort intelligentie.

We zullen ons moeten realiseren dat zowel go als schaken eindige bordspelen zijn met vaste regels. Dat deze spelen zijn moeilijk voor mensen die minder goed kunnen omgaan met de vele mogelijke combinaties,  vandaar dat we vroeger dachten dat die spellen goed beheersen, het summum van intelligentie vereist.

Op dat gebied moeten we nu computers als onze meerdere erkennen en inzien dat dit soort computer intelligentie toch iets anders is dan menselijke intelligentie, al is het alleen maar omdat wij levende wezens zijn, geen dode dingen. Wij spelen ons spel op een bord met oneindig veel velden, die steeds opnieuw verschijnen, met regels die we grotendeels zelf bepalen en soms niet kennen. Computers kunnen niet omgaan met zulke onzekerheid zoals wij.

Maar dat is niet het echte verschil! Wij hebben een lichaam en dat hebben computers niet. Computers doen alles virtueel. Je zou eventueel ons lichaam kunnen nabootsen is en computer, maar dan blijft het toch virtueel. Een eigen lichaam biedt echt een andere ervaring dan een onpersoonlijk virtueel lichaam. Denk maar aan je ervaring om buiten te wandelen in het bos of in een winters landschap.

Bovendien is er het verschil dat een computer geen nieuwe dingen kan verzinnen. Alle deep learning- en andere technieken zijn een knappe vorm van interpolatie (curve fitting) tussen gegeven punten in een onvoorstelbaar grote ruimte. In zijn eenvoudigste vorm heb je een paar punten van een onbekende kromme; door interpolatie kun je dan op verschillende manier de tussenliggende punten van de kromme zo goed mogelijk reconstrueren. Het bijzondere van de huidige AI is dat je met de huidige computers dat kunt uitbreiden tot allerlei soorten gegevens, niet alleen punten in een 2-dimensionaal vlak. En dat je in het geval van de go-computer, die zichzelf go heeft leren spelen, zoveel punten weet te vinden dat de interpolatie vrijwel feilloos is – bovenmenselijk – maar de berekening daarvan is door mensen bedacht! Computers doen alleen dingen, maar verzinnen ze niet.

We moeten computers geen creatieve menselijke gaven gaan toeschrijven, want dat klopt niet. Ze kunnen verbazingwekkend kunstjes ten toon spreiden, maar creatief zullen ze (waarschijnlijk) nooit worden. Creativiteit, nieuwe dingen verzinnen gaat gepaard met het nemen van risico’s en dat vereist een lichaam, anders kun je hele rare, onwenselijke dingen verwachten die niet passen in onze mensenwereld. Computers werken virtueel, en kunnen geen verantwoordelijkheid nemen – dat kunnen alleen mensen met een lichaam. Een lichaam dat merkt wanneer je een verkeerd risico hebt genomen en je daardoor dwingt om een beter passende mogelijkheid te verzinnen.

Daarom worden computers niet superintelligent. Ze kunnen goed-gedefinieerde problemen beter oplossen dan mensen, maar ik denk dat menselijke intelligentie toch iets anders is. Volgens Van Dale betekent ‘intelligentie’ een hoog verstandelijk vermogen – dat vereist begrip van de mensenwereld. Computers hebben een enorm rekenkundig vermogen, en dat is heel nuttig maar toch wezenlijk iets anders dan verstand, dat kun je (waarschijnlijk) niet simuleren met een computer.

Hein van Steenis (23 januari 2018)   Zie verder mijn blog op www.vsteenis.nl