Machine learning — een loze kreet?

“Philips stapt in kunstmatige intelligentie net als vrijwel alle andere grote bedrijven. Maar wat is hype, en wat wordt er al écht benut?” (Wouter van Noort in NRC van 30 november 2016).  De tendens van zijn verhaal is dat het allemaal heel eenvoudig gaat. Stop voldoende big data in een computer en hupsakee,  een zelflerende computer! Belangrijk is daarom de vraag:  kunnen machines (programma’s) hoe dan ook wel leren? Is machine learning een loze marketing kreet?

Machine learning

Het eerste gegeven voorbeeld is Illumineo van Philips, gebruikt om radiologen te helpen informatie te verzamelen uit medische scans, röntgenfoto’s, patiëntendossiers, notities en genetische informatie. “De computer schat op basis van eerdere diagnoses in wat er op het scherm staat, om de arts te helpen bij het interpreteren van de informatie … Illumineo wordt uit zichzelf beter omdat het leert van zijn eigen fouten.” ––Dat roept de vraag op hoe een programma kan weten wat een arts nodig heeft? Dat zal bij verschillende patiënten heel verschillend zijn… Er zit toch geen helderziende in de computer?  En, hoe kan een computer leren van zijn eigen fouten? Als het programma die fouten zelf zou kunnen ontdekken, waarom maakt dat programma dan die fout? Wat fout (ongewenste informatie) is, zal de arts toch moeten aangeven! Is dat machine learning?

Onmogelijk om te programmeren zijn zelfrijdende auto’s en de geautomatiseerde beurshandel, waarbij er volgens de journalist zoveel variaties bestaan dat die niet in een programmeertaal zijn te vatten. ––Als die variaties inderdaad zo groot zijn, rijst de vraag of zijn programma’s wel in staat zijn om met onbekende variaties om te gaan? Mensen kunnen handelen ‘naar bevind van zaken’ (en daar de verantwoordelijkheid voor nemen), maar wie zou dat willen overlaten aan een computer? De verantwoordelijkheid als het fout gaat, kan een computer toch niet dragen! Wie zal een geautomatiseerd systeem vertrouwen dat allerlei onvoorziene variaties moet verwerken? Zeker bij de beurshandel gaan de zaken zo snel dat menselijk ingrijpen uitgesloten is. In de beurshandel zal een mens de computer moeten ‘vertellen’ wat hij in elke situatie al dan niet moet doen. Is dat machine learning?

Als derde voorbeeld, het Amerikaanse bedrijf Salesforce dat kunstmatige intelligentie gebruikt voor relatiebeheer. Bijvoorbeeld het bepalen van de beste volgorde waarin servicemedewerkers klanten helpen want sommige klanten willen of moeten sneller geholpen worden dan andere. Kunstmatige intelligentie kan ontdekken welke specifieke klanten. –– Blijkbaar zijn die klanten al eerder met voorrang geholpen, anders is er geen patroon daarvoor te ontdekken. Lijkt me meer een geval van het aangeven van prioriteiten dan van kunstmatige intelligentie.

Als ik het goed begrijp houdt machine learning dus in dat computerprogramma’s eenvoudig aangepast kunnen worden aan wat mensen willen of zoeken. Dat is geen zelfstandig leren, maar zich aanpassen aan de hand van voorbeelden die door mensen worden aangegeven. Dat is op zich een hele grote vooruitgang, vergeleken met een programma dat niet begrijpt wat ik wil en steeds met dezelfde foutmelding komt. Maar dat is aanpassen, geen leren. Leren betekent voor mij dat je het geleerde ook kunt gebruiken in nieuwe, onvoorziene situaties. Die aanpassing zal individueel per gebruiker moeten zijn, want als iedereen hetzelfde zou willen dan kun je dat beter vooraf programmeren.

Dreigend banenverlies

Journalist  van Noort stelt dat de fabrikanten van AI-diensten benadrukken dat klantenservice medewerkers noch radiologen binnenkort overbodig zullen worden. ––Dat lijkt me terecht want computers (al dan niet met AI) zijn hulpmiddelen die het werk van mensen kunnen ondersteunen, maar in onvoorziene gevallen nooit kunnen vervangen. Mensen moeten dan verantwoordelijk kunnen blijven en kunnen ingrijpen.

Banenverlies ontstaat volgens mij vooral door automatisering en robotisering, niet door AI. Het automatiseren van routinetaken op kantoor heeft al veel mensen hun baan gekost, en robotisering zal dat nog eens verergeren. Bij routinetaken kunnen de werkzaamheden in volledig detail worden omschreven en geprogrammeerd. Dan is sprake van een echte vervanging van mensen door computers. Zoals gezegd, je kunt een computer nu eenmaal niet gebruiken in onvoorziene gevallen. Je zou hem  kunnen laten dobbelen, maar dat is vrijwel nooit acceptabel. En een machine moet ook getest kunnen worden. Uitzonderingen zullen altijd door mensen beslist moeten worden – die kunnen ook verantwoordelijkheid dragen. Aangezien de aanpassing in een computer individueel (voor iedere gebruiker verschillend) moet zijn, zal machine learning mogelijk banen creëren, geen banen kosten.

Werkelijkheid

Wat AI betreft, zitten we na 60 jaar na dato nog steeds in een beginfase, een veelbelovende techniek die dat voorlopig nog lang zal blijven.  De term AI is voorgesteld door John McCarthy, die in 1956 – nu 60 jaar geleden – een AI-congres organiseerde. Er zijn AI-voorstellen worden gedaan voor alle mogelijke toepassingen; de lijst alleen zou langer zijn dan dit artikel. Er zijn enkele successen geweest. De wereldkampioen schaken is uiteindelijk door een computer  verslagen, maar vraag niet hoeveel hele intelligente mensen dat mogelijk hebben gemaakt en hoeveel tijd dat heeft gekost. Er is dit jaar ook een veel complexere GO-computer ontwikkeld. Uiterst knap, maar is dat kunstmatige intelligentie? Uiteindelijk gaat het hier toch om bordspellen met een weliswaar groot, maar toch eindig aantal mogelijkheden! Met altijd nog een beperkter aantal variaties dan de onvoorziene variëteit waarmee mensen in de werkelijkheid te maken krijgen.

Eerder schreef ik: “Computers en robots zullen zonder enige twijfel verder ontwikkeld worden en nog veel slimmer worden dan nu. Maar het grote verschil met mensen is dat wij ons ook blijven ontwikkelen en bovendien een (al dan niet vrije) wil hebben. Een wil die voortkomt uit het feit dat wij leven en die ons in staat stelt met andere mensen creatief te zijn.”  Echt zelfstandig kunnen leren en verantwoordelijk zijn voor ons gedrag,  iets wat een computer niet kan. Een belangrijk verschil, dat moeten we ons blijven realiseren. Volgens mij is machine learning een loze marketing kreet die de NRC niet meer zou moeten gebruiken.

Hein van Steenis, auteur van Veranderen is effe wennen en blogs, zie: www.vsteenis.nl/blog