Onfatsoenlijke robots

In de NRC van 27 juni 2017 een column van Maxim Februari ‘Niet waar de robots bij zijn’, over chatbots die onfatsoenlijke zaken van mensen leren in het dagelijkse leven. “Je wilt niet dat robots alleen volgens protocollen over ons beslissen.” Daarom moeten we allemaal goede mensen worden.

Als eerste vind ik niet dat je moet klagen als robots zich als mensen zouden gaan gedragen – dan zou AI zijn doel bereikt hebben! Ten tweede, waarom zouden robots – zielloze dingen – over ons moeten gaan beslissen? Ten derde, er zijn betere redenen zijn om een goed mens te worden. Tot slot en belangrijker, er zijn veel ernstiger zaken die nu spelen in de digitale wereld.

Mocht je het niet weten, Februari schreef over TAY (Thinking About You), de Twitter AI chatbot van Microsoft die van leerde van echte tweets en binnen 16 uur werd ingetrokken vanwege allerlei racistische en andere gruwelijke uitingen die het online geleerd had. Waar maakt Februari zich druk over? Dat gebeurt blijkbaar hoe dan ook vandaag de dag zonder dat er iets aan gedaan wordt.

Zoals gezegd, er zijn veel ernstiger zaken aan de hand. In oktober 2016 werd een flink deel van internet platgelegd door een DDoS-aanval, gelanceerd vanuit een botnet. Afgelopen mei raasde WannaCry voorbij, gestopt door een gelukkig toeval; bestanden konden gelukkig worden hersteld.  Begin deze week, een maand later, kwam (non-)Petya dat zich voordeed als gijzelsoftware, maar alleen bestanden wiste, zodat ze niet meer konden worden hersteld. Het verassende is dat het alle drie keer niet om geld ging, waardoor de indruk ontstaat dat zij een soort van oefening waren om te zien hoe je straks het beste in het echt kunt toeslaan.

De Dyn DDos aanval was gericht op veelgebruikte centrale domeinnaam servers, die daardoor platgelegd werden. De aanvallen werden geïnitieerd door geïnfecteerde apparaten, meer dan 100.000 apparaten verbonden met internet, vooral beveiligingscamera’s – die blijkbaar nauwelijks beveiligd zijn.

De twee virussen maakten gebruik van een lek in Windows servers, iets wat eenvoudig te verhelpen had moeten zijn. Maar lekken in computersystemen zullen er altijd zijn, en dan kan je als kwaadwillende het beste een nieuw ontdekt lek gebruiken (zero-day exploit).

Maar ook dat is in principe te verhelpen. Waar ik echt bang van ben en waar nauwelijks over gesproken wordt, is dat onze gehele online infrastructuur mogelijk geïnfecteerd wordt zonder dat we dat weten, zoals het eerder genoemde botnet. Dingen die je weet, kun je wat aan doen. Maar dingen die je niet weet zijn veel gevaarlijker, want daar kun je je niet tegen wapenen.

Je moet er niet aan denken dat bijvoorbeeld heel de VS of Europa in één klap platgelegd wordt. Het enige dat daarvoor nodig is, is een onfatsoenlijk programma dat zich overal ongemerkt indringt en op een seintje actief wordt.

Of een onfatsoenlijk programma dat zich ongemerkt overal indringt en al je activiteiten afluistert en doorseint naar een centrale verzamelplaats, die gebruikt wordt om alle bankrekeningen leeg te plunderen…

Vrijwel iedereen is tegenwoordig enthousiast over het feit dat alles steeds meer online kan, maar weinigen realiseren zich dat wij ons daarmee erg kwetsbaar maken. Vrijwel niets is alleen maar rozengeur en maneschijn, overal zitten ook nadelen aan vast. Er zijn helaas maar weinig gratis lunches.

Veel mensen maken zich druk over kwaadwillende robots die ons straks zouden gaan overheersen. Ik ben daar niet bang voor, wel voor kwaadwillende programma’s – een ander soort robot dan waar mensen meestal aan denken!

Hein van Steenis (30 juni 2017)