AlphaGo, The Movie - Waarom ik ga kijken.

Op 23 april 2018 wordt in Cinéma Sphinx in Gent, als afsluiter van een reeks robot-films,  de documentaire "alphago" getoond. Alles in een bijzonder fijne samenwerking met IDLab van Ugent, GentM en het Gentse Go Genootschap. Om jullie over de streep te trekken om af te komen beloof ik bij deze plechtig om nooit meer - ook de avond zelf niet (dat wordt tong afbijten) - onderstaande riedel af te steken. De hoe en waarom van mijn passie in het samenvallende brandpunt van hobby (GO) en interesse (AI).

Lees het misschien toch eens. Maar vooral: keihard gaan kijken!

Dit is bijna net helemaal niet de kortst mogelijke versie geworden van mijn gedachten hierover. Wie enkel op zoek is naar voldoende context en goesting voor de film zelf kan beter de teaser opvissen op de pagina voor de aankondiging en tickets. Of scroll door naar de trailer een beetje verderop.
Er zijn trouwens ten overvloede wat nerderige details in dit verhaal. Die zijn natuurlijk onderwerp van uw spontane reflex: zijnde overslaan (de ene) of betweterig verbeteren (de andere). Voor het gemak van beide groepen staan ze achteraan als voetnoten verzameld.

Wat verwacht je van de documentaire.

Veel.  Spanning al zeker. Uiteraard het soort voorspelbare spanning van historische films als ‘Pompeii’ en ‘Dunkirk’: Je hoeft je niet echt af te vragen hoe het afloopt. Toch vermoed ik dat de toevoeging van menselijke emotie, persoonlijke verhaallijnen, tussenliggende overtuigingen, misvattingen, doorbraken, falingen, gemiste deadlines, en een goede klankband ook hier de onwaarschijnlijkheid van het behaalde doel in de verf zetten.

Dus ook te verwachten: dat vleugje ‘the underdog wins’ van de klassieke sportfilm. Afgezet tegen het menselijk drama: Lee Sedol, strijder voor de eer van de mensheid, de gedoodverfde winnaar en zijn gedwongen transitie naar sportieve verliezer. Geserveerd op een bedje van eindeloos respect en etalage van zijn lef, inzet, toptalent en kunnen. In dezelfde sfeer ook rolt de aftiteling straks vast over een opgebouwde piek aan optimisme heen: jubelend om wat we als mensheid kunnen bereiken. Ik weet even niet of ik het wel droog hou.

Voor mij en vele anderen zit er ongetwijfeld ook het plezier van herinnering en herbeleving van vijf keer heel vroeg opstaan in maart 2016 om de spelletjes live te volgen.  De verbazing van toen nu kunnen aanvullen met details uit een blik achter de schermen. Lekker.

Content als een spinnend katje opgerold bij de kachel. Popelend als een jonge merrie, de rug rollend in het lentefrisse gras. [*]

Wat er aan vooraf ging. 

Computerspelletjes (of computer-varianten van echte spelletjes) zijn gedroomde speeltuinen om Kunstmatige Intelligentie (kortweg AI) te kweken en te testen. De redenering vertrekt van intelligentie bekijken als het potentieel om te overleven in een wereld vol ondoorgrondelijke uitdagingen. We vinden onszelf als mens namelijk nogal wat op dat punt: We hebben toch maar mooi onze weg gevonden in een wereld waarvan de regels niet netjes vooraf in de bijsluiter zijn meegeleverd (fundamentele fysica om maar iets te noemen); we hebben als uitbreiding van de ons ingebakken overlevingsstrategie een aanzienlijk corpus aan kennis opgebouwd; we geven dat aan elkaar door terwijl we er blijven aan sleutelen.  In die visie zijn spelletjes vooral kunstmatige (vereenvoudigde) werelden waarvan we de complexiteit kunnen bepalen via de regels die er gelden. De mate van bereikte intelligentie (ie dus potentieel om te overleven) valt er ook gemakkelijk af te lezen aan de behaalde score, winst of verlies.  Voor onderzoekers dus een dubbele bonus: schaalbare complexiteit van simpel naar altijd maar reëler, én een ingebakken score waarmee je succes meet. Het zou best kunnen dat spelletjes daarom ook nuttig en populair zijn in de opvoeding van onze mensenkinderen.

Redelijk snel slaagden automaten erin de eenvoudiger prooien uit de speeldoos (boter-kaas-eieren en dammen) naar hun hand te zetten. Daar lag niemand echt wakker van. Boeiend werd het toen het spelletje in kwestie voor de mens zelf een uitdaging vormt. Toen in 1997 de IBM computer "Deep Blue" in New York (na de in 1996 mislukte eerste poging in Philadelphia) won van de toen heersende kampioen en schaaklegende Kasparov was dat niet minder dan wereldnieuws.

Op die dag was er gelukkig nog “Het Chinese bordspel Go” als geruststellend onbereikbaar eiland: "Dáár zijn de mensen wél nog veel beter in"; voor de onderzoekers werd het meteen de volgende te halen scalp aan de riem.

Vanwaar die magie van Go?

Go is niet alleen duizenden jaren oud, het is in een groot deel van de aziatische wereld ook vandaag ontzettend populair.  Het wordt makkelijk vergeleken met schaken (van bij ons).  Zoals het een goede vergelijking betaamt loopt die op veel punten mank. De culturele impact en positie van het spel is ginderachter vele keren groter dan wat wij, westerlingen, vermoeden op basis van het eigen schouderophalen bij de exotische buur of kennis die zijn kinderen wél naar de schaakclub stuurt.  Die stevige culturele bodem komt trouwens mee aan tafel met een flinke stempel aan etiquette-regels die rond het spel leven.

Alphago Movie Still - courtesy Google DeepMind and Roco Films Educational

Wie zoekt naar kunstmatige strategieën om dit varkentje te wassen ontdekt snel de andere mankementen in de vergelijking.  De complexiteit van Go overstijgt die van schaken met vele grootteordes.  Dat getalsmatig uitdrukken gebeurt vaak via het tellen van het totaal aantal mogelijkheden: Van Go wordt gezegd dat het spel meer mogelijke spelsituaties kent dan er atomen zijn in het universum. [1]
Maar daar begint het probleem pas. Niet alleen zijn er véél spelsituaties te overwegen, de inschatting van elk ervan "Is dit gunstig voor mij of voor de tegenstander?", is steeds onzeker.  Bizar als je het vergelijkt met schaken, want het eindresultaat in Go is absoluut duidelijker: winst of verlies zijn de enige opties; aan pyrrusoverwinningen als remise en pat doen ze niet mee. Maar alle situaties vóór 'the end game' zijn niet in een eenduidige getalwaarde te vatten.  En dat maakt het een onmogelijke zoektocht: Waar is het verborgen pad van zet en tegenzet dat je kan leiden van waar je nu bent, naar de situatie waar je wilt eindigen: winst! [2]

Je voelt zo de paradox: de go spelregels zijn eenvoudig en elegant.  Uitgelegd in de tijd nodig om alleen al de verschillende schaakstukken te herkennen. Precies die bedrieglijke eenvoud schept een virtuele wereld waarin ontzettend veel meer mogelijk is; waar meer afgeleide kennis te ontdekken is; waar de schat aan overgeleverde speel-strategieën onbewezen, dus aanvechtbaar blijven; waar nuance en balans de codewoorden zijn; waar elegantie, eenvoud, en intuïtie regeren; waar besprekingen zijn opgetrokken uit metafoor en poëzie.

Google vs Facebook

De recente geschiedschrijving van ‘de aanvallen op het kraken van Go door automaten” geeft uiteraard de grote IT bedrijven hun rol.  Zo was er begin 2016 de beloftevolle aankondiging van Facebook. Hun inzicht was om de opgedane kennis van gezichtsherkenning in te zetten om de structuren en patronen voor winst en verlies te herkennen.  Niemand wist dat ondertussen een klein bedrijfje uit Londen, slim opgekocht door Google, reeds een veel belangrijker mijlpaal in die wedstrijd had behaald.

DeepMind ging in die periode al over de lippen. Ze toonden behoorlijk indrukwekkende resultaten in een onderzoek naar een AGI.  Die afkorting laat zich lezen als een AI met ambities richting de G van Generiek. Een kunstmatig brein dat inzetbaar is los van het specifieke probleem (de virtuele wereld) waarvoor hij is ontwikkeld. Hun claim to fame: één dergelijk AGI systeem dat, na onbevangen rondlopen in de verschillende werelden van de klassieke Atari games (space invaders, pong, break out, …) zichzelf leert om te overleven in elk ervan, op niet minder dan bovenmenselijk niveau.

Dat ondertussen in november 2015 ook de Europese Go kampioen Fan Hui van een eerste versie van alphago een droge 5-0 aan de broek kreeg gesmeerd bleef onbekend tot hun wetenschappelijke paper erover verscheen begin 2016. Complete verrassing. De meest optimistische AI volgers (ik beken schuld) hadden nog net hun verwachtingshorizon bijgesteld van het gangbare ‘over tien misschien’ naar een hoopvolle ‘vijf’ jaar. De deep-mind-paper maakte die inschatting meteen onnodig conservatief.  Plots stond dit doel binnen het tijdsbestek van één of twee jaar op de agenda.

Zo ruim bleef die inschatting wel; ze werd ook niet bijgesteld na de aankondiging van “The DeepMind Challenge Match”. Hun eerste topwedstrijd met de legendarische Lee Sedol had een duidelijk aura van jeugdige overmoed.  Dat zou volgens zowat iedereen het equivalent worden van de schaakles die Deep Blue in Philadelphia ‘96 kreeg geserveerd.  Die geruststellende gedachte werd mee gedragen door het verschil in ranking tussen Lee Sedol (9p) en Fan Hui (2p): op honderd spelletjes tegen elkaar zal de laatste er statistisch maar eentje winnen. Die onbekende alphago had nog niets bewezen.

We're not in Kansas any more.

Het is anders gelopen. In maart 2016 werd aan de Go wereld een nieuwe grootmeester geopenbaard. Strikt gezien "onbezield", maar steeds geduldig en beschikbaar, én met een schat aan nieuwe voorbeelden en achterliggende strategieën die een belangrijke revolutie in het spel beloven.  Aan de AI wereld werd getoond dat er sinds Deep Blue heel wat is veranderd: toen was de evaluatie eenvoudig: "Rekenkracht" maal "Aantal gecodeerde regels". Na een eerste tegenvaller lag winst in het vooruitzicht door beide factoren op te trekken. De complexiteit van de Go uitdaging heeft echter een andere aanpak afgedwongen, en die resulteert in een radicaal loslaten van strikt gecodeerde regels. De zoektocht nu is naar een elegant brein dat zelf ontdekt en zo evolueert naar een intuïtieve efficiëntie die zelfs belooft met immer minder rekenkracht tot de juiste conclusies te komen.  [3]

---

Nerd Alert: Voetnoten lezen op eigen risico.  Inhoudelijke suggesties en correcties welkom.

[1] Het schatten van het aantal mogelijkheden.

Schaak en Go zijn bordspellen met speelstukken, een spontane reflex is gewoon tellen hoeveel mogelijke spelsituaties (ook wel aantal bord-configuraties) er theoretisch mogelijk zijn.

• Schaak wordt op een 8 x 8 bord gespeeld met 2 x 16 stukken.
  De 32 stukken kun je op de 64 velden plaatsen op een eindig aantal mogelijke combinaties. Een bovengrens daarvan laat zich ietwat naïef berekenen als 64! / 32! ≈ 10⁵⁴
• Go wordt gespeeld op een 19 x 19 bord met zoveel stenen als er in de loop van het spel blijken nodig te zijn. (men speelt overigens op de kruisingen, niet op de velden)
  De berekening van het aantal mogelijke configuraties gaat er dan van uit dat elk van de 361 kruispunten in 3 mogelijke toestanden kan staan: wit-zwart-leeg. De schatting voor Go wordt dan 3³⁶¹ ≈ 10¹⁷², het getal dat de onderbouw levert voor de uitspraak “meer dan het aantal atomen in het universum (≈ 10⁸²)”

Bovenstaande berekeningen dienen slechts als bovengrens en eerste raming.  Ze worden meestal snel gecorrigeerd via ontdekte symmetrie en herhaling: als je bv. begrip kleur uitschakelt door zwart of wit te zien als mij vs. opponent kun je dat aantal borden al delen door 2 (wat goed is voor de één is vanzelf slecht voor de ander). Idem met links-rechts, boven-onder. (Die laatste bij schaken niet 100%). Verder zijn er terugkerende stukken: 8 pionnen, 2 paarden, 2 torens, … dat op zich zorgt voor permutaties van identieke bord-configuraties, die kunnen geschrapt worden. Tenslotte zijn er regels of afgeleide inzichten die bepaalde configuraties uitsluiten: in schaak kunnen de pionnen niet op de eigen achterste lijn uitkomen en staan de lopers altijd op een tegengesteld kleur; in Go worden gevangenen van het bord verwijderd, etc. etc.

Daarna wordt, op zoek naar meer optimisme, verder gereduceerd.  Aangezien niet elke bord-configuratie logischerwijs bereikbaar is vanuit de huidige spelsituatie is het niet nodig om in je volgende beslissing ook alle mogelijkheden te overwegen.

• Schaak heeft een hele resem specifieke stukken, met hun eigen gedragsregels en een behoorlijk (in de start zeker) druk bezet bord. Die drukte en regels werken beperkend. Er wordt aangenomen dat er per beurt doorgaans maar een twintigtal geldige zetten te overwegen zijn.
  Bij die overweging dien je natuurlijk vooruit te kijken: er zal een tegenzet komen en verdere reactie op reactie tot het spel eindigt. Alleen bewegen de stukken voortdurend. Dat maakt dat de invloed van de ingenomen positie niet noodzakelijk heel lang blijft duren. Er wordt aangenomen dat het volstaat om 16 zetten vooruit te denken om de impact van je zet te overwegen.
  Dit laat toe te schatten dat je op elk moment eigenlijk vanuit de huidige situatie kunt volstaan met de evaluatie van 20¹⁶ ≈ 10²¹ verschillende situaties.

• Bij Go is bij elke zet elke vrije positie inneembaar; aan het begin bij een leeg bord zijn dat er 361^(*); tegen het eind wordt dat aanzienlijk minder, maar we kunnen aan de slag met een gesteld gemiddelde van 200 mogelijke zetten per beurt.
  ( ^(*)Nee, ik weet het. Ja, dat is totaal onwaar voor de eerste zet, want de eerder genoemde symmetrie ontplooit dan zijn volle kracht en reduceert echte vrijheid tot 55 mogelijke ‘echt verschillende’ zetten, waarvan er in de praktijk maximum 35 echt overwogen worden.)
  
  De stenen bij Go blijven op hun plaats (tenzij ze gevangen genomen worden).  Daardoor, kan het stuk dat in de eerste zet gespeeld wordt zijn effect laten voelen op het einde van het spel.  Als we rekenen dat een spel vlotjes naar de 200 zetten gaat besef je snel dat zo ver vooruitdenken voor niemand haalbaar is.

De analoge berekening toont na deze redenering ook geen reductie: 200²⁰⁰ ≈ 10⁴⁶⁰. Dat zou meer zijn dan het totaal aantal borden. De berekening heeft dus teveel hoeken afgesneden (Naar mijn idee vooral het feit dat er bij elk zet in de regel enkel stenen bij komen en we evolueren naar een steeds voller bord; maar zeker ook het feit dat we de Ko regel nergens in rekening hebben gebracht: tijdens een spelletje Go kan dezelfde spelsituatie zich nl. geen twee keer voordoen).  Maar goed, de conclusie dringt zich op: Hier is geen beginnen aan.

[2] Hoe de waarde (gunstig/ongunstig) van een bord evalueren

Het woord dat in deze context al eens valt is heuristiek: de beschikbare instrumenten, door de mensen ontdekt, om methodisch, meetbaar, voorspelbaar tot het gewenste resultaat te komen.

Die berekenbaarheid, aftelbaarheid of meetbaarheid maakt een ander belangrijk verschil tussen Go en schaak

• In schaak leeft een gangbaar aangenomen waarde-rangschikking van de verschillende stukken. Het rekensommetje Σ (stuk * waarde) is dus snel gemaakt.
  Verder valt door de bewegingsregels van elk van die stukken ook na te tellen hoeveel velden ze controleren, hoeveel bewegingsvrijheid ze zelf nog hebben, … allemaal verschillende aftelbare aspecten die met een slimme gewichtsverdeling tot een zinvolle score per spelsituatie leiden.
• In Go blijven dergelijke redeneringen niet overeind.  Alle stenen zijn identiek en hebben dus een zelfde waarde. Maar gewoon het aantal tellen is jezelf bedriegen: De vorm en positie van de gemaakte omtrekken is belangrijker dan het aantal aanwezige stenen op het bord. Aan die patronen wordt tijdens het spel voortdurend gesleuteld, en de gidsende principes daarbij zijn steevast een afwegen van tegenstrijdige aspecten: speel ik nabij de rand of eerder in het centrum; ga ik de ander knippen of net mezelf verbinden; ga ik voor territorium (zekerheid) of invloed (potentieel); ben ik verspreid overal aanwezig of zoek ik consolidatie, …

Het is lastig om (formeel) uit zoveel nuance een eenduidige getalwaarde te destilleren, het spelverloop zelf (inclusief de keuzes van de tegenstander) zal bepalen welke kant van de afwegingen het meest waardevol is. Zoeken naar ‘balans’ wordt zo een basisattitude om hier te overleven. Maar die is moeilijk van eerlijke twijfel of onbeslistheid te onderscheiden. Elke ingenomen stelling kan op de korrel genomen, en ondoordacht extra verdedigen kan de zaak net kwetsbaarder maken. Kenmerkend voor dit fenomeen van onduidbare waarde-inschatting zijn de poëtische metaforen die voor de beschrijvingen van spelletjes gebruikt worden.  De verklaringen van een kenner voor een gemaakte meesterzet wordt heel vaak: “Het voelde goed”. Porbeer dat als programmeur maar eens in code om te zetten.

[2'] Halverwege laat ik hier vallen dat het concept 'pat' (onebsliste schaakwedstrijd) niet bestaat in Go. Daarmee ga ik gemakshalve voorbij aan de mogelijkheid van de zgn. "Seki": uiterst onduidelijke situaties waar beide spelers geen voordeel halen bij een volgende zet. 

[3] Het “verhaal sinds de overwinning in 2016” schetst bijzonder goed wat er ons nog te wachten staat. We zijn tenslotte al 2 jaar verder.

In de originele versie van alphago was er sprake van een samenwerking tussen twee beslissende organen (twee neurale netwerken). Het zogenaamde ‘policy network’ en het ‘value network’.  De eerste maakt een inschatting van wat gangbaar als volgende zet (of tegenzet) te overwegen valt. Als dit optimaal werkt, is het in staat om het aantal te overwegen spelsituaties aanzienlijk te reduceren.  Daarna kwam het value network aan de beurt om een effectieve waardebepaling te doen van de bereikte situaties, en aan de hand daarvan een optimaal pad te zoeken richting winst. 

Zoals aangegeven zijn de menselijke richtlijnen omtrent de waardebepaling in Go ofwel zinloos ofwel niet formeel uitdrukbaar.  Het value-network werd daarom getraind vanuit het grote niets: alphago kreeg een bord, de steentjes en de opdracht: speel wat tegen jezelf en leer daaruit wat werkt en wat niet. Dit echter niet zonder eerst het ‘policy network’ te trainen. Hiervoor werd dit deelsysteem gevoed met een grote set (honderdduizend) historische spelletjes, door mensen ooit gespeeld. Na die training ‘weet’ het systeem dus nog niet wat een goede zet is, maar heeft het voldoende leren afkijken om alvast te weten wat de meest gebruikelijke tegenzetten zijn.  Daarmee wordt de door zichzelf gespeelde leerset voor het value-network (één miljoen spelletjes groot) meteen meer 'zinvol' dan pure random pogingen.

In de zomer van 2017 kwam ‘alphagozero’ op de proppen. In de ‘zero’ variant betekent ‘zonder de suiker’ gewoon dit: we hebben het policy network, en daarmee ook de afhankelijkheid van door mensenhanden verzamelde sets om van te leren uit het systeem verwijderd.  Dit nieuwe beest leert alles zelf, helemaal from ‘first principles’ (de spelregels). Het bouwt zelfstandig een begrip van hoe de wereld van Go werkt en hoe je daarin het beste overleeft.

Twee markante opmerkingen bij de gepubliceerde resultaten zijn alvast deze:

• Men vergelijkt de prestaties van deze nieuwe variant niet langer met de prestaties van menselijke spelers (Waarom zouden we? Wie is nu de norm dacht je?) De grafiek toont enkel na hoeveel dagen training het niveau van de vorige versies werd overschreden.  Menselijke namen verschijnen daarbij als historische voetnoten: "Je weet wel, dat is het niveau van die versie die won van Fan Hui (2015), Lee Sedol(2016), of Ke Jie en 60 go-meesters (2017)".
• De nodige rekenkracht (zowel bij training als bij effectieve uitvoering) is ondertussen teruggebracht tot een fractie van wat nodig was in de eerdere generaties. De meer ontastbare “intuïtie” lijkt het meer en meer te halen van ruwe rekenkracht.

En om de schakers op het einde van dit verhaal helemaal op te beuren. In najaar 2017 was er ook de variant ‘alphazero’.  In deze nieuwe spelling is de ‘GO’ uit de naam geknipt omdat men hier de go-regels eruit en de schaak-regels erin kan pluggen.  Na vier uur trainen in schaak-land werd de maat genomen van StockFish, de heersende norm onder de schaak-computers, een AI klassieke stijl, tjokvol heuristische regels, waardebepalingen, geautomatiseerd oud menselijk inzicht. Sindsdien worden de youtube-schaak-kanalen bevolkt met analyses van de jammerlijk verloren partijen: daar kunnen we namelijk weerom écht iets van leren, want menselijke oude inzichten zijn geen onderdeel van zijn bias.

[*] Laat ons eerlijk zijn: Met +100 nerds samen in een donkere kamer… én een spelletje Go achteraf!

Gesmede Goden, en hun superieur (mechanisch) denken

Seoul, 12 maart 2016. Net afgelopen:  Alphago wint ook het derde spelletje van Lee Se-dol.  Mr. Lee is "één van ons soort", zijn tegenspeler een in elkaar gesmeed brein pur sang, beperkt en hulpeloos in veel opzichten, maar schrikbarend sterk in dit ene spelletje.

Alphago is gemaakt door andere mensen.  Geen enkele ervan maakt een kans tegen Se-dol.  Ze hebben hun afgezant slechts als basis de spelregels ingebakken, maar het vooral zó gevormd dat het zelfstandig kan spelen, en daarbij leren van zijn eigen en andermans fouten.  En dat heeft het gedaan. Met resultaat.

Stof voor nieuwe dromen.

"Deep learning" is de verzamelnaam die ze geven aan deze nieuwe golf "Artificiële Intelligentie". AI, is het onderzoeksdomein dat zichzelf in gang trok 60 jaar geleden, en zich sindsdien in de verschillende rondes van universitaire subsidiëring wist staande te houden met de belofte dat ze "Hét" de volgende 10 jaar gingen bereiken. 

"Hét" singularity point - het tijdstip in de geschiedenis waar het door machines vertoonde beslissing- en voorspellingsvermogen niet slechts intelligent líjkt, maar aanwijsbaar onze eigen menselijke vermogens voorbijsteekt.

Van dat "deep learning" kwam vorig jaar een eerste voorbeeld in mijn radar: "wordvec".  Het bouwt een systeem dat zichzelf een conceptueel beeld van een geschreven taal aanleert, door niets anders dan: "veel te lezen".  Het beschikt over een ingebouwde leer-structuur dat de aangeleverde tekst gebruikt om bij elk woord in een tekst zo goed mogelijk het volgende en het vorige woord te voorspellen.  Hoe meer teksten het leest, hoe beter het hierin wordt.  Ondertussen verfijnt het een intern beeld opgeroepen door elk individueel woord, zó dat het beeld toelaat om de naburige woorden ook in een "ongeziene tekst" te voorspellen.
Die conceptuele beelden zitten, hoe onpoëtisch(!), vervat in zogenaamde vector van (slechts) een 300-tal getallen.

Hoe sterk die 'mentale' beelden zijn blijkt uit het feit dat je ze kunt vergelijken, en ermee rekenen: Synoniemen - maar ook vervoegingen of zelfs vaak voorkomende tikfouten - geven aanleiding tot sterk op elkaar gelijkende "beeld-vectoren".  Maar helemaal gek wordt het als je de getallen in bewerkingen met elkaar gebruikt en zo tot berekenbare analogieën komt: {Koning} - {Man} + {Vrouw} geeft, jawel, een resultaat dat in een hele nauwe marge ligt van {Koningin}

Dit soort zelflerende systemen brengt concrete nuttige toepassingen en inzichten die de AI wereld van zijn eeuwige tienjarige hoop-horizon bevrijdt. De subsidies worden ingeruild voor gerichte investeringen van slimme ondernemers.  

Zonder in te boeten aan het mij eigen optimisme roept het tal van vragen op:

• Welke andere (naast Alphago en WordVec) voorbeelden zijn in ontwikkeling of klaar, en kennen we nog niet?
• Welke schitterende nieuwe toepassingen zal dat voor ons opleveren, welke problemen gaan we straks als collectief of individu dankzij dit soort ontwikkelingen moeiteloos oplossen?
• Wat droom jij de mensheid toe? Wereldvrede, het honger-probleem opgelost, perfecte energievoorziening en gezondheidszorg of volstaan meer realistische computergames?

Wat als... het fout loopt?

In de sector van de beeldherkenning heeft de "deep learning" gilde de techniek van de "Convolutional Neural Networks" omarmd.  De resultaten ervan ziet elke leek in gebruik voor de toegepaste gezichtsherkenning van je foto-albums bij Facebook en Google Photos.  Ze brengen ook de noodzakelijke onderbouw voor de nakende zelf-rijdende voertuigen op onze wegen.  Nu die er aankomen blijkt hoe prematuur de term "auto" is voor onze huidige generatie mechanisch-maar-manueel-bediende "koetsen".

In hun opbouw blijken deze systemen een behoorlijke replica van hoe ook de eigen hersenen erin slagen zo kost-effectief en snel een coherent beeld te vormen van de werkelijkheid om ons heen. Onverwacht bewijs voor die 'replica'-stelling komt van een boeiende paper die aantoont hoe dergelijke systemen met grote stelligheid tot de verkeerde conclusies komen wanneer ze als te herkennen beeld "random-witte-ruis" aangeboden krijgen.  Het zelf aangeleerd verwachtingspatroon gaat onder invloed van totaal onbetrouwbare input een gedrag vertonen dat het best lijkt op de mensenlijke "confirmation bias".  De analogie met hallucinaties bij "sensory deprivation" is treffend: het bange kind herkent stellig gezichten in de vlekken op het behang!

Als de robots straks zo hard op ons gaan lijken dat ze probleemloos op dezelfde manier bij de neus te nemen zijn en vergelijkbaar falen, hebben we dan de Turing Test niet iets te letterlijk genomen?

We kunnen vast zonder nodeloos bang te worden nog wat vragen stellen:

• Hoeveel  blind vertrouwen mogen we in onze wilde dromen stellen?
• Hoe afhankelijk willen we worden van deze nieuwe soort? Kunnen ze niet alleen met onze wagens rijden, maar ook de kerncentrales aansturen of zelfs de vredesonderhandelingen leiden?
• Wie wordt er straks aansprakelijk gesteld voor aan automaten toewijsbaar falen?
• Of zien we AI terecht als een efficiënt samenbrengen van menselijk vermogens die ons ontegensprekelijk verheffen als soort?  Het equivalent aan de kant van de risico-spreiding is dan gewoon een kwestie van "verzekering".

Rechten en plichten van de nieuwkomers.

Kijk als rustpuntje in de tekst dit even uit "Humans need not apply" - Een schets van de economische aspecten vooral.

Als je hierdoor plots helemaal in het kamp van de doemdenkers zit, gun jezelf dan het tegengif  van "Turing's Tango" (boek van Bennie Mols).  Het schetst hoe deze ontwikkeling niet te zien als een "zero-sum-game",  maar als een boeiende bron van win-win situaties.

Ook de wedstrijd-commentator zag het meteen.  Alphago, als sterkste leermeester ter wereld, onvermoeibaar en geduldig beschikbaar achter een knopje, om ons voor te tonen op welke creatieve manier een bijzonder complexe spelsituatie te benaderen.  De nieuwe grootmeester die het spel een nieuwe revolutie aan zinvolle strategiën kan opleveren.

In deze context haalt men graag het moderne "disruptie" modewoord aan.  Zelf vind ik dat woord een verklikker geworden van zij die het hanteren: Het totaal onheilzaam mantra van de verraste medemens die gewoon te lang de blik van de werkelijkheid heeft afgewend.

Het antwoord zoeken op nog wat vragen, behoed ons misschien van de noodzaak om met z'n allen achter de term te gaan schuilen:

• Is er in het zog van deze nieuwe ontwikkelings-revolutie in onze geschiedenis een te verwachten nieuwe economische sector die zich spontaan gaat aandienen? (zoals de tertiaire sector er plots was om de werkloosheid uit de primaire op te vangen na de industriële revolutie?)
• Of hebben we een zinvol ander plan voor een collectief aan niet nuttige individuen?  Volstaat het hen vredevol over te laten aan gratis drugs en videogames?
• Hoe financieren we de sociale zekerheid en pensioenen als de huidige belasting op arbeid dan ook wegvalt?
• Kunnen we de door automaten gecreëerde waarde herverdelen naar de nieuwe werklozen? Even eerlijk dan hoe we het deden tussen arbeiders en machine-eigenaars?
• Wordt een discussie over beperking van werklozenuitkering in de tijd niet helemaal achterhaald?
• Willen bigdata-bedrijven straks gewoon consumenten betalen voor hun opmeetbaar consumentengedrag? Minus nog wat privacy?
• Creëren we zo een menselijke soort die de facto niet te onderscheiden is van huisdieren, door de nieuwe robots onderhouden?
• Of loopt de enige weg naar een nieuw evenwicht nu net over vooral niet controleren en de disruptie genadeloos laten razen?

Het zelfbeeld verruimen?

Ik weet niet waar Edsger Wybe Dijsktra precies op aanstuurde met zijn stelling dat 

"The question of whether Machines Can Think... is about as relevant as the question whether Submarines Can Swim"

Maar dit is wat ik er uithaal op taalkundig niveau: 'Denken' en 'zwemmen' zijn termen die we eerzuchtig voor onszelf (of toch minstens levende wezens) voorbehouden.  Een arbitraire scheidingslijn die ons op ons voetstukje houdt.  Zodra de machines betere nuttige resultaten van die activiteiten voorleggen, gaan we snel op zoek naar een "onbezielde" variant van het woord 'rekenen', 'duiken'.  Doen we daar meer mee dan onszelf wat sussen?

De film "the imitation game" had een bijzonder sterke scene hierover.  Smaken, voorkeuren en competenties verschillen, en er is weinig andere verklaring voor dan "andere breinen werken anders". En van andere mensen nemen we dat aan.  Niet zo met het 'anders' denken van technologie.  Ongeacht hun nuttigheid, hulpvaardigheid of onnavolgbare kwaliteit: er is geen ruimte voor hen in "onze club".

We hebben toch controle genoeg over die nieuwkomers om zelf de spelregels te bepalen? Maar is dat zo? En zelfs als het zo is, controleren we voldoende de controleurs?  In vele opzichten blijft de dreiging richting uitbuiting en oneerlijkheid vooral uitgaan van onze medemens.  En die heeft er niet bepaald een nobele staat van dienst op zitten.

Wie vertrouwd is met de "drie wetten van de robotica" van Azimov kan mij misschien ook uitleggen waarom we niet eenzelfde soort gedragsregels weten op te leggen voor onszelf als soort?  De eerste wet zou geweld verbannen tot de zichzelf negerende noodzaak: "enkel om erger geweld tegen te gaan".  De tweede en derde brengen misschien een betere balans tussen individueel recht en respect voor collectieve noden? 

Als we ervan uitgaan dat die computers niet alleen hun intelligentie maar straks ook sociaal gedrag en ethiek van ons leren of erven, dan is het misschien nog niet te laat om een beter leidend voorbeeld neer te leggen? 

Volgende vragen lijken me dan ook vooral nuttig om wat zelfreflectie te sturen:

• Wanneer moeten we robots mensachtige rechten geven?
• En voldoen alle mensen, of net ook andere soorten wel aan die voorwaarden?
• Verdient een robot-doctor die een honderdvoud efficiënter en nauwkeuriger diagnoses stelt stemrecht?  Moeten we niet minstens sowieso de helft van onze faalbare volksvertegenwoordigers door meer nuchtere, geduldige, pretentieloze bots vervangen? Krijgen we zo een meer evenwichtige democratie?

De vraag is of we de vraag begrijpen.

In zijn boek "Sapiens" laat Yuval Noah Harari optekenen [dat] 

"Wij zelf een nieuw soort goden zijn. Maar helaas mateloos verwend, en bangelijk onwetend over waar we naartoe gaan."

Alphago schetst dat we nu ook onze eigen goden bij elkaar kunnen smeden. Goden die de aanblik van wereld drastisch kunnen veranderen. Bangelijk?
"Optimist tot in de kist" lijkt me een fijne basishouding, op voorwaarde dat we ons niet laten kisten.  

Wat we nu zien is in wezen een overwinning van de menselijke geest op zichzelf.  Zonder meer vooruitgang.  Maar best straks wel even nakijken of we er ook met z'n allen op vooruitgaan?

• Weten we wat we willen?  
• Kunnen we het collectief gebouwde brein gebruiken en vertrouwen om dat te bereiken? 
• Wat zijn de volgende stappen? Wie bepaalt welke wel en niet worden genomen?
• Wat wil je zelf nog meemaken?
• Ben je zelf pessimistisch? Zijn er ook voor de optimisten drempels en checks die ons oproepen om bij te sturen of zelfs stekkers uit te trekken?
• Wat is het "Singularity Point" voor jou?  Wanneer hebben we het bereikt? Wanneer zijn we er tevreden mee?
• Wat moeten we onze kinderen leren over hoe het er straks aan toe gaat? Wat gaan zijn ons leren?

In het beste geval brengt dit alles ons wat dichter bij het verlaten van een navelstaarderige benadering van onze samenleving op ons "blauwe stipje in het heelal".  Carl Sagan noemde dat "the cosmic perspective".

Het probleem is duidelijk niet een tekort aan nieuwe ideeën, die blijven we spontaan en vlotjes produceren.  De traagheid waarmee we van de slechte en oude ideeën af geraken is onze echte achillespees.