Gesmede Goden, en hun superieur (mechanisch) denken

Seoul, 12 maart 2016. Net afgelopen:  Alphago wint ook het derde spelletje van Lee Se-dol.  Mr. Lee is "één van ons soort", zijn tegenspeler een in elkaar gesmeed brein pur sang, beperkt en hulpeloos in veel opzichten, maar schrikbarend sterk in dit ene spelletje.

Alphago is gemaakt door andere mensen.  Geen enkele ervan maakt een kans tegen Se-dol.  Ze hebben hun afgezant slechts als basis de spelregels ingebakken, maar het vooral zó gevormd dat het zelfstandig kan spelen, en daarbij leren van zijn eigen en andermans fouten.  En dat heeft het gedaan. Met resultaat.

Stof voor nieuwe dromen.

"Deep learning" is de verzamelnaam die ze geven aan deze nieuwe golf "Artificiële Intelligentie". AI, is het onderzoeksdomein dat zichzelf in gang trok 60 jaar geleden, en zich sindsdien in de verschillende rondes van universitaire subsidiëring wist staande te houden met de belofte dat ze "Hét" de volgende 10 jaar gingen bereiken. 

"Hét" singularity point - het tijdstip in de geschiedenis waar het door machines vertoonde beslissing- en voorspellingsvermogen niet slechts intelligent líjkt, maar aanwijsbaar onze eigen menselijke vermogens voorbijsteekt.

Van dat "deep learning" kwam vorig jaar een eerste voorbeeld in mijn radar: "wordvec".  Het bouwt een systeem dat zichzelf een conceptueel beeld van een geschreven taal aanleert, door niets anders dan: "veel te lezen".  Het beschikt over een ingebouwde leer-structuur dat de aangeleverde tekst gebruikt om bij elk woord in een tekst zo goed mogelijk het volgende en het vorige woord te voorspellen.  Hoe meer teksten het leest, hoe beter het hierin wordt.  Ondertussen verfijnt het een intern beeld opgeroepen door elk individueel woord, zó dat het beeld toelaat om de naburige woorden ook in een "ongeziene tekst" te voorspellen.
Die conceptuele beelden zitten, hoe onpoëtisch(!), vervat in zogenaamde vector van (slechts) een 300-tal getallen.

Hoe sterk die 'mentale' beelden zijn blijkt uit het feit dat je ze kunt vergelijken, en ermee rekenen: Synoniemen - maar ook vervoegingen of zelfs vaak voorkomende tikfouten - geven aanleiding tot sterk op elkaar gelijkende "beeld-vectoren".  Maar helemaal gek wordt het als je de getallen in bewerkingen met elkaar gebruikt en zo tot berekenbare analogieën komt: {Koning} - {Man} + {Vrouw} geeft, jawel, een resultaat dat in een hele nauwe marge ligt van {Koningin}

Dit soort zelflerende systemen brengt concrete nuttige toepassingen en inzichten die de AI wereld van zijn eeuwige tienjarige hoop-horizon bevrijdt. De subsidies worden ingeruild voor gerichte investeringen van slimme ondernemers.  

Zonder in te boeten aan het mij eigen optimisme roept het tal van vragen op:

• Welke andere (naast Alphago en WordVec) voorbeelden zijn in ontwikkeling of klaar, en kennen we nog niet?
• Welke schitterende nieuwe toepassingen zal dat voor ons opleveren, welke problemen gaan we straks als collectief of individu dankzij dit soort ontwikkelingen moeiteloos oplossen?
• Wat droom jij de mensheid toe? Wereldvrede, het honger-probleem opgelost, perfecte energievoorziening en gezondheidszorg of volstaan meer realistische computergames?

Wat als... het fout loopt?

In de sector van de beeldherkenning heeft de "deep learning" gilde de techniek van de "Convolutional Neural Networks" omarmd.  De resultaten ervan ziet elke leek in gebruik voor de toegepaste gezichtsherkenning van je foto-albums bij Facebook en Google Photos.  Ze brengen ook de noodzakelijke onderbouw voor de nakende zelf-rijdende voertuigen op onze wegen.  Nu die er aankomen blijkt hoe prematuur de term "auto" is voor onze huidige generatie mechanisch-maar-manueel-bediende "koetsen".

In hun opbouw blijken deze systemen een behoorlijke replica van hoe ook de eigen hersenen erin slagen zo kost-effectief en snel een coherent beeld te vormen van de werkelijkheid om ons heen. Onverwacht bewijs voor die 'replica'-stelling komt van een boeiende paper die aantoont hoe dergelijke systemen met grote stelligheid tot de verkeerde conclusies komen wanneer ze als te herkennen beeld "random-witte-ruis" aangeboden krijgen.  Het zelf aangeleerd verwachtingspatroon gaat onder invloed van totaal onbetrouwbare input een gedrag vertonen dat het best lijkt op de mensenlijke "confirmation bias".  De analogie met hallucinaties bij "sensory deprivation" is treffend: het bange kind herkent stellig gezichten in de vlekken op het behang!

Als de robots straks zo hard op ons gaan lijken dat ze probleemloos op dezelfde manier bij de neus te nemen zijn en vergelijkbaar falen, hebben we dan de Turing Test niet iets te letterlijk genomen?

We kunnen vast zonder nodeloos bang te worden nog wat vragen stellen:

• Hoeveel  blind vertrouwen mogen we in onze wilde dromen stellen?
• Hoe afhankelijk willen we worden van deze nieuwe soort? Kunnen ze niet alleen met onze wagens rijden, maar ook de kerncentrales aansturen of zelfs de vredesonderhandelingen leiden?
• Wie wordt er straks aansprakelijk gesteld voor aan automaten toewijsbaar falen?
• Of zien we AI terecht als een efficiënt samenbrengen van menselijk vermogens die ons ontegensprekelijk verheffen als soort?  Het equivalent aan de kant van de risico-spreiding is dan gewoon een kwestie van "verzekering".

Rechten en plichten van de nieuwkomers.

Kijk als rustpuntje in de tekst dit even uit "Humans need not apply" - Een schets van de economische aspecten vooral.

Als je hierdoor plots helemaal in het kamp van de doemdenkers zit, gun jezelf dan het tegengif  van "Turing's Tango" (boek van Bennie Mols).  Het schetst hoe deze ontwikkeling niet te zien als een "zero-sum-game",  maar als een boeiende bron van win-win situaties.

Ook de wedstrijd-commentator zag het meteen.  Alphago, als sterkste leermeester ter wereld, onvermoeibaar en geduldig beschikbaar achter een knopje, om ons voor te tonen op welke creatieve manier een bijzonder complexe spelsituatie te benaderen.  De nieuwe grootmeester die het spel een nieuwe revolutie aan zinvolle strategiën kan opleveren.

In deze context haalt men graag het moderne "disruptie" modewoord aan.  Zelf vind ik dat woord een verklikker geworden van zij die het hanteren: Het totaal onheilzaam mantra van de verraste medemens die gewoon te lang de blik van de werkelijkheid heeft afgewend.

Het antwoord zoeken op nog wat vragen, behoed ons misschien van de noodzaak om met z'n allen achter de term te gaan schuilen:

• Is er in het zog van deze nieuwe ontwikkelings-revolutie in onze geschiedenis een te verwachten nieuwe economische sector die zich spontaan gaat aandienen? (zoals de tertiaire sector er plots was om de werkloosheid uit de primaire op te vangen na de industriële revolutie?)
• Of hebben we een zinvol ander plan voor een collectief aan niet nuttige individuen?  Volstaat het hen vredevol over te laten aan gratis drugs en videogames?
• Hoe financieren we de sociale zekerheid en pensioenen als de huidige belasting op arbeid dan ook wegvalt?
• Kunnen we de door automaten gecreëerde waarde herverdelen naar de nieuwe werklozen? Even eerlijk dan hoe we het deden tussen arbeiders en machine-eigenaars?
• Wordt een discussie over beperking van werklozenuitkering in de tijd niet helemaal achterhaald?
• Willen bigdata-bedrijven straks gewoon consumenten betalen voor hun opmeetbaar consumentengedrag? Minus nog wat privacy?
• Creëren we zo een menselijke soort die de facto niet te onderscheiden is van huisdieren, door de nieuwe robots onderhouden?
• Of loopt de enige weg naar een nieuw evenwicht nu net over vooral niet controleren en de disruptie genadeloos laten razen?

Het zelfbeeld verruimen?

Ik weet niet waar Edsger Wybe Dijsktra precies op aanstuurde met zijn stelling dat 

"The question of whether Machines Can Think... is about as relevant as the question whether Submarines Can Swim"

Maar dit is wat ik er uithaal op taalkundig niveau: 'Denken' en 'zwemmen' zijn termen die we eerzuchtig voor onszelf (of toch minstens levende wezens) voorbehouden.  Een arbitraire scheidingslijn die ons op ons voetstukje houdt.  Zodra de machines betere nuttige resultaten van die activiteiten voorleggen, gaan we snel op zoek naar een "onbezielde" variant van het woord 'rekenen', 'duiken'.  Doen we daar meer mee dan onszelf wat sussen?

De film "the imitation game" had een bijzonder sterke scene hierover.  Smaken, voorkeuren en competenties verschillen, en er is weinig andere verklaring voor dan "andere breinen werken anders". En van andere mensen nemen we dat aan.  Niet zo met het 'anders' denken van technologie.  Ongeacht hun nuttigheid, hulpvaardigheid of onnavolgbare kwaliteit: er is geen ruimte voor hen in "onze club".

We hebben toch controle genoeg over die nieuwkomers om zelf de spelregels te bepalen? Maar is dat zo? En zelfs als het zo is, controleren we voldoende de controleurs?  In vele opzichten blijft de dreiging richting uitbuiting en oneerlijkheid vooral uitgaan van onze medemens.  En die heeft er niet bepaald een nobele staat van dienst op zitten.

Wie vertrouwd is met de "drie wetten van de robotica" van Azimov kan mij misschien ook uitleggen waarom we niet eenzelfde soort gedragsregels weten op te leggen voor onszelf als soort?  De eerste wet zou geweld verbannen tot de zichzelf negerende noodzaak: "enkel om erger geweld tegen te gaan".  De tweede en derde brengen misschien een betere balans tussen individueel recht en respect voor collectieve noden? 

Als we ervan uitgaan dat die computers niet alleen hun intelligentie maar straks ook sociaal gedrag en ethiek van ons leren of erven, dan is het misschien nog niet te laat om een beter leidend voorbeeld neer te leggen? 

Volgende vragen lijken me dan ook vooral nuttig om wat zelfreflectie te sturen:

• Wanneer moeten we robots mensachtige rechten geven?
• En voldoen alle mensen, of net ook andere soorten wel aan die voorwaarden?
• Verdient een robot-doctor die een honderdvoud efficiënter en nauwkeuriger diagnoses stelt stemrecht?  Moeten we niet minstens sowieso de helft van onze faalbare volksvertegenwoordigers door meer nuchtere, geduldige, pretentieloze bots vervangen? Krijgen we zo een meer evenwichtige democratie?

De vraag is of we de vraag begrijpen.

In zijn boek "Sapiens" laat Yuval Noah Harari optekenen [dat] 

"Wij zelf een nieuw soort goden zijn. Maar helaas mateloos verwend, en bangelijk onwetend over waar we naartoe gaan."

Alphago schetst dat we nu ook onze eigen goden bij elkaar kunnen smeden. Goden die de aanblik van wereld drastisch kunnen veranderen. Bangelijk?
"Optimist tot in de kist" lijkt me een fijne basishouding, op voorwaarde dat we ons niet laten kisten.  

Wat we nu zien is in wezen een overwinning van de menselijke geest op zichzelf.  Zonder meer vooruitgang.  Maar best straks wel even nakijken of we er ook met z'n allen op vooruitgaan?

• Weten we wat we willen?  
• Kunnen we het collectief gebouwde brein gebruiken en vertrouwen om dat te bereiken? 
• Wat zijn de volgende stappen? Wie bepaalt welke wel en niet worden genomen?
• Wat wil je zelf nog meemaken?
• Ben je zelf pessimistisch? Zijn er ook voor de optimisten drempels en checks die ons oproepen om bij te sturen of zelfs stekkers uit te trekken?
• Wat is het "Singularity Point" voor jou?  Wanneer hebben we het bereikt? Wanneer zijn we er tevreden mee?
• Wat moeten we onze kinderen leren over hoe het er straks aan toe gaat? Wat gaan zijn ons leren?

In het beste geval brengt dit alles ons wat dichter bij het verlaten van een navelstaarderige benadering van onze samenleving op ons "blauwe stipje in het heelal".  Carl Sagan noemde dat "the cosmic perspective".

Het probleem is duidelijk niet een tekort aan nieuwe ideeën, die blijven we spontaan en vlotjes produceren.  De traagheid waarmee we van de slechte en oude ideeën af geraken is onze echte achillespees.