vrijdag 7 december 2018

Het ministerie van “Meta Zaken”

Bedenkingen over #migratie en #klimaat naar aanleiding van #marrakesh 

Voor wie het gemist heeft. In de marge van het politieke nieuws deze week was er een spontane en emotionele uitbarsting van Tom Lenaerts (@lenaertst), een terugfluitende reactie van Johan Op de Beeck (@Johanopdebeeck), en een fijne (maar berustende?) duiding van Tinneke Beeckman (@TBeeckman).

Aangezien ik iedereen altijd gelijk wil geven, moet ik me wel afvragen of Johan wel juist heeft gehoord wat Tom heeft gezegd? (Of toch minstens wat ik erin had gehoord?)

Roept hij echt op om het publieke debat te stoppen en in de achterkamertjes te gaan compromissen?  Hij zei toch “Los het op”?  Dat was toch niet mis te verstaan als “Steek alle energie in de oplossing (en het daarvoor nodige debat)!”. Wat hij nog verder verduidelijkte met “... maar niet in «dat circus»”. 

Wie heeft hoe lang wat laten liggen in dit dossier? Wie verandert er wel of niet van gedacht? En wanneer is dat te laat? Wie zet wie met de rug tegen de muur? Wie valt wanneer waarover? Waar is de stekker en wie trekt er echt aan? Wie kunnen we de zwarte piet doorschuiven? Hoeveel rode lijnen gaan we trekken en wie is ze aan het overschrijden? Wie denkt (of beweert) het meest de publieke opinie achter zich te hebben, of anderzijds net hierdoor achter zich te krijgen? Want vooral: wie gaat volgende verkiezingen winnen?

Dus, ja, zelfs “Alsjeblieft, geef ons natúúrlijk dat debat”.  Maar mag dat dan gaan over de kern van de zaak, en niet over de spelletjes van tweede en derde orde? Dus wel over aan wat de mensen, burgers of migranten ten goede komt, maar niet aan waar de politici beter van worden? 
Met recht en reden wordt dat verwoord als “Ben je niet beschaamd?”, met recht en reden wordt dat onthaald op “spontaan applaus”.

Wat als elk woord in het debat zichtbaar wordt gewogen volgens de voorspellende calculatie van “de volgende verkiezingen”, en niet in het ernstig en efficiënt uitoefenen van het huidige mandaat?

Gewone mensen (zoals Tom en ik) vinden echt niet het inhoudelijke debat storend.  Ze hekelen wél het onevenwicht aan energie dat besteed wordt aan de nodige oplossing versus aan de neveneffecten. 
Het mag echt (publiek) duidelijk zijn dat sommige kwesties lastig en moeilijk zijn, maar het zweet dat bij die beraadslagingen van onder de deur loopt hoeft echt niet zo sterk te ruiken naar gespin en zelfbehoud.

Wat ik onze Tom luidop hoorde afvragen: “Beste politici, mag het heel eventjes niet over *jullie* gaan?”  We hebben voor jullie gekozen om in onze naam keuzes te maken.  Geniet van dat vertrouwen, maar kies dan minstens deftig over wat met dat vertrouwen, die tijd en energie te doen.  Want ja, de verzameling «Zichtbaar Foute Keuzes» maakt jullie minder bruikbaar als opvoedkundig voorbeeld voor de burger in het algemeen, en onze kinderen (de dochter van Tom) in het bijzonder. Ook daar heeft hij zonder meer een punt.

Die gepaste verontwaardiging zomaar als antipolitiek of populisme wegzetten is gewoon een exponent van “niet willen luisteren”. 


-oOo- 


Maar toch.  Ook de afgeleiden van hogere orde hebben hun rechten. We moeten durven aandacht geven aan de manier waarop, hoe het systeem werkt, hoe het proces verloopt.  Maar laat ons dan alsjeblieft meteen de overtreffende trap aanpakken. Let’s go meta all the way! 

Rond al die politieke spelletjes ontspruit namelijk een bijzonder boeiende vraag: Waarom zijn die blijkbaar zinvol, nuttig, winstgevend?

Welk systeem dicteert dat?  En waarom zouden we dat systeem zelf niet nu en dan in vraag stellen?
De mandatarissen zijn volgens mij niet ter kwader trouw.  Oké, ze gamen overduidelijk het systeem. Maar ze worden daartoe geprogrammeerd door het systeem zelf. Binnen de grenzen die erdoor worden opgelegd vinden ze een strategie die blijkt te werken. Of dat hopen ze toch. We kunnen hen dan wel verwijten de verkeerde keuzes te maken, maar ze kiezen echt niet zo makkelijk zelf welke keuzes er te maken zijn.

Het systeem al te veel in vraag stellen is voor hen ook echt niet makkelijk.  Dat neigt namelijk nogal snel naar de paradox van de zelf-negatie waar wel meer organisaties last van hebben: gezien de set van huidige regels precies hen heeft geselecteerd (verkozen), geldt dat bijna vanzelfsprekend als bewijs van de degelijkheid ervan. Ga er dan maar aan gaan staan!

De machteloosheid die ook Tinneke schetst maakt duidelijk hoe de spelers door het systeem bespeeld worden. De onderstroom wordt subtiel opgedrongen maar verder zonder morren overgenomen: eten of gegeten worden, winnen of verliezen, wij of zij. De nieuwe ficties van onze tijd. De gangbare cultuur. Zo is het nu eenmaal. 

Maar we moeten durven weigeren. De macht die ze van het volk krijgen is inclusief de mogelijkheid om het systeem bij te sturen.  De quote van Alice Walker wordt zowaar van toepassing op onze machthebbers zelf: “The most common way people give up their power is by thinking they don't have any.”

In de bedrijfswereld zijn nochtans tegenvoorbeelden.  Daar wordt vaak wel disruptie en innovatie omarmd en moedwillig opgezocht.  De wijsheid geldt dat “Wie zichzelf niet in vraag stelt zal de verandering, die hen uiteindelijk buitenspel zet, zelfs niet zien aankomen.”

De kerngedachte van democratie is dat de stoel van de macht vacant blijft (trouwens ook ooit op een lezing van Tinneke geleerd als ik me niet vergis).  De enige zekere weg tegen totalitaire regimes is het vasthouden aan het vaak, maar geordend (geweldloos) wisselen van de macht.  Binnen datzelfde kader zou het niet vreemd moeten zijn als we ook in elke legislatuur gericht gaan zoeken naar aanpassingen van de structuren van de macht: Het systeem zelf bijsturen dus.

Ooit was dat trouwens wat ik gewillig dacht te horen in het betoog van een lokale partij die opkwam met een visie op “goed bestuur”, aangevuld zelfs met een natuurlijke oproep voor een nodige focus op een “staatshervorming”.  Dat laatste woord heeft de kracht om op te roepen tot een goed overwogen systeemdenken. Een kracht om te (denken, durven, doen) veranderen. Helaas is de term snel semantisch strikt vernauwd tot een enge “communautaire context” en dan opgeborgen. In de feiten vertaald in mee hardnekkig volharden in de overbodige spelletjes. De gemiste kans dus om uit te zoeken hoe we de spelletjes overbodig maken.

En laat het meer dan een beetje nodig zijn.  Op het inhoudelijke niveau zijn er verdomd lastige uitdagingen die allemaal vele keer groter lijken dan onszelf: #migratie en #klimaat om er maar even twee te noemen.  Vandaar de spontane vraag of ons onvermogen om daar adequate antwoorden voor te formuleren niet op het metaniveau te lezen zijn als de symptomen van een dieper systeemfalen, van een mislukkend overlegmodel.  Want zo naïef wil ik wel nog zijn, die brave politici, willen allemaal het goede. Die weten ook dat de simplistische totalitaire reflex de zaak niet gaat oplossen.  Vanuit een voldoende misleide meerderheid met wat toegevoegd geweld een tiran aanduiden, en de rest laten buigen of barsten is niet wat we zoeken. De inzichten van onze vooruitgang zeggen net dat de vernieuwende oplossingen niet meteen door de meerderheid worden gezien en gedragen. Je moet er actief voor open staan en naar zoeken op de plekken waar je het niet verwacht.  De stijgende complexiteit maakt het ook twijfelachtig dat je zonder overleg of genuanceerde aanpak het antwoord vindt.

Geëngageerde politici staan voor iets, heet het. Maar dat "iets" mag gerust ook een waardige stijl, een vlot proces, bestuurskunst, of een toonbeeld van overleg zijn: met aandacht voor goede ideeën uit minderheden bijvoorbeeld. Aangevuld met de juiste experts is dat misschien zelfs nuttiger dan de eigen vermeende dossierkennis.

Dus ja, gelieve het toch eens te overwegen: een “Ministerie van meta-zaken”, waar men actief op zoek gaat naar een blijvend nodige hervorming van de systemen (structuren, organisaties, processen, verkiezingen, volksbevraging, inbreng, maatschappelijk debat, …) Want al slagen die er overwegend in een goed werkende staat en samenleving te realiseren, er lekt echt nog veel te veel nuttige energie weg in dingen die er eigenlijk niet toe doen.

Zonder zo'n ministerie, blijven blind volharden in het spel voor het spel zelf, wordt, (merci Tom), ervaren als beschamend.

-oOo-

Toch nog even mild ontsluieren van waar dit allemaal komt om te vermijden dat men mij al te veel originaliteit gaat verwijten.  Er valt rond systeemdenken echt niet te ontkomen aan die ingesleten opleiding ingenieur systemen en regeltechniek, maar dit verhaal drijft vooral op het recent inlezen in zeer uiteenlopende zaken: 

  • #artificialstupidity over de systematische controle-crisis waarmee de doorgedreven automatisering ons confronteert
  • #zigzagpodcast en #theguardian over de vertrouwens-crisis die we vandaag de dag kennen onder de vlaggen van #fakenews en #populisme
  • #deepdemocracy over de zoektocht naar manieren om alle goede ideeën een kans te geven, vooral als die door een meerderheid zouden kunnen over het hoofd gezien worden
  • #prstv over de boeiende werking van andere kies-systemen (zoals bv. in Ierland) en hun herprogrammerende effecten op hoe burger en polici erdoor met elkaar omgaan. Een snelle intro tot de kracht ervan vind je in de podcast Tweak the Vote van Radiolab
-o0o-

update hetzelfde maar dan kort en krachtig door @StijnDePaepe
update Tangentieel verwant sterk stuk in De Tijd een weekske later: Het ironische van de ironie.

zondag 7 oktober 2018

Tussen U en Mij: Bekentenissen over mijn privacy

(van een beëdigd leugenaar)


Liegen mag wél

Jammer dat je het zo laat, en van mij moet horen maar hier is het: liegen mag. Ik raad het zelfs aan als meest effectieve manier om marketeers aan te leren dat wat zij doen echt niet mag. Ik doe het zelf al jaren, en je hebt er de zegen van de GDPR of je moeder niet voor nodig.

Afgaand op hoe ik de voorbije jaren ben omgesprongen met de verplichte velden van digitale formulieren ben ik:
  • sedert ik ben geboren op 1 januari 1900
  • heel vaak van naam veranderd
  • steevast te bereiken op het algemeen nummer van het opvragende bedrijf zelf
  • woonachtig in de Ikwooneldersweg 2 te 1110 Nergensgooigem
  • gezegend met meer geslachten en voorkeuren dan er in de nieuwste variant van het LGBTQ acroniem zijn vervat.

Tegen de plaag van de "verplichte velden" is de vriendelijk meegaande leugen je beste medicijn.  Hou er wel je hoofd bij: enkel als het veld niet voor jou nodig en controleerbaar goed moet zijn (een levering aan je thuis-adres bv) dan is het onnodig en dus *niet* verplicht.  Het ergerlijk asteriksje (*) naast dat veld mag dan het tegendeel beweren, het verplicht mij slechts tot één iets: de leugen om bestwil. Zie het gerust als mijn spontane bescherming van de vrager tegen een forse GDPR-boete. "Je hoeft dit niet te weten, dus weet je het beter niet!"

Je privacy beschermen begint zo dus altijd bij jezelf.  Het is nog niet te laat. Je kunt hier vandaag ook nog mee beginnen, en geef het meteen ook je kinderen mee. Noem het dan voor de goede orde niet "liegen" maar “burgerlijke ongehoorzaamheid”.
Breid je nieuwe inzicht meteen ook uit naar de niet virtuele wereld: ergerlijke aanhoudende petitiejagers zet je in hun hemd als hun lijsten ook klagers als Superman en Garfield Dekat bevatten. En het achterkantje van de klantgerichte korting-spaarkaart voor product xyz is even toegeeflijk, en dus bedoeld voor dit soort, euh, onnauwkeurigheden.

Voor de nerds: dit is ook waarom ik een plugin als die van AdNauseam zo geweldig vindt. De geruststellende zekerheid: Al is het algoritme nog zo snel, een ander én slimmer achterhaald hem wel.

Bang zijn dan weer niet. Zeker niet voor data.

Tot zover mijn hopelijk overtuigende geloofsbrieven richting eervolle vermelding in het kamp van de moderne rebellen tegen de samenzwering van de wild om ons heen grijpende controle-samenleving.
Maar kunnen we wel even rustig én ernstig blijven? En het probleem netjes scheiden van de vooruitgang?

Biometrische data (DNA, gezichtsherkenning of vingerafdrukken) hebben vele keren meer nuttige en positieve toepassingen dan ergerlijke of ronduit gevaarlijke.  Die laatste geven terecht aanleiding tot gepaste voorzichtigheid, transparantie en controle.  Maar iedereen die zich daarop beroept om nu en dan wat tegen te houden omdat het nu nog niet voorzichtig, transparant of controleerbaar genoeg is, moet zichzelf ook verplichten om de regels goed te krijgen en daarna zo snel mogelijk iedereen van de nuttig effecten te laten profiteren. Dit verondersteld de falsifieerbare aanpak van je protest: maak duidelijk onder welke voorwaarden het wel aan je eisen voldoet. Het is al te lang wachten op nooit.

Privacy is een gemeenschappelijk goed, geen absoluut en onvervreemdbaar individueel recht.  De slogan "het moet een persoonlijke keuze zijn" gaat dus niet zomaar op.  Het is gepast dat we durven vaccinaties verplichten om een collectief belangrijk medisch succes te boeken en de last ervan ook met iedereen te delen.  Op dezelfde manier moeten we durven om persoonlijke individuele vrijheid af te wegen tegen collectieve voordelen.  Gewoon qua principe lijkt me dat een basisvoorwaarde voor een zinvolle dialoog: die gaat dan over waar we het centerpunt van die balans leggen, en hoe we dat blijvend bewaken.

Elk zijn naïviteit

Maar vraag me dus niet om te kiezen tussen de twee strekkingen die in dit debat tegen elkaar opbieden: de kampen "Ik ben goudeerlijk en heb niets te verbergen" vs. "Je hebt wel iets te verbergen".  Het is moeilijk zoeken naar een stukje vaste grond in het moeras van bodemloze naïviteit die van de beide kanten over en weer geslingerd wordt:

  • Je kunt de vooruitgang toch niet tegenhouden.
  • Het is niet omdat ze nu braaf zijn, dat ze braaf gaan blijven.
  • Ik ben geen crimineel. Jij wel misschien?
  • Als we het niet zelf controleerbaar doen, doet een ander het oncontroleerbaar.
  • Dit is een hellend vlak.
  • Ik wil niet zo gecriminaliseerd worden.
  • ...

Grappig is weerom de verplichte koppeling van dit debat aan de allesoverheersende mythe van de links-rechts tegenstelling.  Afhankelijk van je laatste uitspraak en je vermeende "kant van dragen" oogst je meteen het snerende verwijt uit één van deze kwadranten.



Vatstelling: In elk kwadrant blijft alvast de ruimte om de tegenpartij te ontslaan van kwade bedoelingen en slechts te kiezen voor de variant die met de air van voorkennis de tegenstander mild de mond moet snoeren met
« Ah, gij goedbedoelende naïeve kloot toch. Denkte gij nu echt… »

Paradoxaal aan dit wederzijds naivety-shaming is dat deelnemen aan het debat an sich geen enkele zin heeft als je niet minstens gelooft dat er oplossingen haalbaar zijn.  Alle haalbare oplossingen zullen altijd een midden zijn tussen (voorzichtig) gebruik toelaten enerzijds en reguleren plus controleren anderzijds. Aan die oer-naïviteit is elke oprechte deelnemer dus a priori verkocht.

Het concreet afspreken van wat we dan gaan doen wordt sowieso een evenwichtsoefening genre Jenga.  Wie meespeelt klopt niet hard op tafel, maar houdt de adem in en doet hard zijn best om uitschuivers tegen te gaan; en de tafel waarop we spelen, die staat best zéér stabiel.

Vrij, én trots

En dat brengt ons bij de kern van de zaak.  Niet privacy, want dat is maar van tweede orde. Terwijl we ogenschijnlijk over privacy praten, gaat het eigenlijk over mekaars veiligheid én vrijheid. Niet over de tegenstelling ertussen, noch over het verbergen ervan.

De stabiele tafel van zekerheden waarop we het spelletje beginnen is dit:  hoe garanderen we mekaars veiligheid én vrijheid.  Met dat voor ogen merk je meteen wat er vals is aan de one-liner of ik nu íets of niets te verbergen zou hebben.  Het gaat helemaal niet om het spoor of het bewijs, maar om wat daar dan mee gedaan wordt. En het gaat niet om alles publiek te maken wat je in alle vrijheid doet, maar of dat finaal ingaat tegen je gegarandeerde veiligheid.

Of uit mijn sporen blijkt dat ik nicht of hoerenloper ben zou los door de muur van onze heersende shaming cultuur heen moeten knallen.  Van de collectieve "Et alors ?" zouden we een week lang onze schouders niet meer naar beneden mogen krijgen.  Dat is de ware ambitie. En die is bangelijk afwezig in het huidige oppervlakkige debat.  Dit is het beeld dat ik heb van zowel-de-niets-als-iets-verbergers: die zitten samen in een hoekje te fluisteren "ja jong, dat onnoembare wat je doet, dat mag (of niet), van mij toch, maar hou het stilletjes en verborgen, wat niet weet, niet deert." - terwijl we nog door de megafonen keihard moeten pleiten voor "Een wekelijkse Gay Pride", "Op de grote markt!". Waar het echt om gaat: Ik? Iets te verbergen? Nee! Iets te tonen en te zeggen over hoe ik echt ben, en leer daar dan gewoon eindelijk eens mee te leven.

Welk vals discours toch? Als dit gaat om de vrijheid om te mogen verbergen? Wat met mijn vrijheid om niet te moeten verbergen? De enige vrijheid die mij wat waard is, is deze waar ik trots mee op straat mag komen. Terwijl ik mag weten dat ongewild geraakte heilige huisjes daarbij niets uitmaken voor mijn persoonlijke veiligheid.  Wat als we dat nu als fundament wederzijds kunnen garanderen? Om mee te beginnen?  Dan lijkt me het zo snel duidelijk dat jouw recht om nu en dan iets te verbergen vanzelf hand in hand gaat met mijn onvermogen om geïnteresseerd te zijn in elk mogelijk detail van je bestaan.  Maar ook dat het vanzelf duidelijk is dat het slechtste wat je overkomt door niet te verbergen een medewerking is aan een gegarandeerde verbetering van collectief nuttige resultaten. Zalig paradoxaal? Niet echt: mijn blijvende zoektocht naar paradox op paradox leert me dat in die gevallen altijd een verbluffend eenvoudig antwoord ligt te wachten op het niveau die de ogenschijnlijke tegenstelling overstijgt.

Dus laten we concreet worden: vingerafdrukken op de be-eid

Of ik daar dan nog een mening over heb? Tuurlijk. Die is net als al het voorgaande eenduidig: ja, nee, zo snel mogelijk én zeker zo niet.

Eerst mijn hoofdreflex dan maar, die is eerder meta: zo voeren we dit debat toch niet?  Met half opgelaten ballonnetjes van onduidelijke systemen zonder ruimere context.  Foei aan de pers die het zo durft presenteren ook.  De enige nuttige vingerwijzing die er ergens was bleef verborgen achter het mystieke "er waren opmerkingen van de privacycommissie, en die zijn onvoldoende geadresseerd in het nieuwe voorstel" maar waar het dan inhoudelijk om ging was nergens(*) echt te vinden.  Dus wel even de controverse aanwakkeren, maar "Ho!" als het gaat om Jan Publiek ook inzichtelijk te laten meedenken, dan is de inkt op?

Ik mis dus meer detail om nog te weten hoe vrij en veilig ik ben. Wie dat voor mij (zou moeten controleren) en welke garanties ik daarvoor krijg.  En ik wil de pers niet te hard afvallen, het is niet allemaal hun taak: wie met dergelijk voorstel afkomt moet zichzelf verplichten spontaan dit soort duidelijkheid mee te geven.

Maar wees gerust, mijn initiële reactie gaat dan even keihard richting het koor aan voorspelbaar nay-sayers die ofwel ook geen inzage geven op de extra informatie die zij beweren te hebben, ofwel in de vergelijkbare onwetendheid leven, maar daarin geen belemmering zien om de eigen stellingen niet nog verder in te graven en louter met emotionele wijsheid de polarisatie verder aan te scherpen.  Kijk: als je vlammende anti-artikel nergens gewag maakt van een geschetst inzicht in bestaande positieve aanwendingen en een set van correcte regels en procedures voor de controle erop, dan heb ik aan het lezen ervan ook maar enkel mijn tijd verspild.

Zelf zie ik alvast danig wat voordelen van een door onszelf (= ja, echt een andere naam voor overheid) gecontroleerd werkbaar systeem voor identificatie op basis van biometrische gegevens.  Ik gebruik dat soort technologie al op mijn telefoon, en vind mezelf daarin nodeloos naïef: een meer lokale greep (dan de Chinese smid en de Amerikaanse coder) en garantie op dat soort spielerei zou me wel zinnen.  Anderzijds ben ik ook wel overtuigd dat ik dankzij die technologie beter af ben.  De wereld die zichzelf nog immer recht houdt met wachtwoorden en pincodes roept niets anders dan middeleeuwse beelden in me op: ridders, draken, slotgrachten, ophaalbruggen en jonkvrouwen Zo naïef ben ik dan weer niet? Echt beangstigend is dat we de controle op het verifiëren van identiteit door de oude wijkagent en postbode aan het verliezen zijn: via email en gezichtsherkenning aan tech-bedrijven en phising identity-thieves

Heb ik gezegd dat we het dan toch maar zo meteen moeten doen?  Bahnee. Als we het erover eens zijn dat we niet de nodige garanties krijgen in de huidige manier van werken, laat ons dan vooral een goede campagne voor burgerlijke ongehoorzaamheid bedenken.  De populistische oproepen alla "from my cold dead hands" vind ik dan nogal macaber. Doe mij maar een goede DoS attack:  afspreken om allemaal een nieuwe pas te gaan ophalen op de laatste dag van het oude model.  Dan testen we fijn de beperkingen van hun systeem én kopen we onszelf toch weer tien jaar tijd om dat hele zaakje proper uit te klaren.

(Of tot je die laatste vingerafdrukvrije kaart verliest. Hopelijk gebeurt dat niet op een plek waar je niet wou gezien worden.)

(*) update De tijd kwam op 25 okt dan toch met wat meer diepgang en inhoud. Hoera!
update De standaard van 29 okt ging zelfs over tot een genuanceerde opinie met zin voor evenwicht en duiding. Er is waarlijk nog immer hoop.

zaterdag 28 juli 2018

over software-bouwers, menswetenschappers en andere ingenieuze mensen

Dit recente artikel in DataNews stelt dat "'Software-bouwers zich geen ingenieurs mogen noemen'".  Het antwoord op "Wat dan wel?" blijft helaas open, daarom deze licht corrigerende aanvulling.

Software-bouwers zijn de menswetenschappers onder de ingenieurs

(of zouden dat moeten zijn)

Het artikel bevat boeiende stellingen en terechte kritiek op de "state of the union" van software engineering. Het vertrekt helaas van een volledig fout uitgangspunt: een software-project vergelijken met het bouwen van een brug. Daardoor mist het de kans op nog meer nuttige conclusies.

Dat foute uitgangspunt toont de kern van de zaak: een aangeleerd verkeerd beeld van software bouwen. De idee dat dit zou *moeten* engineering zijn; de miskenning dat het ook een menswetenschap is.  De gevolgen van dat foute beeld zijn erger dan een minder nuttig artikel in je vakblad. Erger dan de opgelopen frustratie van de gefaalde projecten.  Dat foute beeld zorgt dat we niet aan de spiraal ontsnappen. Omdat we te weinig de juiste mix van mensen in de juiste opleidingen en de juiste jobs krijgen.

Software krijgt de aandacht die ze niet verdient.

Het artikel stelt dat software-projecten vaak mislukken. Maar was de definitie van succes vooraf vastgelegd? Als justitie digitaliseert, maar de magistraten weigeren hun gegevens in het systeem te stoppen (omdat het “te moeilijk” is), dan wordt de mislukking breed uitgesmeerd in de pers. Als ondanks de peperdure archiefkasten, de magistraten toch hun dossiers laten rondslingeren op bureaus of in de gang (omdat de kasten in de kelder staan), dan is dat infrastructuurproject evengoed mislukt. Dit tweede scenario krijgt veel minder aandacht. Vreemd?
Om in de sfeer van het gerecht te blijven: het Antwerpse justitiepaleis is een mooi voorbeeld van mislukte 'architectural engineering'. Het is een prachtig gebouw, dat de skyline van de stad vanuit het zuiden kenmerkt, maar na slechts vijf jaar zijn de prachtige houten vloeren helemaal stukgelopen en bevlekt: te veel voetverkeer en gemorste koffie. Bovendien plakken de muren en deuren vol met snel-snel geprinte papiertjes om bezoekers de juiste richting te wijzen. De structuur is te complex en de signalisatie ondermaats. Falen blijkt ook buiten software bekend. Het institutionele steiger-harnas van het Brusselse zustergebouw moeten we niet eens aanhalen.

Software is veel eenvoudiger

Toch moet de software-branche niet meteen de borst nat maken. "Pure Logica", de grondstof van de software bouwer, laat zich makkelijker kneden dan zijn fysische tegenhangers: gewichtig beton, draaiende onderdelen in motoren, hete plasma-wolken en reactorvaten vol borrelende chemicaliën.
Een for-next-loop vlotjes uit de mouw schudden gaat zonder rekening te houden met de eigenfrequentie van de CPU. Geen enkel gevaar dat die plots door resonantie door het scherm wordt gekatapulteerd.  De waarde van een variabele wordt niet angstvallig in de gaten gehouden uit angst dat die het smeltpunt van de silicone drager overschrijdt.  Werken als software-bouwer gebeurt niet op een werf met een helm, maar in een vrije speeltuin zonder gevaar.

Oké, er zijn wat paradoxen, nog immer etterend uit de tijd van Russel, Gödel en Turing; de dreiging van depressies veroorzaakt door de existentiële stress rond de beperkingen van formele logica.  Maar het blijft een verloren zaak voor de uitgekookte software-vakbond die op basis daarvan de toevoeging op de lijst van "zware beroepen" bepleit.

Software is in grote mate arbitrair

En toch. "Het gemak van die pure logica" maakt ons meteen blind voor de beperkingen ervan.  Het creëert de sfeer van ongebreidelde fantasie, opgeblazen verwachtingen, onuitputbaar optimisme en hardnekkig geloof in de mogelijkheden. Minstens zo vaak bij de vraagstellers als bij de bouwers zelf.

Die ongebondenheid slaat alle fundamenten weg die aan de "echte wereld" zijn zalige zekerheid en stabiliteit verleent. Hier geen algemeen geldende wetten, geen vastgelegde richting of zekere grootte van de zwaartekracht, geen universele constante van Planck, geen betrouwbaar dauwpunt van de waterdamp.

In ruil ontwaakt de software-bouwer elke werkdag in een wereld die bol staat van van-de-pot-gerukte arbitraire feiten en regels. Slechts begrensd door de inspiratie en overredingskracht van de klant of verkoper. Van de techniek zelf komt ook weinig steun: bestaande deeloplossingen hergebruiken (bibliotheken, modules en componenten) betekent navigeren door een veld dat door die andere ontwikkelaar achteloos is bezaaid met anti-persoonsmijnen: te volgen (onnavolgbare) "logische" stappen en in te stellen obscure configuratie; alles met niet te bedenken arbitraire namen en locaties die verplicht subtiel veranderen van versie naar versie.

In beide richtingen is er bitter weinig basis voor betrouwbare vergelijkingen omtrent de ‘engineering’.

Vooral de Software-economie is jong

Het is een verrekt jong idee, dat idee om “Algoritmische gegevensverwerking formeel zo te beschrijven dat ze machinaal kan uitgevoerd worden”.  Daar moeten we niet op afdingen.  Napoleon had het twintig decennia geleden niet kunnen bedenken, terzelfdertijd had hij geen moeite zijn troepen in Egypte inspirerend toe te spreken in de driehoekige schaduwen van "reeds veertig eeuwen bouwgeschiedenis". Toen al. Vermoedelijk is de innovatie in die klassieke tak van het ingenieurswezen nog immer aan de gang. Ondertussen is wel hun prijsstelling gestabiliseerd; de marges en verwachtingen stilzwijgend afgesproken.  We moeten daar niet flauw over doen: het betekent dat we hebben leren leven met de bouwkundig ingenieur die sans gêne bovenop zijn sterkteberekening een forse veiligheids-multiplicator mag hanteren; dat we het gewoon zijn dat de toegelaten foutenmarges worden opgevuld in de voeg of verstopt achter de sierlijst.

Dus laat ons elkaar geen Liesbeth noemen. De frustratie gaat over centen. Wat mogen we per geïnvesteerde euro verwachten?  Of er bij de andere ingenieurs vaker of niet tegenvallers zijn op dat punt doet er dan niet toe:  In de eigen winkel moeten we deemoedig onderschrijven dat er nog immer ruimte is voor verbetering.

Die haven met verhoopt "rustiger wateren" is mogelijks nog veraf.  Beton wordt niet elke achttien maand twee keer zo sterk en twee keer zo licht. Moore inroepen als makkelijke zondebok is niet de bedoeling. Maar de meest nabije "stabiele economische wet" in de sector heeft een ruikende adem: de ingebakken verwachting van exponentiële groei.  Vanzelfsprekend haast: die dromen van onbegrensde mogelijkheden. Ook in de markt.  Wereldwijd. Je kunt elke Aardling een herkenbaar lijstje van IT topbedrijven laten ophoesten, maar de laatste IPO van bouwbedrijf X zal je enkel een glazige blik opleveren. Het vale canvas van de software-projecten-centen-frustratie verbergt een goudmijntje.

Appels met appels

Laat ons toch proberen de vergelijking goed te krijgen.  Een goede, stabiele brug neerpoten is een technisch hoogstandje dat sterk lijkt op het gepast en correct toepassen van een gekend OOP patroon, of het foutloos implementeren van een bewezen algoritme. Voorbijgaand aan de variërende complexiteit: Van bubble sort tot Paxos of Merkle tree, als de formele beschrijving maar goed zit, is dit net zo goed te behappen en binnen afgesproken verwachtingen uitvoerbaar. Effe een bruggetje leggen.

Nemen we echter een matig complex software-project, dan vergelijkt zich dat in de sector bruggen-en-wegen al snel met "Het ontwarren van de mobiliteitsknoop rond Antwerpen": Wordt het nu een brug of een tunnel?  Moet er strategisch in de toekomst meer of minder, zwaarder of lichter verkeer, dichterbij of verderaf van de stad? Hebben we door achteloosheid in de uitnodiging voor het overleg een aantal belangrijke stakeholders over het hoofd gezien? Toch niet de bewoners of onze kiezers?
Verrassend. Zonder zelfs bij benadering het budget van dat gemiddelde bruggetje, met slechts een fractie van het aantal betrokken uitvoerende voltijdsequivalenten; we kijken meteen naar een project waar naast het strikt "technische", opvallend veel ruimte blijft voor de "sociale" variant van engineering.

Niet in het sausje overigens, maar in het vlees én het bot. Want het gaat niet over die jeweetwel "soft skills" (De gebruikers van die term moeten dringend voor ‘skill-shaming’ veroordeeld kunnen worden) Dus niet over taal- en communicatie vaardigheden, niet over de te hanteren diplomatische stijl noch over het knuffelgehalte van de 'teamplayer'. Die saus is uiteraard belangrijk, maar ze is slechts van tweede of derde orde. Ze is dan ook maar nuttig zolang ze ten dienste blijft van wat er echt aan de hand is: een zoektocht naar duidelijkheid en betekenis. De echte kost van software bouwen zit in het ontdekken van wat precies moet gebouwd worden. Dat aspect vergt een talent om de vertaalslag te maken van de informele wereld van idee, vraag en inspiratie naar de formele oplossing: concreet en uitvoerbaar.  Daarin zitten elementen van de (met gepast respect) "harde" menswetenschappen: taalkunde, communicatie, bibliotheekwetenschappen, psychologie, zelfs filosofie. Dit gaat over het begrip van mens, brein en taal. Zolang we dat niet aanduiden in het takenpakket krijgt het ook geen aandacht in de opleiding.

Wat weten we al met enige betrouwbaarheid? Hoe werkt ons brein? Wat zijn de correcte classificaties die we moeten aanbrengen, en wat zijn de intrinsieke beperkingen die we onszelf ermee opleggen. Wat betekent elke term echt? Wat betekenen ze vooral niet? Hoe beheren we de semantiek? Hoe zal dit systeem gelezen en gebruikt worden? Hoe stuurt (taal)gebruik effectieve betekenis (Jaja, Ludwig, jaja!).

Taal en letteren

De auteur van het originele artikel heeft zonder meer recht op zijn frustratie. Object Oriented Programming (OOP) heeft ons niet in het Walhalla gebracht.  Het is nochtans een vruchtbare injectie van inzichten uit de bedrijfskunde: Formuleer de organisatie van de oplossing in termen van samenwerkende, vervangbare onderdelen met betrouwbare onderlinge contracten; verlaat daarbij de door bandwerk geïnspireerde visie van de procedurele oplossing als (te) strikt stappenplan.
Ook op zijn plaats: de kritische noot bij de resultaten van de methodologie. De binnengebrachte inzichten uit boekhouding en time-management zijn zeker een meerwaarde. Meer waard dan het gekibbel over het gidsende beeld erbij. Wisselend met de mode gaan we voor de vurige responsieve lenigheid (agile) of voor de wetmatige zekerheid van vallend water.  De poëzie van die achterliggende beelden is zeker nuttig voor de sturing van je team, maar minder belangrijk dan de gepaste aandacht voor tijd-, taak- en feature-beheer an sich.

Er is nog meer evolutie in de taalstructuren. Aspect Oriented Programming (AOP) is een aanvulling op Object Oriented Programming die te vergelijken is met het toevoegen van adjectieven aan een concepten-taal die daarvóór enkel bestond uit substantieven en werkwoorden. Of neem Language Oriented Programming (LOP). "Bouw een parser die de formele specificaties kan begrijpen, en je probleem is opgelost. Als je daarna de use cases in die taal kunt uitdrukken zijn meteen ook de unit-tests klaar!". Dit soort externe invloeden dragen de erkenning dat software draait rond een dynamisch en complex probleem van taal en begrip. Niet 'slechts' een hydrostatisch dammetje of een listig truukje met voorgespannen beton.  De overtreffende trap stormt vandaag de branche binnen: Artificiële Intelligentie. Vergeet de zoektocht naar de oplossing zelf, maar simuleer de werking van een (talig) brein waarvan we niet hoeven te begrijpen hoe het werkt. als het maar tot betrouwbare oplossingen komt.

Mag Luc Steels, van opleiding linguïst én toonaangevend Belgische AI onderzoeker aan de VUB, zich wel ingenieur noemen? Vinden we dát belangrijk?

De oplossing is niet (altijd) méér engineering

De onderstroom van het artikel is dat langs de as van falen tot succes gemeten wordt in eenheden "ingenieur".  Is dat niet meer dan een beetje zelf-verheerlijkend elitair? Ontluisterend: Minus de exotiek van de business talk wordt de historisch meest correcte vertaling eenvoudig "machinist". Akke-akke-tuut-tuut, voetjes op de grond! Blijven roeptoeteren om "meer ingenieurs" moet dringend vervangen door zoeken naar het opleiden van betere ingenieurs. Ingrijpender dan de "extraverte ingenieur" uit de klassieke grap: hij die naar joúw schoenen kijkt terwijl hij tegen je spreekt; maar iemand die voldoende inzichten meekreeg over haar menselijke soort zelf.

De tijd van de witte raven en de homo universalis ligt ver achter ons. Doorgedreven specialisatie heeft die vervangen door interdisciplinaire netwerken van experts. De Da Vinci van onze tijd die de code kraakt zit verborgen in de interactie van mensen.  “Mens” omvat gewillig wel-en-niet-ingenieurs, op voorwaarde dat ze elkaar kunnen en willen begrijpen en erkennen dat ze uit hun wederzijdse dialoog iets kunnen leren.
Er mogen nog vele correcties aan het softwarebedrijf worden aangebracht. De kans wordt alsmaar kleiner dat die komen van één, aanwijsbaar individu die daarvoor dan een Nobelprijs krijgt. Bijna zeker is dat de drijfveer van de aanbrengers niet zal zijn: "zichzelf ingenieur te mogen noemen".

🙖🙖🙖

Deze uitgeschreven reactie en opinie kwam mee tot stand dankzij de inzichten, wenken, online interacties, existentiële twijfel en de krullende tenen van daarom niet volmondig akkoord gaande collega ingenieurs en software-bouwers: Koen Pellegrims en Erik Mannens. Waarvoor dank.

zondag 20 mei 2018

over ingenieurs en meisjes: to stem or not to stem

Mannen én vrouwen zijn en masse nodig in de #stem richtingen, dat hoor je overal.

Hoe "mee eens" ik het op onbewaakte momenten daarmee soms ben, ik ben evengoed de platgetreden paden naar de vooropgesteld oplossing toe een beetje beu. (geeuwt)
Kunnen we misschien eens iets anders proberen?

En dus was het tijd om mijn mening op dit punt - met louter boerenverstand recht uit de West-Vlaamse klei getrokken en totaal gespeend van enige wetenschappelijke onderbouw - zomaar vanachter een klavier op uw scherm te mikken.

Niet allemaal even nieuw trouwens: Veel van wat hier komt had je al uit eerdere blogs van me kunnen oppikken:

🙖🙖🙖

Een probleem. Of is het?

Ik geloof het echt ook.

Hoe meer we met zijn allen in een wereld leven waar data en de manipulatie ervan een bepalende rol spelen om inzicht, kennis en daaruit volgend zinvolle keuzes en beleid af te leiden; hoe meer het voor een democratisch evenwicht in die wereld zinvol is dat we met zoveel mogelijk blijven snappen wat er eigenlijk aan de hand is.  Die hele handel van computationeel denken is gewoon echt iets wat we met zijn allen kunnen kennen en moeten leren begrijpen, minstens om zij die het ten volle doen te kunnen blijven controleren.

Bij de scenario 's van de AI doemdenkers die vrezen voor de tijd van de Grote Boze "Computer says no" denk ik gewoon altijd aan de droomquote van Alice Walker “The most common way people give up their power is by thinking they don't have any.”

En over de wanverhouding aan de vertegenwoordiging van de seksen in dit domein kan ik heel kort zijn: die is bangelijk scheef, en dus fout.  Maar daar zijn de technische richtingen niet alleen in. Veel ingenieurs(mannen)bastions ontbreken rond de ontwerptafel keihard de inzichten, meningen, gevoeligheden van 50% van de bevolking. En dat zie je vaak aan de resultaten.  Net zo kan ik me inbeelden dat in veel onderbeMANde (dat klinkt helaas dubbelzinniger, maar minder gekunsteld dan overbeVROUWde) sectoren een vleugje extra testosteron misschien ook wel wonderen kan doen?

Wil ik dan net de stereotypes bevestigen?  De verschillen (van groepen) in de verf zetten?  Neen jong, enkel de individuele talenten wil ik in de spotlights.  Maar dus ook de nodeloze drempels die de stereotypes net daartegen opwerpen: die moeten we durven onder de loupe nemen, en in het volle zonlicht dan genadeloos wegbranden.

Dus kijk Hidden Figures met een overlopend goed gevoel helemaal uit, en bijt in het vervolg je tong af als je denkt nog eens te moeten beweren dat een bepaalde groep mensen niet deugt voor x,y of z.

🙖🙖🙖

Nieuwe strategie

Maar goed.  We moeten dus meer ingenieurs maken?
Niet noodzakelijk.

Eerst en vooral, vergelijk het even met de muziekschool: niet iedereen die daarnaar toe gaat wordt later professioneel muzikant, of laat staan de nieuwe Mozart. Dat kan dus ook even ongedwongen met technische geletterdheid zoals dat aangebracht wordt bij bv. CoderDojo.  Wat dan ook kan afgekeken worden: de natuurlijke combinatie van én muziekscholen én een aanbod muzische opvoeding in basisonderwijs en secundair voor iedereen. Ook voor STEM.

De herverspreiding van nuttige bassiskennis loopt trouwens soms zeer ongedwongen: er was een tijd dat "dactylo" een expertise was die een eigen job verdiende; de zalen ooit gevuld met dit soort mensen (meestal unaniem vrouwen) zijn heringericht tot kantoorlandschappen waar elke kenniswerker gewoon een klavier onder de vingers heeft. Dat die over 50 jaar ook allemaal hun deeltje computationeel denkwerk doen lijkt me even vanzelfsprekend.

Ten tweede ben ik bijzonder kritisch over de promotiecampagnes rond "studierichtingen waar mensen voor warm moeten gemaakt worden".  Dat is al zo vaak geprobeerd dat het hardnekkig blijven geloven in die strategie op zwakzinnigheid begint te lijken. Of toch minstens op een schrijnende armoede aan andere ideeën.  Als ik heel fatalistisch denk dan zie ik het zo: de gene-pool is door een half miljoen jaar evolutie ingesleten en daar zit nu eenmaal maar zoveel procent te ontdekken ingenieursmateriaal in.  Wie denkt dat hij tegen dat half miljoen jaar op kan met een promotie campagne die over 5 jaar zoveel meer afgestudeerden moet opleveren, die heeft minstens een probleem met schaalverhoudingen.

Tenslotte ben ik wel zo naïef om een alternatief aan te bieden.  De groepen die nu roepen om meer ingenieurs zijn heel vaak de werkgevers ervan, en die doen dat al te vaak met een door de vrije markt ingegeven focus op competitie en op te bouwen intellectueel eigendom.  Ze maken de beleidsmakers gek om ervoor te zorgen dat het aanbod aan intellectueel kapitaal daarvoor niet gaat opdrogen.  Hun goed recht natuurlijk.  Maar misschien moeten we wat in ruil durven vragen? 

Kijk, als we echt overtuigd zijn dat we ingenieurs te kort hebben, dan moeten we misschien ook even durven overwegen hoeveel meer we zouden kunnen bereiken mochten we er in slagen alle ingenieurs die we hebben te laten samenwerken? En dat dan meteen voor de volgende generaties techneuten en het potentieel daaraan dat uit die bewuste gene-pool te oogsten valt.

🙖🙖🙖

Gewoon doen.

En dan komen we vanzelf weer bij de meisjes, en waarom zij blijven de weg missen naar deze richtingen.  Die bewuste genen zitten (er zijn echt genoeg voorbeelden te bedenken) met grote waarschijnlijkheid niet mysterieus verborgen op het Y chromosoom. Ik kan dus zonder meer én beweren dat de intrinsieke 'tiens hoe zit dat ineen' reflex zeker bij voldoende meisjes aanwezig is, én staande houden dat we evengoed in onze omgeving iets verkeerd doen wat net hen buiten houdt; hen doet afzien van wat er leuk is om die reflex gewoon te ontplooien; om met techniek dingen te gaan maken; om slecht gemaakte dingen te gaan veranderen.

Hoopvol: misschien worden dit soort vakken, studies en beroepen vanzelf voor hen ook een stuk boeiender als het meer gekoppeld wordt aan samenwerken, aan het oplossen van echte problemen voor echte mensen, en minder aan het éénsporige, eigenzinnige "l' art pour l'art" wat nu meer oplijnt met het competitie-straatje van die andere subsoort: "Hebde mij gezien?"

Geen idee. Ik help het hopen, maar ik zou het echt niet weten.

Maar wat ik wel durf te stellen: laat ons vooral gewoon doen, en dus meteen ophouden met de misplaatste positieve discriminatie.  En dan bedoel ik voor de duidelijkheid "van de mannen".
Dat rijmt met hoe ik de werking van positieve discriminatie heb leren bekijken sinds de podcast-aflevering "White affirmative Action" van de fantastische reeks "Seeing White" over de achterstelling van zwarten in de US.

Dit jaar, op reis in Nieuw Zeeland ben ik zotjes gaan meedoen met een open water zwemwedstrijd van 5k in Lake Taupo. Tegen dan had ik al vaker de no nonsense pariteit van hun samenleving mogen smaken.  Toch was het detail weer meteen opvallend: een ruim deelnemersveld van fifty-fifty mannen en vrouwen.  Vergelijkend: bij ons is 15% gangbaar. Snelle berekening: onder mijn concurrenten in NZ waren dus vermoedelijk 70% dames die gedurende hun leven niet hebben moeten leren conformeren aan het overbodige "Laat dat maar, dat is niet voor meisjes".


Nog één anekdote om het af te sluiten, mijn favorietje na 5 jaar coaching bij Coderdojo.  Die keer toen die moeder na een aantal sessies haar geluk niet meer kon wegsteken en stralend kwam verklaren hoe blij ze was dat ze ons ontdekt had, hoe haar kind helemaal opleefde. En dan vooral: hoe onbereikbaar haar dat een jaar eerder had geleken, want nergens anders leek dat kind "te passen", nergens uit de voeten te kunnen. Dat kind was namelijk helaas "niet zo bijster sociaal".  Yep. Het normale stereotiepe beeld van de contactgestoorde ingenieur.  Gekoppeld aan de blijkbaar zinvolle definitie van "sociaal" als "schreeuwend-naar-elkaar-behoorlijk-functioneren-op-een-voetbalveld". We hebben haar die keer nog blijer naar huis gestuurd door haar ongelijk te geven: "Mevrouw, je kind heeft vandaag 5 andere kinderen in de groep spontaan geholpen met hun eigen projectjes. Kinderen die hij voordien nog nooit had gezien.  Dat van dat "sociaal" daar zou ik me geen zorgen meer om maken."


Tja, onze normen en waarden. En hoe we die opwaarderen naar de te bereiken stereotiepe middelmaat. Geef mij maar de nuttige, grappige afwijkingen erop.


«The problems don't care who solves them.»  Bill Nye, the science guy. 

donderdag 19 april 2018

Turing's Razor


Robot ethics should be an extension of human ethics; and why that means we should urge programmers to simply neglect implementing trade-offs inspired by the trolley dilemma thought experiments.

Some months ago I wrote about robot vs. human ethics:

  • Turing’s Mirror: How robots make us look into the mirror. To realize that ethical robot questions are really centered around our own morals. Reflecting our own continued failure to lead by example in a landscape shaped by power imbalance.
  • Turing’s Duck: How the essence of the imitation game equally applies to ourselves. How we too just learn to pretend and to conform to expectations. Leaving ample ground for our infamous hubris.

Since then I've been struggling with this third one.  Pondering around what emerges like some guiding principle in these topics. Such "decision guides" deserve being formulated as ‘razors’, like the infamous ones from Occam or Hanlon.  And being the origin of my inspiration, the obvious choice is to name this one after hero Alan. All while happily giving in to the stylish fit of making a sequence of three 'Turing' blog titles :)
Image credits : Jeff Osier-Mixon. CC BY-SA 4.0

Here is what I’m calling “Turing’s Razor” :

Do not ask robots to achieve ethical norms no human needs to adhere to.

Some derived versions spontaneously sound like:

Do not blame on technology what humanity has successfully mismanaged for ages.
Don't attribute to technology those moral failures we humans couldn't resolve (without it).

And it leads to this obligatory corollary:

Stop it already with endlessly letting those meat-brains get off the hook when artificial brains show a path to doing it better.

With one eye on this shiny new compass, we should be able to navigate this modern age landscape, avoiding the steep cliffs of false ethical questions.

-oOo-

No way back

Before getting deeper though, it should be clear that there is simply no way to avoid thinking about these issues.

Take for instance the discussion on DNA Databases.  Obviously this gets condemned as too strong a violation on our public rights, freedom and privacy. Still, there should be room for the careful progressive approach: if current state of legislation, practice and lack of transparency urges us to strongly oppose, than do so, but also start thinking about the right way to do it. You want to be ready for that time when this does become allowed practice: did you spend all your energy strictly at opposing, or did you, in the meantime, also craft up the process to correctly supervise the usage? Principles are useful, less so: being blindly principled about them. Finding a good set of regulations to control possible but avoidable mistakes really is due.

The cry to return to happier times when these questions played no role is a false one: There is simply no ‘undo’ to progress. Once escaped from pandora’s box we just have to reckon with every possible fringe abuse of even the most benign invention.
The other extreme is equally untenable: “To abandon all regulation so not to inhibit 'Future' itself along its disruptive path.” No, we can do better than just hoping for the best. Guard the balanced outcome for all involved.

Both extreme visions will accuse the other side of being overly naive, while neglecting that both are entangled in a race in naivety. The useful cases are born in the same nest as their evil twins, the fruitful trees seeded amid the tares: careful weeding is a balancing act requiring attention. Controlling the usage must be separated from prohibiting the technology. The boundary between the beneficial and the dangerous is too thin to use anything else than the sharpest lancet. So, lay aside your sledgehammers.

We have been here before, at least if you can believe Ash Carter in "What I Learned from the People who Built the Atom Bomb"

I'll give you a topic...

Checking how well this new razor actually shaves requires searching for a suitable beard: What about lethal accidents of self driving cars?

This topic has been covered more than just a bit. Quite a challenge to find anything to add to what is already in the mix. Some references to get up to speed:




Some of those reference the trolley dilemmas; some take that down to the grim boundaries of "counting lives" (which made me think of this old Chernobyl documentary); some succeed in considering this as non-harmful practice, even beneficial and necessary, as it resembles (almost) the practice of medical triage; some strongly aim for the pragmatic "don't let the perfect be the enemy of the good"; some call upon society to "at least ask the right questions?'; some just have the Frankenstein Reflex written all over (term coined by Isaac Asimov); some arrive at the conclusion that "robot ethics should be a natural extension of human ethics". But none of them listened to grandma.

Best effort

Grandma assured us over and over: "It never hurts to do your very best." Applying Turing's razor we should investigate first what our reaction is to failing human drivers. Particularly those who pass grandma's test with flying colors (i.e. didn't do drinks nor drugs, slept enough, kept themselves and their car in shape, adapted speed to circumstances, kept attention on the road, not on media device, etc... ) If we can allow some of those to actually get off the hook, and be pardoned by admitting there was no possible better outcome; that whatever horrific turnout can be mildly covered under the cloak of "just bad luck", … if so, then why would we not be able to come to the same conclusion for robots? Or their programmers?

I admit that pulling in the trolley dilemmas starts from a defensible position: after all: good prevention, like good robust programming is all about considering "what if" scenarios to a large extend.  Passed that initial outlook of logic it took me quite some time to see how this line of thought unwittingly opens the door for something else to sneak in. Two things in fact.

  1. for the robot: We silently extend the check-sheet for evaluating his 'very best' driving skills.
  2. for the coder: We ignore that doing his 'very best' plays in a different realm.

Doing your best driving around safely does not overlap at all with being the best moral judge in split-second valuation of fellow human beings.  If it would, getting a driver's license would include obligatory passing university classes in advanced ethics, moral judgement and human potential assessment. Why do we now add this in the mix? Is this just because we (think the robots) can? Are we so satisfied with predicted safety levels of self-driving cars that we think it is (ever) good enough? So good at least that doing your best at pure safety and avoidance will reach some limit, after which it gets redefined to finding the best trade-off? Or is that giving in to mediocrity? Let me tell you this: Judge "grandma" will be less than pleased with a robot explaining it dedicated part of its processing power to evaluating and counting lives rather than strictly avoiding all possible harm to the fullest of its ability.

But where to shift blame? Since we don't know yet how to prosecute and sentence robots themselves, the programmers suddenly show up in the crosshairs. They can make judgments, right? They can negotiate trade-offs. They can agree on a set of moral rules. They too have to do their best. I agree, but we should notice that they play on a different level.  They're not the ones driving, they are coding. Coding is policy making: defining the rules of engagement that will eventually be executed. We have a different set of standards for those.
The trolley-equivalent of their role is that of the railway-security-engineering team, and it is simply not present in the trolley dilemmas. The questions they are solving would be: How could any person ever end up on a track where trolleys pass? How do we avoid that unsupervised bystanders are operating our switches? How to design security fences on all bridges to keep (even fat) men to drop down from them? Admittedly, the execution of this job does involve trade-offs, balancing and what-if scenarios. But doing your 'very best' in this realm assumes neutrality, removing all possible personal bias, extracting generic strategies out of specific cases, aiming for statistical overall best performance. It too refrains from valuing individuals and counting lives. Acceptable policies are as blind as Lady Justice. Good performing policies are designed to do equally well regardless of the person involved.

Thus programmers are relieved from coding in trolley-like (case-based) ethical decisions, and the robots are relieved from negotiating which people get to live. Their common guiding principle becomes the one we've known for ages: "do your very best to do no harm". Zero tolerance on making any victims.  Such principle becomes a clear instruction towards programmers, one that should get them to feel proud about any invention they add towards that goal. More beer and pizza to them!

-oOo-

Bad luck

If we all keep doing our best the failure count will go down. Nevertheless, remaining cases will exist. And so returns the notion of "bad luck".

Most likely this will hit hard with the paradox of "totally unacceptable improbability". The lower the chance that something bad happens to me, the more unacceptable that becomes. Why me? This must be intentional! Who is behind this?  The better these robotic drivers become, the less prepared we will be to accept the remaining fatalities as ill-fated.
Consolation (probably less so for those directly involved) comes from knowing that these versions of "bad luck" no longer should be "in vain".  Each specific failure will end up being analysed and turned into fixing the policy - I meant the code -  when ready: instantly deployed, not to happen again.

We know how to do this, since we have such procedures in place for dealing with accidents in air traffic.  Whatever the reasoning behind it: We seem to apply these analyse-to-remediate procedures to larger extend as the transportation mode is more automated or mechanic. Considering Turing's razor we should question this strange, unmotivated privilege towards those ape descendants.

One more thought, in a desperate attempt to avoid receiving the label of devout dataïst or naive futuroptimist.

Maybe, just maybe, the only way for us humans to really trust these robots, is for them to be as failure-prone as we are?

-oOo-

This article is part of a series: Turing's mirror - Turing's Duck - Turing's Razor


update: I came across this quote attributed to Arthur C. Clarke. It says it all.
One cannot have superior science, and inferior morals.
The combination is unstable and self-destroying.
– Arthur C. Clarke
update: Found this project "The Moral Machine" at MIT for measuring what humans generally think should be done in certain traffic-dilemma cases.  While this is a great idea for measuring how humans think about these cases, it remains totally unclear why that corpus of facts would be a good/reliable source or guiding design principle for actually engineering "automated" safety.  We should aim higher then opt for that variant of failure that will be mostly acceptable by humans. We should stop thinking like lawyers about the blame shifting, and more (like engineers?) about doing things better. I still think Arthur's quote is right on, just make sure your morals team understands the science.

maandag 26 maart 2018

AlphaGo, The Movie - Waarom ik ga kijken.

AlphaGo Movie Poster
Op 23 april 2018 wordt in Cinéma Sphinx in Gent, als afsluiter van een reeks robot-films,  de documentaire "alphago" getoond. Alles in een bijzonder fijne samenwerking met IDLab van Ugent, GentM en het Gentse Go Genootschap. Om jullie over de streep te trekken om af te komen beloof ik bij deze plechtig om nooit meer - ook de avond zelf niet (dat wordt tong afbijten) - onderstaande riedel af te steken. De hoe en waarom van mijn passie in het samenvallende brandpunt van hobby (GO) en interesse (AI).

Lees het misschien toch eens. Maar vooral: keihard gaan kijken!
Dit is bijna net helemaal niet de kortst mogelijke versie geworden van mijn gedachten hierover. Wie enkel op zoek is naar voldoende context en goesting voor de film zelf kan beter de teaser opvissen op de pagina voor de aankondiging en tickets. Of scroll door naar de trailer een beetje verderop.
Er zijn trouwens ten overvloede wat nerderige details in dit verhaal. Die zijn natuurlijk onderwerp van uw spontane reflex: zijnde overslaan (de ene) of betweterig verbeteren (de andere). Voor het gemak van beide groepen staan ze achteraan als voetnoten verzameld.

Wat verwacht je van de documentaire.

Veel.  Spanning al zeker. Uiteraard het soort voorspelbare spanning van historische films als ‘Pompeii’ en ‘Dunkirk’: Je hoeft je niet echt af te vragen hoe het afloopt. Toch vermoed ik dat de toevoeging van menselijke emotie, persoonlijke verhaallijnen, tussenliggende overtuigingen, misvattingen, doorbraken, falingen, gemiste deadlines, en een goede klankband ook hier de onwaarschijnlijkheid van het behaalde doel in de verf zetten.

Dus ook te verwachten: dat vleugje ‘the underdog wins’ van de klassieke sportfilm. Afgezet tegen het menselijk drama: Lee Sedol, strijder voor de eer van de mensheid, de gedoodverfde winnaar en zijn gedwongen transitie naar sportieve verliezer. Geserveerd op een bedje van eindeloos respect en etalage van zijn lef, inzet, toptalent en kunnen. In dezelfde sfeer ook rolt de aftiteling straks vast over een opgebouwde piek aan optimisme heen: jubelend om wat we als mensheid kunnen bereiken. Ik weet even niet of ik het wel droog hou.

Voor mij en vele anderen zit er ongetwijfeld ook het plezier van herinnering en herbeleving van vijf keer heel vroeg opstaan in maart 2016 om de spelletjes live te volgen.  De verbazing van toen nu kunnen aanvullen met details uit een blik achter de schermen. Lekker.

Content als een spinnend katje opgerold bij de kachel. Popelend als een jonge merrie, de rug rollend in het lentefrisse gras. [*]


Wat er aan vooraf ging. 

Computerspelletjes (of computer-varianten van echte spelletjes) zijn gedroomde speeltuinen om Kunstmatige Intelligentie (kortweg AI) te kweken en te testen. De redenering vertrekt van intelligentie bekijken als het potentieel om te overleven in een wereld vol ondoorgrondelijke uitdagingen. We vinden onszelf als mens namelijk nogal wat op dat punt: We hebben toch maar mooi onze weg gevonden in een wereld waarvan de regels niet netjes vooraf in de bijsluiter zijn meegeleverd (fundamentele fysica om maar iets te noemen); we hebben als uitbreiding van de ons ingebakken overlevingsstrategie een aanzienlijk corpus aan kennis opgebouwd; we geven dat aan elkaar door terwijl we er blijven aan sleutelen.  In die visie zijn spelletjes vooral kunstmatige (vereenvoudigde) werelden waarvan we de complexiteit kunnen bepalen via de regels die er gelden. De mate van bereikte intelligentie (ie dus potentieel om te overleven) valt er ook gemakkelijk af te lezen aan de behaalde score, winst of verlies.  Voor onderzoekers dus een dubbele bonus: schaalbare complexiteit van simpel naar altijd maar reëler, én een ingebakken score waarmee je succes meet. Het zou best kunnen dat spelletjes daarom ook nuttig en populair zijn in de opvoeding van onze mensenkinderen.

Redelijk snel slaagden automaten erin de eenvoudiger prooien uit de speeldoos (boter-kaas-eieren en dammen) naar hun hand te zetten. Daar lag niemand echt wakker van. Boeiend werd het toen het spelletje in kwestie voor de mens zelf een uitdaging vormt. Toen in 1997 de IBM computer "Deep Blue" in New York (na de in 1996 mislukte eerste poging in Philadelphia) won van de toen heersende kampioen en schaaklegende Kasparov was dat niet minder dan wereldnieuws.

Op die dag was er gelukkig nog “Het Chinese bordspel Go” als geruststellend onbereikbaar eiland: "Dáár zijn de mensen wél nog veel beter in"; voor de onderzoekers werd het meteen de volgende te halen scalp aan de riem.

Vanwaar die magie van Go?

Go is niet alleen duizenden jaren oud, het is in een groot deel van de aziatische wereld ook vandaag ontzettend populair.  Het wordt makkelijk vergeleken met schaken (van bij ons).  Zoals het een goede vergelijking betaamt loopt die op veel punten mank. De culturele impact en positie van het spel is ginderachter vele keren groter dan wat wij, westerlingen, vermoeden op basis van het eigen schouderophalen bij de exotische buur of kennis die zijn kinderen wél naar de schaakclub stuurt.  Die stevige culturele bodem komt trouwens mee aan tafel met een flinke stempel aan etiquette-regels die rond het spel leven.
Two children playing Go - Movie Still
Alphago Movie Still - courtesy Google DeepMind and Roco Films Educational
Wie zoekt naar kunstmatige strategieën om dit varkentje te wassen ontdekt snel de andere mankementen in de vergelijking.  De complexiteit van Go overstijgt die van schaken met vele grootteordes.  Dat getalsmatig uitdrukken gebeurt vaak via het tellen van het totaal aantal mogelijkheden: Van Go wordt gezegd dat het spel meer mogelijke spelsituaties kent dan er atomen zijn in het universum. [1]
Maar daar begint het probleem pas. Niet alleen zijn er véél spelsituaties te overwegen, de inschatting van elk ervan "Is dit gunstig voor mij of voor de tegenstander?", is steeds onzeker.  Bizar als je het vergelijkt met schaken, want het eindresultaat in Go is absoluut duidelijker: winst of verlies zijn de enige opties; aan pyrrusoverwinningen als remise en pat doen ze niet mee. Maar alle situaties vóór 'the end game' zijn niet in een eenduidige getalwaarde te vatten.  En dat maakt het een onmogelijke zoektocht: Waar is het verborgen pad van zet en tegenzet dat je kan leiden van waar je nu bent, naar de situatie waar je wilt eindigen: winst! [2]

Je voelt zo de paradox: de go spelregels zijn eenvoudig en elegant.  Uitgelegd in de tijd nodig om alleen al de verschillende schaakstukken te herkennen. Precies die bedrieglijke eenvoud schept een virtuele wereld waarin ontzettend veel meer mogelijk is; waar meer afgeleide kennis te ontdekken is; waar de schat aan overgeleverde speel-strategieën onbewezen, dus aanvechtbaar blijven; waar nuance en balans de codewoorden zijn; waar elegantie, eenvoud, en intuïtie regeren; waar besprekingen zijn opgetrokken uit metafoor en poëzie.

Google vs Facebook

De recente geschiedschrijving van ‘de aanvallen op het kraken van Go door automaten” geeft uiteraard de grote IT bedrijven hun rol.  Zo was er begin 2016 de beloftevolle aankondiging van Facebook. Hun inzicht was om de opgedane kennis van gezichtsherkenning in te zetten om de structuren en patronen voor winst en verlies te herkennen.  Niemand wist dat ondertussen een klein bedrijfje uit Londen, slim opgekocht door Google, reeds een veel belangrijker mijlpaal in die wedstrijd had behaald.

DeepMind ging in die periode al over de lippen. Ze toonden behoorlijk indrukwekkende resultaten in een onderzoek naar een AGI.  Die afkorting laat zich lezen als een AI met ambities richting de G van Generiek. Een kunstmatig brein dat inzetbaar is los van het specifieke probleem (de virtuele wereld) waarvoor hij is ontwikkeld. Hun claim to fame: één dergelijk AGI systeem dat, na onbevangen rondlopen in de verschillende werelden van de klassieke Atari games (space invaders, pong, break out, …) zichzelf leert om te overleven in elk ervan, op niet minder dan bovenmenselijk niveau.

Dat ondertussen in november 2015 ook de Europese Go kampioen Fan Hui van een eerste versie van alphago een droge 5-0 aan de broek kreeg gesmeerd bleef onbekend tot hun wetenschappelijke paper erover verscheen begin 2016. Complete verrassing. De meest optimistische AI volgers (ik beken schuld) hadden nog net hun verwachtingshorizon bijgesteld van het gangbare ‘over tien misschien’ naar een hoopvolle ‘vijf’ jaar. De deep-mind-paper maakte die inschatting meteen onnodig conservatief.  Plots stond dit doel binnen het tijdsbestek van één of twee jaar op de agenda.

Zo ruim bleef die inschatting wel; ze werd ook niet bijgesteld na de aankondiging van “The DeepMind Challenge Match”. Hun eerste topwedstrijd met de legendarische Lee Sedol had een duidelijk aura van jeugdige overmoed.  Dat zou volgens zowat iedereen het equivalent worden van de schaakles die Deep Blue in Philadelphia ‘96 kreeg geserveerd.  Die geruststellende gedachte werd mee gedragen door het verschil in ranking tussen Lee Sedol (9p) en Fan Hui (2p): op honderd spelletjes tegen elkaar zal de laatste er statistisch maar eentje winnen. Die onbekende alphago had nog niets bewezen.

We're not in Kansas any more.

Het is anders gelopen. In maart 2016 werd aan de Go wereld een nieuwe grootmeester geopenbaard. Strikt gezien "onbezield", maar steeds geduldig en beschikbaar, én met een schat aan nieuwe voorbeelden en achterliggende strategieën die een belangrijke revolutie in het spel beloven.  Aan de AI wereld werd getoond dat er sinds Deep Blue heel wat is veranderd: toen was de evaluatie eenvoudig: "Rekenkracht" maal "Aantal gecodeerde regels". Na een eerste tegenvaller lag winst in het vooruitzicht door beide factoren op te trekken. De complexiteit van de Go uitdaging heeft echter een andere aanpak afgedwongen, en die resulteert in een radicaal loslaten van strikt gecodeerde regels. De zoektocht nu is naar een elegant brein dat zelf ontdekt en zo evolueert naar een intuïtieve efficiëntie die zelfs belooft met immer minder rekenkracht tot de juiste conclusies te komen.  [3]



Nerd Alert: Voetnoten lezen op eigen risico.  Inhoudelijke suggesties en correcties welkom.

[1] Het schatten van het aantal mogelijkheden.

Schaak en Go zijn bordspellen met speelstukken, een spontane reflex is gewoon tellen hoeveel mogelijke spelsituaties (ook wel aantal bord-configuraties) er theoretisch mogelijk zijn.

  • Schaak wordt op een 8 x 8 bord gespeeld met 2 x 16 stukken.
    De 32 stukken kun je op de 64 velden plaatsen op een eindig aantal mogelijke combinaties. 
    Een bovengrens daarvan laat zich ietwat naïef berekenen als 64! / 32! ≈ 1054
  • Go wordt gespeeld op een 19 x 19 bord met zoveel stenen als er in de loop van het spel blijken nodig te zijn. (men speelt overigens op de kruisingen, niet op de velden)
    De berekening van het aantal mogelijke configuraties gaat er dan van uit dat elk van de 361 kruispunten in 3 mogelijke toestanden kan staan: wit-zwart-leeg. 
    De schatting voor Go wordt dan 3361 ≈ 10172, het getal dat de onderbouw levert voor de uitspraak “meer dan het aantal atomen in het universum (≈ 1082)”

Bovenstaande berekeningen dienen slechts als bovengrens en eerste raming.  Ze worden meestal snel gecorrigeerd via ontdekte symmetrie en herhaling: als je bv. begrip kleur uitschakelt door zwart of wit te zien als mij vs. opponent kun je dat aantal borden al delen door 2 (wat goed is voor de één is vanzelf slecht voor de ander). Idem met links-rechts, boven-onder. (Die laatste bij schaken niet 100%). Verder zijn er terugkerende stukken: 8 pionnen, 2 paarden, 2 torens, … dat op zich zorgt voor permutaties van identieke bord-configuraties, die kunnen geschrapt worden. Tenslotte zijn er regels of afgeleide inzichten die bepaalde configuraties uitsluiten: in schaak kunnen de pionnen niet op de eigen achterste lijn uitkomen en staan de lopers altijd op een tegengesteld kleur; in Go worden gevangenen van het bord verwijderd, etc. etc.

Daarna wordt, op zoek naar meer optimisme, verder gereduceerd.  Aangezien niet elke bord-configuratie logischerwijs bereikbaar is vanuit de huidige spelsituatie is het niet nodig om in je volgende beslissing ook alle mogelijkheden te overwegen.


  • Schaak heeft een hele resem specifieke stukken, met hun eigen gedragsregels en een behoorlijk (in de start zeker) druk bezet bord. Die drukte en regels werken beperkend. Er wordt aangenomen dat er per beurt doorgaans maar een twintigtal geldige zetten te overwegen zijn.
    Bij die overweging dien je natuurlijk vooruit te kijken: er zal een tegenzet komen en verdere reactie op reactie tot het spel eindigt. Alleen bewegen de stukken voortdurend. Dat maakt dat de invloed van de ingenomen positie niet noodzakelijk heel lang blijft duren. Er wordt aangenomen dat het volstaat om 16 zetten vooruit te denken om de impact van je zet te overwegen.

    Dit laat toe te schatten dat je op elk moment eigenlijk vanuit de huidige situatie kunt volstaan met de evaluatie van 2016 ≈ 1021 verschillende situaties.
  • Bij Go is bij elke zet elke vrije positie inneembaar; aan het begin bij een leeg bord zijn dat er 361(*); tegen het eind wordt dat aanzienlijk minder, maar we kunnen aan de slag met een gesteld gemiddelde van 200 mogelijke zetten per beurt.
    ( (*)Nee, ik weet het. Ja, dat is totaal onwaar voor de eerste zet, want de eerder genoemde symmetrie ontplooit dan zijn volle kracht en reduceert echte vrijheid tot 55 mogelijke ‘echt verschillende’ zetten, waarvan er in de praktijk maximum 35 echt overwogen worden.)


    De stenen bij Go blijven op hun plaats (tenzij ze gevangen genomen worden).  Daardoor, kan het stuk dat in de eerste zet gespeeld wordt zijn effect laten voelen op het einde van het spel.  Als we rekenen dat een spel vlotjes naar de 200 zetten gaat besef je snel dat zo ver vooruitdenken voor niemand haalbaar is.

De analoge berekening toont na deze redenering ook geen reductie: 200200 ≈ 10460. Dat zou meer zijn dan het totaal aantal borden. De berekening heeft dus teveel hoeken afgesneden (Naar mijn idee vooral het feit dat er bij elk zet in de regel enkel stenen bij komen en we evolueren naar een steeds voller bord; maar zeker ook het feit dat we de Ko regel nergens in rekening hebben gebracht: tijdens een spelletje Go kan dezelfde spelsituatie zich nl. geen twee keer voordoen).  Maar goed, de conclusie dringt zich op: Hier is geen beginnen aan.

[2] Hoe de waarde (gunstig/ongunstig) van een bord evalueren

Het woord dat in deze context al eens valt is heuristiek: de beschikbare instrumenten, door de mensen ontdekt, om methodisch, meetbaar, voorspelbaar tot het gewenste resultaat te komen.

Die berekenbaarheid, aftelbaarheid of meetbaarheid maakt een ander belangrijk verschil tussen Go en schaak


  • In schaak leeft een gangbaar aangenomen waarde-rangschikking van de verschillende stukken. Het rekensommetje Σ (stuk * waarde) is dus snel gemaakt.
    Verder valt door de bewegingsregels van elk van die stukken ook na te tellen hoeveel velden ze controleren, hoeveel bewegingsvrijheid ze zelf nog hebben, … allemaal verschillende aftelbare aspecten die met een slimme gewichtsverdeling tot een zinvolle score per spelsituatie leiden.
  • In Go blijven dergelijke redeneringen niet overeind.  Alle stenen zijn identiek en hebben dus een zelfde waarde. Maar gewoon het aantal tellen is jezelf bedriegen: De vorm en positie van de gemaakte omtrekken is belangrijker dan het aantal aanwezige stenen op het bord. Aan die patronen wordt tijdens het spel voortdurend gesleuteld, en de gidsende principes daarbij zijn steevast een afwegen van tegenstrijdige aspecten: speel ik nabij de rand of eerder in het centrum; ga ik de ander knippen of net mezelf verbinden; ga ik voor territorium (zekerheid) of invloed (potentieel); ben ik verspreid overal aanwezig of zoek ik consolidatie, …

Het is lastig om (formeel) uit zoveel nuance een eenduidige getalwaarde te destilleren, het spelverloop zelf (inclusief de keuzes van de tegenstander) zal bepalen welke kant van de afwegingen het meest waardevol is. Zoeken naar ‘balans’ wordt zo een basisattitude om hier te overleven. Maar die is moeilijk van eerlijke twijfel of onbeslistheid te onderscheiden. Elke ingenomen stelling kan op de korrel genomen, en ondoordacht extra verdedigen kan de zaak net kwetsbaarder maken. Kenmerkend voor dit fenomeen van onduidbare waarde-inschatting zijn de poëtische metaforen die voor de beschrijvingen van spelletjes gebruikt worden.  De verklaringen van een kenner voor een gemaakte meesterzet wordt heel vaak: “Het voelde goed”. Porbeer dat als programmeur maar eens in code om te zetten.

[2'] Halverwege laat ik hier vallen dat het concept 'pat' (onebsliste schaakwedstrijd) niet bestaat in Go. Daarmee ga ik gemakshalve voorbij aan de mogelijkheid van de zgn. "Seki": uiterst onduidelijke situaties waar beide spelers geen voordeel halen bij een volgende zet. 

[3] Het “verhaal sinds de overwinning in 2016” schetst bijzonder goed wat er ons nog te wachten staat. We zijn tenslotte al 2 jaar verder.

In de originele versie van alphago was er sprake van een samenwerking tussen twee beslissende organen (twee neurale netwerken). Het zogenaamde ‘policy network’ en het ‘value network’.  De eerste maakt een inschatting van wat gangbaar als volgende zet (of tegenzet) te overwegen valt. Als dit optimaal werkt, is het in staat om het aantal te overwegen spelsituaties aanzienlijk te reduceren.  Daarna kwam het value network aan de beurt om een effectieve waardebepaling te doen van de bereikte situaties, en aan de hand daarvan een optimaal pad te zoeken richting winst. 

Zoals aangegeven zijn de menselijke richtlijnen omtrent de waardebepaling in Go ofwel zinloos ofwel niet formeel uitdrukbaar.  Het value-network werd daarom getraind vanuit het grote niets: alphago kreeg een bord, de steentjes en de opdracht: speel wat tegen jezelf en leer daaruit wat werkt en wat niet. Dit echter niet zonder eerst het ‘policy network’ te trainen. Hiervoor werd dit deelsysteem gevoed met een grote set (honderdduizend) historische spelletjes, door mensen ooit gespeeld. Na die training ‘weet’ het systeem dus nog niet wat een goede zet is, maar heeft het voldoende leren afkijken om alvast te weten wat de meest gebruikelijke tegenzetten zijn.  Daarmee wordt de door zichzelf gespeelde leerset voor het value-network (één miljoen spelletjes groot) meteen meer 'zinvol' dan pure random pogingen.

In de zomer van 2017 kwam ‘alphagozero’ op de proppen. In de ‘zero’ variant betekent ‘zonder de suiker’ gewoon dit: we hebben het policy network, en daarmee ook de afhankelijkheid van door mensenhanden verzamelde sets om van te leren uit het systeem verwijderd.  Dit nieuwe beest leert alles zelf, helemaal from ‘first principles’ (de spelregels). Het bouwt zelfstandig een begrip van hoe de wereld van Go werkt en hoe je daarin het beste overleeft.

Twee markante opmerkingen bij de gepubliceerde resultaten zijn alvast deze:

  • Men vergelijkt de prestaties van deze nieuwe variant niet langer met de prestaties van menselijke spelers (Waarom zouden we? Wie is nu de norm dacht je?) De grafiek toont enkel na hoeveel dagen training het niveau van de vorige versies werd overschreden.  Menselijke namen verschijnen daarbij als historische voetnoten: "Je weet wel, dat is het niveau van die versie die won van Fan Hui (2015), Lee Sedol(2016), of Ke Jie en 60 go-meesters (2017)".
  • De nodige rekenkracht (zowel bij training als bij effectieve uitvoering) is ondertussen teruggebracht tot een fractie van wat nodig was in de eerdere generaties. De meer ontastbare “intuïtie” lijkt het meer en meer te halen van ruwe rekenkracht.


En om de schakers op het einde van dit verhaal helemaal op te beuren. In najaar 2017 was er ook de variant ‘alphazero’.  In deze nieuwe spelling is de ‘GO’ uit de naam geknipt omdat men hier de go-regels eruit en de schaak-regels erin kan pluggen.  Na vier uur trainen in schaak-land werd de maat genomen van StockFish, de heersende norm onder de schaak-computers, een AI klassieke stijl, tjokvol heuristische regels, waardebepalingen, geautomatiseerd oud menselijk inzicht. Sindsdien worden de youtube-schaak-kanalen bevolkt met analyses van de jammerlijk verloren partijen: daar kunnen we namelijk weerom écht iets van leren, want menselijke oude inzichten zijn geen onderdeel van zijn bias.



[*] Laat ons eerlijk zijn: Met +100 nerds samen in een donkere kamer… én een spelletje Go achteraf!