A bots license to kill.

This is a lengthy reaction to FLI Podcast: Why Ban Lethal Autonomous Weapons?

(LAW == Lethal Autonomous Weapon)

First off: thanks to the makers for the insightful podcast. Even if it made me cringe often, it also made me question, rethink and better argument my own believes and concerns in this area.

However... :)

There are three elements I strongly missed, or rather, I oppose three implicit assumptions that seem to be unquestionable:

1. why weapons
2. why robots vs humans
3. why not consider to promote

In reverse order:

Where are the opposing views? 

While I consider myself on the "ban"-side, I really miss an honest investigation into what benefits there are. What could we gain from having access (even massively) to these LAWs?

Seriously:

• These life-death decissions, and their executions really look like one of those "dirty jobs" we'ld hapilly be ofloading to autonomous systems, right? Less stress for humans, less strain on humanoid conscience, ...
• Humans are known to be error-prone. Doubly so when in stressful situations. There is no reason to see this as a benefit. When considering that single case of (only human possible) mercy, we are probably ignoring the ten unneaded victims he made.
• Everyone having one of those LAWs might sound horrifyingly distopian, but it also kind of "leveling the playing field", better avoiding power-imbalance, distributing potential use of (protective) lethal violence more evenly. In this (utopian) view we all get to be assigned a robotic guardian angel, one to be reckonned with. Hell, yeah!

Better examples to be found; but in any case: I really think AI is in the corner of "large potential benificial progress" - I fail to see the a priori reason why this could not also be in the area of managing, controlling, countering, balancing lethal violence.

-oOo-

The strange case of two distinct ethics

Again and again I am puzzled by this artificial (and once more: upfront, unquestioned) divide between robots and humans in ethical questions. I understand these robots are new, and obviously not-human. With their development new ethical questions arise, new insights are to be found. But these are to be extensions, completions, adaptions of whatever ethics we already have: there is no second set of ethics to consider. This is about us.

I've written at length about this on my blog-series on ai-ethics: Turing's mirror - Turing's Duck - Turing's Razor

To me the separating screen in Turings test really functions as John Rawls' "veil of ignorance" or the blindfold on Lady Justice: "What if we didn't know if it was a man or a bot?"

So for me, unwilling to make a priori human vs bot distinctions, this podcast made a threasure trove of cringeworthy moments. Almost each time the 'human' is explicitely mentioned:

• When "human dignity" is considered - as if the value of one's life is measured by the way it is taken away.
• When killing robots are said to "dehumanize war" - as if man needed help to do that, really?
• When we seek "meaningful human control" - as if we really trust humans?

As an aside: I live in Flanders, Belgium, near the visible remains and memory of the devestation of world war I. Maybe the CCW should have be held over here, in stead of in Geneva?

I loved the "do no harm" approach. But when it comes up, it gets to be the prerogative of the "medical community" (some special brand of humans?). Why is this not considered the core of the more broad "human nature" (military and law-enforcement communities included). And if so, why would this not naturely be expanded to a "universal guiding principle" that also drives and governs automates?

In our own history we continue to abuse abstract devisions to separate, to blame, to dehumanize, to oppress and finally to kill. Let us stop now. AI challenges should help us overcome differences and devisions between humans; let us not need one more distinction to achieve that.

-oOo-

LnAWs

So obviously. I find it awkward to hear fifty minutes of talk about banning lethal autonomous weapons, and just take for granted: the natural existance of lethal non-authonomous weapons.

Whatever rules we have on the latter, should naturally be extended and applicable to these new ones. And if the new ones make us reconsider: it must be because we hadn't thought well enough about the old ones in the first place? (No, I'm not baiting for NRA style reactions. This is not about the US)

Our current approach to lethal weapons shows we can be organisationally realistic and legislatively optimistic at the same time.

Legislation already states "You should not kill". Still we understand bad sheep will emerge, so we introduce 'law-enforcement', a state organized monopoly on violence to be used to avoid greater harm / more violence. This tends to work. The strange thing is: we know individuals within the law-enforcement fail. Apparently this proclaimed "meaningfull human control" is not flawless. This shows our trust does not go towards those individuals, but to the institute.

We are in fact *not* looking for individual human control, we are satisfied with an organizing controlling-society. A society defining and adjusting the policies and rules of engagement. One that supervises and reports back on actual execution. One that disciplines the abuse of trust. One we are part of ourselves.

-oOo-

To close up: I really think (paradoxically) that calling to "Ban LAWs" is the worst possible strategy at achieving a ban on LAWs. (or rather LWs of any kind)
In dossiers like this (strong opposing ethical matters of principle) the solution never comes from those digging-in or standing their ground. Not from those declaring their views as "non negotiable". In this case I would expect more practical result from carefully leaving the high moral ground towards a negotiable position of some objectively verifiable test. From changing the narrative from "Never cross this line" to "Ok, but only if it passes this level".

You might of guessed: In my world-view passing that very test that makes any law-enforcer deserving of "our (society) level of trust"; that test should be applicable to both man and bot. If we end up in a future where we can gradually raise the bar in that test, we should consider that a good thing. Even if those levels grow to be achievable only by 'them'.

One might recognize in this strategy the vague reflection of what Turing did in his paper "the imitation game": Facing the claim that "computers will never be intelligent", he simply made 'intelligence' into a falsifiable assertion: an objective test. By hiding the nature of the participants behind the screen, he left the a priori principle that it (intelligence) could not be achieved by one of them. In return we got into an interesting race of "ever better".

-oOo-

This comment displayed some agency in stubbornly requiring publication here, to balance the irony and frustration of getting killed off (i.e. marked as spam, probably for containing a perfectly valid URL) by, surely, a robot!

My (lengthy) reaction to https://t.co/RA4HGETJ98
from @FLIxrisk got automatically (oh irony) *killed* (rather marked as spam) by the bot @disqus

Lucky for me I could give it a second life: https://t.co/W638vnhWRk

— ☮️ Marc Portier (@mportier) 10 april 2019

Turing’s Duck

In reply to those convinced that “Robots will Never…”

24/7 life-like performance of waggle and quack

In 1950 Alan Turing wrote his paper “The Imitation Game”. The paper is still relevant and keeps providing food for thought, well beyond the popular Turing Test⁽¹⁾ it proposes.

In this paper Alan addresses the question “Can machines think?” and defends his own position ("Kind of Yes") well against the many counter-arguments of the time. So much so that even modern day nay-say-article-authors often fail to show they used the advantage of the past 65+ years to come up with new or stronger arguments.

Before entering this arena or contemplating your own strategy for attack I would recommend adversaries to fully appreciate the triple-F characteristics of the elegant weapon of choice Turing crafted to defend his case: it is Falsifiable, Factors in the observer and is ultimately Fair.

Falsifiable

Whatever your position is, you don't control the future. So avoid being the next guy topping the charts of "worst tech prediction" by simply not declaring absolute knowledge about anything in absolute time (like 'never').

Being a stated absolute take-it-or-leave-it fact, there is just no more conversation to be had⁽²⁾. When the prophets get caught up by the facts there is the classical two-way option to reduce the cognitive dissonance: admit to the new facts and learn, or stubbornly ignore: i.e. say people didn't understand what you meant, focus on whatever remaining gap, invent new thresholds and rules, etc.

In fact there is the third option: being about the unreachable eternal "ever", there is a fair chance you don't live long enough to experience the confrontation. Or claim your prize. So what?

Staying relevant well after your expiry date requires a more subtle approach. Turing shows what correct scientific 'falsifiable' argumentation looks like: Do not just claim (that never...), instead provide a practical test (how would we know?).

What follows is an interesting dialogue, a negotiation about how high the bar should be set, honest reflections on what we currently do ourselves not being all that perfect either. It spawns an industry and future research questions. A field populated by those searching to close the gap, committed to ever do better.

In short: it lights a path to progress. A smart angle to sail up against the wind of "never possible" defeatism. Honestly, you 're only baiting us.

Factors in the observer

The Turing Test is not (only) about the robot. And it is most striking how much people ignore that fact. The imitation game surely puts a challenge to the imitator (the robot) to wash away any differences that blow their cover. Finally though it is the 3rd party in the game (the judge) who is calling the shots: whenever he can't see the difference the imitation actually is the real thing.

This "cannot see" comes in many forms: running out of smart questions to ask, or simply failing to care any further. These are all versions of "accepting it is good enough". Turing might have been a trained mathematician, he surely has all the looks of an engineer as well.

There is a special brand of "not in my domain it will not ever" peeps. To them, there is this version. Yo, Ivory Tower Expert with the exquisite emolument for exceptional services: "Thou might know best thou areth the smartest amongst thou peers." But the humble man in dire need of your wisdom doesn't. And that might be both your (current) strength and your (future) weakness. For that customer "good enough at the right price" will nicely do, thank you. They decide who your competition really is.

If you fail to see this simple truth, you will not even see it coming.

Fair

Fitting like the blindfold on Lady Justice, there is this "Veil of Ignorance" separating the judge from the players in the Imitation Game. Each side gets an equal chance in this game. And it makes Turing's approach rather provocative. By design it leaves the possibility open.

Unlike the nay-say-author that benefits from his upfront knowledge to label us humans versus them bots in his article to eagerly protect the "Carbon Privilege"; the Judge does not have the luxury of escaping into the semantic tricks we are so used to that we even don't notice we are doing it. Upfront the word "thinking" is one we have reserved for that activity only we humans do. No matter how fast the submarine, it may dive deeper or float better, it will never "swim". The fact that airplanes actually do "fly" only reveals we don't have wings ourselves.

But Alan's setup makes it impossible to cheat.

Imitating is not cheating

I've come to believe the "The Imitation Game" is a metaphor for the life we lead. Honestly. Biologically life’s essence is reproduction (copy with variation) but socially it isn’t that much different: We grow up copying each other. The game of ‘fitting in’ requires this growing perfection of mimicking our peers. Through formal education we believe we ‘become’ a lawyer, surgeon, engineer, while in reality we are merely training our ability to convincingly role-play that part in society.

To be, as far as we know, is to imitate. Desperately. Since it isn't cheating, you may even take pride.

-oOo-

Closing remark

The Loebner Prize is an annual actual "Turing Test" competition measuring up the state of affairs of AI progress in this imitation game. Interestingly enough, there is a side-bet going on for the human players in the game as well. The price for the most human human. The person that was most easily spotted as that (faulty, messy, emotional, needlessly repetitive, whimsical, clumsy, … never dull) actual person.

See this account⁽³⁾ of the interesting 2009 winner (The video takes only 4')

So gradually, trying to convince the judges, even as a human, becomes an art in itself.

As robots become the new normal, I see lots of humans eagerly lifting themselves over some magical threshold into this new privileged pack of ‘exceptional beings’. It makes me wonder which of the two groups will eventually match the semantics of the word “artificial” best.

-oOo-

This article is part of a series: Turing's mirror - Turing's Duck - Turing's Razor

-oOo-

footnotes

(1) Note that, similar to his 'machine' it was only after time that this 'game' was named after its inventor and became known as 'the test'.

(2) This "take it or leave it" approach is the same for your religion, other elements of your identity, or sadly almost any arguable position in contemporary social issues. Somehow we forgot how to state 'negotiable' positions and are thus closing the door to any compromises, balanced solutions or win-wins. We need to learn how to recognize this kind of tactics upfront and simply refuse being fooled into negotiations with people entering the discussion like this. If reasonable people are to prevail they have to learn to be absolutely unreasonable to people showing lack of (willingness to) reason. Hell, maybe bots could help out!

(3) If you have more time to spend, I can warmly recommend this more elaborate Radiolab Podcast: Talking to machines.

Robots and Humans : the 360 ethics view in "Turing's Mirror"

How should robots and humans relate to each other? What level of autonomy or self consciousness in a robot will grant it the status of deserving liability and culpability in any harm it caused? When are we considering robots to be sentient, and how are we to relate to fellow humans obviously abusing such bots.

Few people ponder on the above questions.  For me it is growing into an increasingly fun method to think about our own human ethics.  The only trick you need for this fruitful crossover is blurring out the presupposed distinction between us and them.

That blurring takes essentially two forms, depending on your 'AI-believer' level. But as we will see, the net effect roughly stays the same. (although this distinction keeps yielding rather engaged disputes that strongly follow the adagium: "There exist no bigger fights than between two people saying the same thing in a different way.")

On the extreme one side of the spectrum you have the fundamentalists of what I call the Penrose group (after Roger Penrose, author of The Emperor's New Mind, my personal introduction to this line of thinking). Basically their conviction is that forged minds with clever algorithms will never reach sufficient levels of humanness.  In this view there remains something (almost God-like) inspired in us that fundamentally escapes materialistic simulation.

For this group the blurring exercise takes the form of considering transhumanism: the emergence of cyborg-like artificially augmented humans.

The pragmatic dreamers on the other side are still in the historic "Turing" camp. For them sufficient levels of human imitation is all that is required. If it walks and talks like a duck, there is no real point in pretending it is not.  No need to be fundamental or self-serving about it.  Beauty here is in the eye of the beholder: the observer is part of the test.

The clever setup of the Turing test factors in both the 'fooled ya!' imitation capabilities of the AI as well as the determination capabilities of the interrogator.  Passing the test blurs the line we can or are willing to draw between types of actors. In this article: actors, we make a moral judgement about.

Arriving at this similar blurred destination from the often found distinct positions in the field we see the true ethical divide more sharply.

The worry really is not around new clashing parties to be determined by their nature, or the purity of their human descent. Rather these new advances in technology bring us new thought experiments in the age old real issue: the ethics in relations between unequal parties.

When one has leverage over the other, should it not come with the responsibility to take care? And if so. Should the most sustainable nature of such 'taking care' not be obliged to avoid its own 'burden derived from privilege' by actively working towards a more balanced and thus stable power equilibrium?

Any dystopian prospect on the outcome of this question comes from a rather grim view on our own track record laid down in history. The more optimistic view not only sees progress, it also recognizes that even the pessimists use some natural and universal sense of 'Quality' and 'Goodness' to gauge the state of affairs at any time.  From there it should follow we will always be able to select the best role models, whatever their nature.

-oOo-

Much of this borrows from the African concept of Ubuntu: I become a person through the existence of other people. My connection with others is what grows kindness in me. My conscience and self image is but the harvest of that.

If robots are to provide an ever growing training in anthropomorphizing inanimate objects, we can hope that it helps us unlearn our habits of dehumanizing fellow humans too?

-oOo-

I'ld hate being accused of original thoughts, so here is my due list of references and accolades to:

- Nell Watson for the recent inspiring talk and the availability for discussion afterwards

- Kate Darling for (among other) making me think about "Who is Johnny"

- Sam Harris for (at least one pod-cast) introducing me to Kate and her work, and a perspective on the shape of any moral landscape.

- Kevin Kelly for (not) busting my myth.
- Bennie Mols for Turing's Tango

-oOo-

This article is part of a series: Turing's mirror - Turing's Duck - Turing's Razor

-oOo-

update

Some weeks after publishing this...  some news articles on AI bots inventing own gibberish languages emerged with less then comforting headlines.  The resulting twitter-discussion triggered me to bundle the essence of the above into:

the anxiety around this reveals the human race has no decent ethical answer to power imbalance

— Marc Portier (@mportier) 1 augustus 2017

so rather paradoxically we should question or even investigate if AI assistance could finally get us there :)

— Marc Portier (@mportier) 1 augustus 2017

Werk, anders bekijken.

Een wat lang uitgevallen betoog met refs en accolades naar @rcbregman @kbals @elonmusk @tbeeckman @theodalrymple @nickhanauer @fvmas @yuvalnoahharari @mcuban en al onze politici

Waarin aan bod komt

• Hoe werk en zingeving met elkaar vervlechten
• Dat we een blinde vlek hebben voor heel veel zinvol werk
• Hoe super-menselijke intelligentie ons opnieuw naar dit verhaal doet kijken
• Dat AI ons misschien wel op weg zet naar een eerlijk nastreven van wat we willen: minder werk en toch meer waarde-creatie
• Dat we geluk bij onszelf een andere waarde geven dan gebrek aan ongeluk bij een ander
• Dat woorden ons denken meer bepalen dan we bewust zijn
• Hoe links en rechts beide de kans missen om te zien en te zeggen wat we echt met z’n allen willen…

En zó lang is het nu ook weer niet.  Je kunt het trouwens in etappes lezen. Bij mij moest het er wel in één keer uit. Harioep!

Sluimertijd

Het sluimert al een tijdje in mijn hoofd. Oorzakelijk verband: Dat hoofd wordt gevoed met dat boek over de geschiedenis van de vooruitgang.  Opengebroken door de techniekjes van auteur Rutger C. Bregman. Zijn truuk: Dingen (uitkeringen bijvoorbeeld) van een andere kant bekijken. Dat prikt los door het arbitrair semantische vliesje dat subtiel ons denken beperkt. Want woorden betekenen wat ze niet hoeven te betekenen.

Ook hier telt wat ik eerder al zei: “Links en rechts zijn vandaag betekenisloos. Behalve voor schoenen en voorrangsregels.”

Alle strekkingen in het politieke spectrum houden namelijk aan hetzelfde "Wetstraat Lingo". Dat gijzelt al te veel woorden a priori in een bepaalde context. Niemand houdt de veronderstellingen in de gebruikte taal tegen het licht. Zelfs de dromers zijn niet op zoek naar gepaste neologismen. Ook zij komen er zonder niet los van de bestaande denkbeelden.

Centrum of extreem, links of rechts, alle combo’s missen de kans op radicaal, verrassend, waarachtig. Paradoxaal.

Dit recente bericht in mijn sociale kring wekt me uit mijn gesluimer:

De gedeeld link is gegarandeerd fijn, maar vooral de bijhorende quote is om van te smullen:

‘Zoals ik in het verleden reeds zei, zullen we evolueren van werk-gevers naar zin-gevers! Hoe fantastisch zou het zijn als iedereen zich kan bezighouden met wat hij/zij het liefste doet’ 

 -- Klaas Bals

Een kanjer van een nieuw beeld. Zinvol.

Maar toch. Het wekt me niet alleen, iets eraan stoort me ook.  Al bedoelt Klaas het niet zoals ik het lees, het brengt wel het perfecte haakje om mijn stroom half broeiende gedachten aan vast te hangen.

Werk-gevers

We starten bij de groep die het verschil maakt. Door de “Unizo of Voka”-PR rechtmatig voorzien van louter gunstige karaktereigenschappen. De ondernemers. De aanjagers van onze economie.  Zij die wars van het eigen risico, geconditioneerd zijn om gul uit te delen wat hun rechtschapen aard zelf hen dwingt dagelijks te “scheppen” (als ware het zand), die broodnodige jobs.  

Of de gulheid zich volgens iedereen even hard uitstrekt in het domein van de fiscale verplichtingen doet er nu even niet toe.  De krachttermen van dit betoog zijn tewerkstelling en risico, niet naïef vertrouwen in de overheid of striktheid in het volgen van (al te veel) regels.

Helaas, ook de kern van dat positief "jobs dankzij durf"- betoog ligt onder vuur. 

Dat geroemde risico bijvoorbeeld draagt al snel een vreemde tegenstelling in zich. 

Voor wie de handschoen opneemt is het, zelfs samen met hard werk, geen garantie op succes: want dat betekent nou net risico: geen zekerheid, toch moed tonen, doen! 

Toch mag je een succesvol ondernemer niet op een portie geluk aanspreken.  Dan klinkt het net dat enkel lef en doorzettingsvermogen bepalend zijn. Succes is namelijk iets dat met zekerheid iedereen met dezelfde insteek ook kan bereiken. Jazeker, maar waar zat dan dat risico weer? Welk lef precies?

In "Macht en Onmacht" van Tineke Beeckman zit ook een parel over risico-anders-bekeken. (eerste druk, pagina 126) Ze vertrekt bij Theodore Dalrymple, iemand die ook bij ons de geesten inspireert. Zijn opmerking, gangbaar in conservatieve kringen, stelt dat het gebrek aan individuele verantwoordelijkheid bij de lagere sociale klasse aanleiding geeft tot onbesuisd risicovol gedrag, met (zijn voorbeeld) ongewenste zwangerschappen tot gevolg.  Maar Tineke keert oom Theodore in één adem tegen zichzelf, en toont hoe gelijkaardig risicovol gedrag gevoed door eenzelfde gebrek aan verantwoordelijkheid heeft geleid tot (haar voorbeeld) de financiële crisis van 2008.  Bankiers en tienermoeders, rechtgehouden door de samenleving. Bien étonnés de se trouver ensemble. Het ene risico is het andere niet. Of toch?

We zijn met z'n allen zeer bereid ons individueel geluk vooral aan de eigen kwaliteiten toe te schrijven, maar we staan wel snel in de rij om de gebeurlijke tegenslag op het collectief af te wentelen. Overmoed die niet wordt bestraft door het uitblijven van geluk, wordt nooit als dusdanig herkend: dat heet gewoon moed. Slim, sluw, pragmatisch.

Risicobewust handelen, en deemoedig respect voor zowel geluk als het collectieve vangnet sieren ons allen. Zo ook de ondernemer. 

Die laatste moeten we helaas nóg een illusie afnemen. Dat uitgedeelde werk is niet echt ook 'zijn werk'.  Volgens onverdachte bron dan nog: In de onderstaande video "Rich people don't create jobs" schetst ondernemer Nick Hanauer wie er feitelijk de motor achter onze economie is. De vraag: "Wie o wie in onze samenleving jaagt het meest de zuurverdiende centen rücksichtslos weer de economie in?"

Geen Werk (meer)

Het gaat niet alleen over de werk-gever. Het gaat ook over werk. Toch over een AI-toekomstbeeld (volgens o.a. Elon Musk) vol schrijnend gebrek daaraan.

Ik heb zelf eerder mijn vragen en bezorgdheden geformuleerd over wat de oprukkende automatisering “nieuwe stijl” allemaal brengt.  Het gaat namelijk hard én ongezien met die AI: eerder de onzichtbare zelflerende software dan de zichtbaar gestuurde mechanische armen zorgen nu voor de doorbraak.

Uit een recent opiniestuk "de AIgnost" van Frank Van Massenhove in De Tijd blijkt dat men ook bij onze sociale zekerheid de bui ziet hangen.  

Frank hoort deze oproep al: ‘We moeten de causaliteit tussen inkomen en werk loslaten’.  Wat hem vermoedelijk écht wakker houdt is: "We moeten de bijdragen aan de sociale zekerheid dringend loskoppelen van de activeringsgraad".  

Goesting of niet: een visie wordt gevraagd. Hoe financieren we onze sociale zekerheid in een tijd waar beduidend minder (inkomsten uit belasting van) werkvolk (arbeiders én bedienden) zijn? Dat uiteraard zónder een nieuwige “robot-belasting” die meteen wordt weggezet als achterlijk en anti-innovatie..

(resultaat online bevraging op zdnet)

Net als Frank zie ik mezelf pal in het midden van het veld. Ik weet het niet. De recente ontwikkelingen zijn niet te negeren, maar de geschetste doemscenario's berusten op al te veel veronderstellingen waar we geen zicht op hebben. Mogelijks een gedeeld onvermogen tot blinde paniek. Mogelijks een gedeeld vertrouwen in onze eigen veerkracht en probleemoplossend vermogen.

Maar ondertussen zomaar optimistisch glimlachend niets doen? Dat lijkt me ook niet de beste strategie.

Eigenlijk is het meest bevreemdende in deze discussie dat we ons het debat laten aandragen door wat in de feiten mogelijk wordt. Nee zelfs. Dan nóg kiezen we liever even te wachten tot we volledig zicht hebben op hoe de effecten ervan zich manifesteren.

Wat ondertussen niemand overweegt is gewoon bedenken wat we eigenlijk echt willen, en dan vooral in die richting werken. (De klaaglijke ondertoon trouwens van het meesterlijke Sapiens van Yuval Noah Harari: 'The story of our species'.)

Ondertussen. In dat ongeleid proces vinden vakbonden en werkgeversorganisaties elkaar wonderwel. Ze stellen trots het gevonden akkoord voor waarin ze de huiswerkopdracht van de regering netjes hebben ingevuld.  Na te rekenen zekerheid op "meer jobs".  Iedereen tevreden.  

De gedeelde heimelijke wens op mínder werk blijft wederzijds pijnlijk genegeerd.  Onuitgesproken.  Nochtans weten we het.  De ondernemer wil meteen tekenen voor (eenzelfde omzet met) minder personeel. De loonslaaf wil eigenlijk ook wel (eenzelfde loon voor) minder (saai) werk. Ons massaal wenden richting de kost-effectieve waardecreatie door automaten lijkt voor beiden de uitkomst. Toch vinden ze elkaar in het compromis in de tegenovergestelde richting.  Die vaststelling alleen al vind ik reden genoeg om kritisch na te denken over de geldigheid van die vastgeroeste randvoorwaarde: het hele systeem hangt nu af van de activeringsgraad van de bevolking.  Dus moeten we met meer aan de slag! Hoezo?

Als we ondanks de automatisering met zijn allen steeds harder blijken te werken, wie zit dan eigenlijk aan de credit-zijde van deze balans?

Nog eentje om te bekijken dan maar.  Mark Cuban in zijn rustige stijl.  Met ergens in dat verhaal de boodschap: "De roep om meer jobs-jobs-jobs heeft geen enkele zin als je niet nadenkt over de aard ervan".

Zin in Werk

We kunnen er niet onderuit. De definitie van werk zelf moet getest. Mijn belangrijkste stelling: er is ontzettend veel werk dat we niet als dusdanig benoemen.

Het enige werk dat telt is dat werk dat de gever-nemer relatie ervan erkent.  Gezien de financiering van het systeem, is enkel dat werk waarop belasting wordt gehoffen echt van tel. Wie daarbuiten wel "werkt", nuttig bezig is, mogelijks zelfs dienstbaar is, moet zich verdedigen. Zij hangen in het vangnet. Gepamperd door de verzorgingsstaat. Geef ze wat minder snoep en ze gaan wél hun best doen.

Persoonlijk ga ik er van uit dat de fijne of valse karaktertrekken, én het (geluk of) maatschappelijk succes even oneerlijk maar vooral compleet los van elkaar verdeeld zijn over de bevolking.  Dus voor elk ontweken kapitaaltje op de belastingsbrief zal er vast een overeenkomend aantal onterechte werklozen zijn.  Dat beide "not done" zijn mag duidelijk zijn. Dat beide dus ook controle en correctie verdienen spreekt voor zich.  Maar als we daarnet de fiscale rechtlijnigheid buiten beschouwing hebben gelaten, dan kunnen we dat voor de noden van dit verhaal ook doen met de laksheid of oneerlijkheid van de steuntrekker.

We hebben het dus gewoon even over de goedbedoelende brave mens. Soms wordt die in het geluk wat misdeeld.  Het soort mens die met heel wat waardigheid is neergezet in de reeks schuldig op de Nederlandse TV.  Na een paar afleveringen daagt mij alvast dat armoede eigenlijk verrekt hard werken is. Het is tijdrovend om niet thuis je was te kunnen doen of verschillende winkels aan te doen om overal het goedkoopste product te halen.  Het is ook duur als je alles per stuk en niet in grotere hoeveelheden kunt kopen, tot voorgeschreven medicijnen en openbaar vervoer toe.  Omslachtig om administratief alle regels ook op papier te volgen. Wraakroepend tenslotte om met je uitkering ook de hele industrie aan schuldeisers en hulpverleners te moeten draaiend houden.

Waarom houden we vast aan een werk-definitie in een strikt economische context? 

Waarom valt elke nuttige bezigheid daarbuiten meteen onder de noemer "lui profiteren"?

Ook de feministen hebben het ondertussen door.  Equal pay day als inzicht volstaat niet meer.  Het onevenwicht in onbetaald werk is een veel grotere boosdoener: "In zowel hoge als lage-inkomenslanden besteden vrouwen gemiddeld 2,5 keer meer tijd aan onbetaald huishoudelijk werk en zorgtaken dan mannen."

Werken (hebben en geven) heeft zin. Werken zelf geeft zin. De bevestiging er niet enkel voor jezelf te zijn. Een schakel te zijn in een ketting van bezigaards, met z’n allen op een ongeleid traject richting vooruitgang.

Zin-gevers

Na de hele rondgang zitten we dus zeer dicht bij wat Klaas oppert:

“Hoe fantastisch zou het zijn als iedereen zich kan bezighouden met wat hij/zij het liefste doet”

Met een kanttekening bij zijn eerste zin wel:

“zullen we evolueren van werk-gevers naar zin-gevers!”

In mijn hoofd is het niet enkel de (wij) werk-gevers die gaandeweg zin-gevers worden.  De hele (wij) maatschappij durft dan die “liefste bezigheden” collectief als zinvol te bestempelen en te waarderen.  Misschien zijn Klaas’ en mijn idee wel écht hetzelfde: omdat iedereen dan voor zijn “ondernemerschap” wordt geprezen, ongeacht de strikt economische waarde.  Omdat we dan met zijn allen bewust beseffen dat wij zelf, als consumerend collectief, eigenlijk de grootste werk-gever aller tijden te zijn, zoals Nick Hanauer ons voorhoudt.

Echt?

Hebben we de robots nodig om ons dit te komen vertellen? Ontbreekt het ons aan super-menselijke intelligentie om dit te realiseren? Wat kunnen we (nu al) doen?

In het aangehaald artikel van Frank kwam meteen dé dada van Rutger aan bod: UBI, het universeel basisinkomen. De heilige graal voor iedereen. Volgens Rutger ook de natte droom voor links én rechts: een aanzienlijk overheidsbeslag en herverdeling gecombineerd met een minimale overheid om dat te regelen en te controleren. Behoorlijk radicaal.

Zelf twijfel ik. Zonder te weten waarom. De aard van het beestje toont toch die ingebouwde voor-wat-hoort-wat reflex. Dat doet me niet geloven in het klassieke doembeeld: dat iedereen door ‘gratis geld’ meteen zorgeloos lui zou worden. Daarvoor is ‘bezig zijn’ te plezant. Werk op zich te zinvol.

Dat blijft natuurlijk overeind in een wereld waar je gewoon monopoly-gewijs elke maand “langs start” kunt passeren.  Net zoals je aandeel lucht, ruimte en zeewater krijg je als wereldburger gewoon wat knikkers om mee te gaan ruilen.  Daarin telt niet louter daad en beloning, maar vooral vertrouwen.

Een mooi voorbeeld van zo'n vertrouwen is trouwens aan het werk bij het "letsen". Het letterwoord (L.E.T.S) staat voor Locale Exchange and Trading System, een proponentje van het nieuwe ruilen en delen. Diensten en goederen met elkaar ruilen en in die oefening het nuttig zijn van lokaal eigen “geld” herontdekken: een eigen munteenheid. “Die strandbloemen kosten 4 schelpjes!”

Ik zorg voor je zieke zus, jij rijdt mijn gras af. Dat ouwe boek vind je interessant?  Kan ik morgen je fiets huren? En de zoon van de buren gaat elke week met de hond van het oudere vrouwtje uit.  Dat loopt allemaal lekker. Maar hoe moet dat nu met de BTW erop? En zijn al die nuttige taken dan wel of niet echt werk?

Bij de leefloners zit een gelijkaardige paradox van het gemiste collectief.  Wat als die zich zouden organiseren om collectief de tijd-en-kost overlast van de armoede te gaan wegwerken?  Zinvolle groeps-aankopen voor lagere kosten. De was ophalen en efficiënt verwerken in een collectieve wasserette.  Een eigen hulpdienst voor administratieve rompslomp en een advocatenkantoor om de incassohaaien lik op stuk te geven.  Dergelijke collectieve onderneming zou hun dagelijkse individuele overlevingsbezigheid verheffen tot wat we allemaal gewoon werk noemen. 

Allemaal haalbaar? Bizar ook: dat het een kwestie van vermommen in de juiste woorden is voor we zien wat er is?

Kaders en dromen

Ik hoor jullie tegen nu wel denken en sputteren,

Dit denkkader is toch verre van “rechts”, mijn waarde.  

Dat het niet conservatief is wil ik nog net nageven.  Alhoewel: als zelfs de conservatieven in slogans oproepen om “de kracht van verandering”, dan voel ik me zelfs door hen gesterkt.  Maar het trekt zeker de kaart van heel wat klassiek rechts denken: ik pleit hierboven oprecht voor meer ondernemers (iedereen zelfs) en stel en passant vragen bij al te veel controle en regels (ook voor wie recht op een uitkering moet bewijzen). In ruil vraag ik te kunnen toegeven dat er bij individueel succes al eens geluk gemoeid is. Omdat die toegift zo eerlijk te verzoenen is met het afwentelen op het collectief wanneer dat geluk uitblijft.

Het is dus wel degelijk een duidelijk linkse signatuur die hier doorlekt.

Ik dacht het niet. Als die kant enkel gesterkt wordt door dit betoog, dan hebben ze wel héél snel gelezen. Los over de gaten in hun eigen verhaal.  Dat verhaal gebruikt nog te veel de oude woorden. Het oude progressief is vastgeraakt in het bevestigen van zichzelf in de orde der dingen. Voor sommigen moet die vaststelling continu herhaald in aangetoonde misstappen rond belangenvermenging in het verleden.  Voor mij zit dat vooral in het gebrek aan vernieuwing omtrent hun visie voor de toekomst.  Ze worstelen om de stem van de kiezer, zoekend naar zijn individueel gewin, af te kopen voor een collectief dat meer kan zijn dan een verzekering tegen ongeluk. Van de onbehouwen reacties op de ruil- en deeleconomie tot de gesloten collectieve warenhuizen en cultuurtempels: het gemiste potentieel van progressief ondernemerschap.

Goed.  Maar dan kunnen we je betoog toch minstens klasseren als al te utopisch.

Wel utopisch, ja. Dat is voor mij net als naïef al lang geen scheldwoord meer.

Maar niet “té”.  Net utopisch genoeg mag ik hopen.

Als het ons te doen is om 'rustig aan' met zijn allen verder te stappen richting vooruitgang, dan is er maar één iets wat we echt moeten vermijden “a failure of imagination”.

update: zie ook dit artikel over gebruik van gemeenschapsmunt in sloppenwijken van Kenia.
update: en Rutger Bregman die ook nog eens op de nagel klopt: Time to rethink the meaning of work
update: in the guardian geeft Yuval Harari er nog een extra spin op: The meaning of life in a world without work
update: Ter ere van  125 jaar "De Rerum Novarum" slaat Matthias Somers nagels met koppen.
update: van veel latere datum, maar zeker een extra aspect dat rond "waarde van werk" zweeft: "waardevol werk" en "waardigheid"

Thank you @Winnie_Byanyima for looking beyond the numbers to explain why we need to respect the dignity of working people and the exploitation that robs people of their dignity to enrich those who control power and wealth.

cc: @WEF @Davos @Oxfam @oxfamGB @NowThisNews pic.twitter.com/e1HxOforpk

— Michael Kirkpatrick 🌍 (@OtimMichael) 30 januari 2019

Gesmede Goden, en hun superieur (mechanisch) denken

Seoul, 12 maart 2016. Net afgelopen:  Alphago wint ook het derde spelletje van Lee Se-dol.  Mr. Lee is "één van ons soort", zijn tegenspeler een in elkaar gesmeed brein pur sang, beperkt en hulpeloos in veel opzichten, maar schrikbarend sterk in dit ene spelletje.

Alphago is gemaakt door andere mensen.  Geen enkele ervan maakt een kans tegen Se-dol.  Ze hebben hun afgezant slechts als basis de spelregels ingebakken, maar het vooral zó gevormd dat het zelfstandig kan spelen, en daarbij leren van zijn eigen en andermans fouten.  En dat heeft het gedaan. Met resultaat.

Stof voor nieuwe dromen.

"Deep learning" is de verzamelnaam die ze geven aan deze nieuwe golf "Artificiële Intelligentie". AI, is het onderzoeksdomein dat zichzelf in gang trok 60 jaar geleden, en zich sindsdien in de verschillende rondes van universitaire subsidiëring wist staande te houden met de belofte dat ze "Hét" de volgende 10 jaar gingen bereiken. 

"Hét" singularity point - het tijdstip in de geschiedenis waar het door machines vertoonde beslissing- en voorspellingsvermogen niet slechts intelligent líjkt, maar aanwijsbaar onze eigen menselijke vermogens voorbijsteekt.

Van dat "deep learning" kwam vorig jaar een eerste voorbeeld in mijn radar: "wordvec".  Het bouwt een systeem dat zichzelf een conceptueel beeld van een geschreven taal aanleert, door niets anders dan: "veel te lezen".  Het beschikt over een ingebouwde leer-structuur dat de aangeleverde tekst gebruikt om bij elk woord in een tekst zo goed mogelijk het volgende en het vorige woord te voorspellen.  Hoe meer teksten het leest, hoe beter het hierin wordt.  Ondertussen verfijnt het een intern beeld opgeroepen door elk individueel woord, zó dat het beeld toelaat om de naburige woorden ook in een "ongeziene tekst" te voorspellen.
Die conceptuele beelden zitten, hoe onpoëtisch(!), vervat in zogenaamde vector van (slechts) een 300-tal getallen.

Hoe sterk die 'mentale' beelden zijn blijkt uit het feit dat je ze kunt vergelijken, en ermee rekenen: Synoniemen - maar ook vervoegingen of zelfs vaak voorkomende tikfouten - geven aanleiding tot sterk op elkaar gelijkende "beeld-vectoren".  Maar helemaal gek wordt het als je de getallen in bewerkingen met elkaar gebruikt en zo tot berekenbare analogieën komt: {Koning} - {Man} + {Vrouw} geeft, jawel, een resultaat dat in een hele nauwe marge ligt van {Koningin}

Dit soort zelflerende systemen brengt concrete nuttige toepassingen en inzichten die de AI wereld van zijn eeuwige tienjarige hoop-horizon bevrijdt. De subsidies worden ingeruild voor gerichte investeringen van slimme ondernemers.  

Zonder in te boeten aan het mij eigen optimisme roept het tal van vragen op:

• Welke andere (naast Alphago en WordVec) voorbeelden zijn in ontwikkeling of klaar, en kennen we nog niet?
• Welke schitterende nieuwe toepassingen zal dat voor ons opleveren, welke problemen gaan we straks als collectief of individu dankzij dit soort ontwikkelingen moeiteloos oplossen?
• Wat droom jij de mensheid toe? Wereldvrede, het honger-probleem opgelost, perfecte energievoorziening en gezondheidszorg of volstaan meer realistische computergames?

Wat als... het fout loopt?

In de sector van de beeldherkenning heeft de "deep learning" gilde de techniek van de "Convolutional Neural Networks" omarmd.  De resultaten ervan ziet elke leek in gebruik voor de toegepaste gezichtsherkenning van je foto-albums bij Facebook en Google Photos.  Ze brengen ook de noodzakelijke onderbouw voor de nakende zelf-rijdende voertuigen op onze wegen.  Nu die er aankomen blijkt hoe prematuur de term "auto" is voor onze huidige generatie mechanisch-maar-manueel-bediende "koetsen".

In hun opbouw blijken deze systemen een behoorlijke replica van hoe ook de eigen hersenen erin slagen zo kost-effectief en snel een coherent beeld te vormen van de werkelijkheid om ons heen. Onverwacht bewijs voor die 'replica'-stelling komt van een boeiende paper die aantoont hoe dergelijke systemen met grote stelligheid tot de verkeerde conclusies komen wanneer ze als te herkennen beeld "random-witte-ruis" aangeboden krijgen.  Het zelf aangeleerd verwachtingspatroon gaat onder invloed van totaal onbetrouwbare input een gedrag vertonen dat het best lijkt op de mensenlijke "confirmation bias".  De analogie met hallucinaties bij "sensory deprivation" is treffend: het bange kind herkent stellig gezichten in de vlekken op het behang!

Als de robots straks zo hard op ons gaan lijken dat ze probleemloos op dezelfde manier bij de neus te nemen zijn en vergelijkbaar falen, hebben we dan de Turing Test niet iets te letterlijk genomen?

We kunnen vast zonder nodeloos bang te worden nog wat vragen stellen:

• Hoeveel  blind vertrouwen mogen we in onze wilde dromen stellen?
• Hoe afhankelijk willen we worden van deze nieuwe soort? Kunnen ze niet alleen met onze wagens rijden, maar ook de kerncentrales aansturen of zelfs de vredesonderhandelingen leiden?
• Wie wordt er straks aansprakelijk gesteld voor aan automaten toewijsbaar falen?
• Of zien we AI terecht als een efficiënt samenbrengen van menselijk vermogens die ons ontegensprekelijk verheffen als soort?  Het equivalent aan de kant van de risico-spreiding is dan gewoon een kwestie van "verzekering".

Rechten en plichten van de nieuwkomers.

Kijk als rustpuntje in de tekst dit even uit "Humans need not apply" - Een schets van de economische aspecten vooral.

Als je hierdoor plots helemaal in het kamp van de doemdenkers zit, gun jezelf dan het tegengif  van "Turing's Tango" (boek van Bennie Mols).  Het schetst hoe deze ontwikkeling niet te zien als een "zero-sum-game",  maar als een boeiende bron van win-win situaties.

Ook de wedstrijd-commentator zag het meteen.  Alphago, als sterkste leermeester ter wereld, onvermoeibaar en geduldig beschikbaar achter een knopje, om ons voor te tonen op welke creatieve manier een bijzonder complexe spelsituatie te benaderen.  De nieuwe grootmeester die het spel een nieuwe revolutie aan zinvolle strategiën kan opleveren.

In deze context haalt men graag het moderne "disruptie" modewoord aan.  Zelf vind ik dat woord een verklikker geworden van zij die het hanteren: Het totaal onheilzaam mantra van de verraste medemens die gewoon te lang de blik van de werkelijkheid heeft afgewend.

Het antwoord zoeken op nog wat vragen, behoed ons misschien van de noodzaak om met z'n allen achter de term te gaan schuilen:

• Is er in het zog van deze nieuwe ontwikkelings-revolutie in onze geschiedenis een te verwachten nieuwe economische sector die zich spontaan gaat aandienen? (zoals de tertiaire sector er plots was om de werkloosheid uit de primaire op te vangen na de industriële revolutie?)
• Of hebben we een zinvol ander plan voor een collectief aan niet nuttige individuen?  Volstaat het hen vredevol over te laten aan gratis drugs en videogames?
• Hoe financieren we de sociale zekerheid en pensioenen als de huidige belasting op arbeid dan ook wegvalt?
• Kunnen we de door automaten gecreëerde waarde herverdelen naar de nieuwe werklozen? Even eerlijk dan hoe we het deden tussen arbeiders en machine-eigenaars?
• Wordt een discussie over beperking van werklozenuitkering in de tijd niet helemaal achterhaald?
• Willen bigdata-bedrijven straks gewoon consumenten betalen voor hun opmeetbaar consumentengedrag? Minus nog wat privacy?
• Creëren we zo een menselijke soort die de facto niet te onderscheiden is van huisdieren, door de nieuwe robots onderhouden?
• Of loopt de enige weg naar een nieuw evenwicht nu net over vooral niet controleren en de disruptie genadeloos laten razen?

Het zelfbeeld verruimen?

Ik weet niet waar Edsger Wybe Dijsktra precies op aanstuurde met zijn stelling dat 

"The question of whether Machines Can Think... is about as relevant as the question whether Submarines Can Swim"

Maar dit is wat ik er uithaal op taalkundig niveau: 'Denken' en 'zwemmen' zijn termen die we eerzuchtig voor onszelf (of toch minstens levende wezens) voorbehouden.  Een arbitraire scheidingslijn die ons op ons voetstukje houdt.  Zodra de machines betere nuttige resultaten van die activiteiten voorleggen, gaan we snel op zoek naar een "onbezielde" variant van het woord 'rekenen', 'duiken'.  Doen we daar meer mee dan onszelf wat sussen?

De film "the imitation game" had een bijzonder sterke scene hierover.  Smaken, voorkeuren en competenties verschillen, en er is weinig andere verklaring voor dan "andere breinen werken anders". En van andere mensen nemen we dat aan.  Niet zo met het 'anders' denken van technologie.  Ongeacht hun nuttigheid, hulpvaardigheid of onnavolgbare kwaliteit: er is geen ruimte voor hen in "onze club".

We hebben toch controle genoeg over die nieuwkomers om zelf de spelregels te bepalen? Maar is dat zo? En zelfs als het zo is, controleren we voldoende de controleurs?  In vele opzichten blijft de dreiging richting uitbuiting en oneerlijkheid vooral uitgaan van onze medemens.  En die heeft er niet bepaald een nobele staat van dienst op zitten.

Wie vertrouwd is met de "drie wetten van de robotica" van Azimov kan mij misschien ook uitleggen waarom we niet eenzelfde soort gedragsregels weten op te leggen voor onszelf als soort?  De eerste wet zou geweld verbannen tot de zichzelf negerende noodzaak: "enkel om erger geweld tegen te gaan".  De tweede en derde brengen misschien een betere balans tussen individueel recht en respect voor collectieve noden? 

Als we ervan uitgaan dat die computers niet alleen hun intelligentie maar straks ook sociaal gedrag en ethiek van ons leren of erven, dan is het misschien nog niet te laat om een beter leidend voorbeeld neer te leggen? 

Volgende vragen lijken me dan ook vooral nuttig om wat zelfreflectie te sturen:

• Wanneer moeten we robots mensachtige rechten geven?
• En voldoen alle mensen, of net ook andere soorten wel aan die voorwaarden?
• Verdient een robot-doctor die een honderdvoud efficiënter en nauwkeuriger diagnoses stelt stemrecht?  Moeten we niet minstens sowieso de helft van onze faalbare volksvertegenwoordigers door meer nuchtere, geduldige, pretentieloze bots vervangen? Krijgen we zo een meer evenwichtige democratie?

De vraag is of we de vraag begrijpen.

In zijn boek "Sapiens" laat Yuval Noah Harari optekenen [dat] 

"Wij zelf een nieuw soort goden zijn. Maar helaas mateloos verwend, en bangelijk onwetend over waar we naartoe gaan."

Alphago schetst dat we nu ook onze eigen goden bij elkaar kunnen smeden. Goden die de aanblik van wereld drastisch kunnen veranderen. Bangelijk?
"Optimist tot in de kist" lijkt me een fijne basishouding, op voorwaarde dat we ons niet laten kisten.  

Wat we nu zien is in wezen een overwinning van de menselijke geest op zichzelf.  Zonder meer vooruitgang.  Maar best straks wel even nakijken of we er ook met z'n allen op vooruitgaan?

• Weten we wat we willen?  
• Kunnen we het collectief gebouwde brein gebruiken en vertrouwen om dat te bereiken? 
• Wat zijn de volgende stappen? Wie bepaalt welke wel en niet worden genomen?
• Wat wil je zelf nog meemaken?
• Ben je zelf pessimistisch? Zijn er ook voor de optimisten drempels en checks die ons oproepen om bij te sturen of zelfs stekkers uit te trekken?
• Wat is het "Singularity Point" voor jou?  Wanneer hebben we het bereikt? Wanneer zijn we er tevreden mee?
• Wat moeten we onze kinderen leren over hoe het er straks aan toe gaat? Wat gaan zijn ons leren?

In het beste geval brengt dit alles ons wat dichter bij het verlaten van een navelstaarderige benadering van onze samenleving op ons "blauwe stipje in het heelal".  Carl Sagan noemde dat "the cosmic perspective".

Het probleem is duidelijk niet een tekort aan nieuwe ideeën, die blijven we spontaan en vlotjes produceren.  De traagheid waarmee we van de slechte en oude ideeën af geraken is onze echte achillespees.