Memoires en mijmeringen over AI en recht

Auteur(s): Bron:
  • OpenRecht, 23 januari 2020, JCDI:ALT529:1

Samenvatting

In deze Opinoot laat Tina van der Linden (Vrije Universiteit) haar gedachten gaan over het gebruik van algoritmen en/of artificiële intelligentie (AI) in heel ruime zin.

Inleiding

In de categorie Oma vertelt (helaas niet bij het haardvuur want dat is ecologisch niet meer verantwoord) deel ik met de lezers in deze Opinoot mijn gedachten over gebruik van algoritmen (of AI, ik gebruik de termen losjes door elkaar), in heel ruime zin. Op openrecht.nl is Opinoot de naam voor een prikkelend opiniestuk, dus het hoeft niet per se om een uitgekristalliseerde, genuanceerde en academisch verantwoord opgetekende visie te gaan. Ik zie dit verhaal als work in progress. Het is voor mijzelf wel een leuke exercitie omdat het ook, in een piepkleine notendop, de ontwikkeling van mijn eigen visie weergeeft. Als dat zo uitkomt verwijs ik naar boeken die me inspireren. 

Kunstmatige intelligentie en recht: super cool

Mijn beginpunt is een etentje met een drietal pas afgestudeerde jonge veelbelovende juristen, een jaar of wat geleden. Iemand had ’t over gebruik van kunstmatige intelligentie in het recht, als super-cool nieuw onderzoeksgebied, waar vreemd genoeg nog nooit iemand over nagedacht had, maar waar natuurlijk enorme kansen zouden liggen. Terwijl ik mijn derde glas uitstekende wijn inschonk, wist ik te vertellen dat we daar lang geleden, vanaf halverwege de jaren ’80 - 'toen jullie misschien net geboren waren, kinders' - wel degelijk onderzoek naar gedaan hadden in wat je zou kunnen zien als de tweede golf van de AI (de eerste golf was in de jaren ’50 toen de term AI gecoined werd). Met onder andere de oratie van Leids hoogleraar Van den Herik (getiteld: Kunnen computers rechtspreken?), de reactie van mijn baas destijds Koers daarop (getiteld: “Kunnen gloeilampen rechtspreken?” – helaas niet meer te achterhalen) en een hele serie proefschriften (waaronder dat van mijzelf, toen nog met de achternaam Smith) over wat we destijds noemden: juridische kennissystemen of expertsystemen. Van de ontwikkeling van methodologieën om ze te bouwen (formaliseren en representeren van juridische kennis), diepe gedachten over de onderliggende logica (niet-monotone logica, deontische logica), misschien moeten we niet (alleen) de inhoud maar ook het juridisch discours, de dialoog, in het proces meenemen, onder welke voorwaarden zouden ze gebruikt kunnen worden, welke vangnetten zijn nodig en wat al niet meer. En geloof het of niet, maar waar nu iedereen ineens zo opgewonden over doet: artificiële intelligentie, neurale netwerken, genetische algoritmen, en zelfs machine learning, het bestond allemaal toen al. En we dachten erover na. Niet alleen als jonge juristen in relatie tot het recht, maar ook in bredere filosofische zin; ik was gegrepen door Gödel, Escher, Bach van Douglas Hofstadter en The Dancing Wu Li Masters van Gary Zukav. 

Onvoorzienen gevallen te voorzien door een geautomatiseerd systeem?

De stelling die ik indertijd in mijn proefschrift (verdedigd in 1994) wilde onderbouwen was: hartstikke leuk allemaal, maar voor alles waarbij het gaat om de toepassing van algemene regels op concrete gevallen “kan” het niet. Niet alleen zijn onvoorziene gevallen die niet door een geautomatiseerd systeem afgehandeld kunnen worden per definitie niet te voorzien (en wij juristen zijn dol op het bedenken van en dealen met onvoorziene gevallen), maar wat veel erger is: principieel kan een onvoorzien geval (“hard case” in mijn terminologie toen) niet als zodanig door een computerprogramma herkend worden om doorverwezen te worden naar een menselijke beslisser (waarbij we overigens nog maar moeten afwachten of die het dan beter zou doen). Dus, helaas pindakaas, principieel onmogelijk. 

Natuurlijk ging de automatisering gewoon door, misschien niet onder de naam expertsysteem, kennissysteem of beslissingsondersteunend systeem, maar gewoon als administratieve automatisering voor het efficiënter afhandelen van allerlei werkprocessen. Natuurlijk omvat dat óók het toepassen van abstracte regels op concrete gevallen, en natuurlijk doen zich daarbij heel veel gevallen voor die in mijn termen als “hard cases” bestempeld zouden moeten worden. Dat zijn typisch de gevalletjes “computer says no” waar we, denk ik, een beetje aan gewend zijn geraakt, en die we geaccepteerd hebben als een fact of life van het leven in de 21ste eeuw. Pech! Wat niet wegneemt dat het wel van irritant tot fundamenteel en principieel onrechtvaardig kan zijn, en daarmee nog steeds op het netvlies van de kritische jurist staat.

Disruptieve technologie

Ondertussen deden zich zo rond de milleniumwisseling een paar samenhangende ontwikkelingen voor, die ons leven en onze kijk op de wereld grondig veranderd hebben: disruptive technologies, in Newspeak. Allereerst natuurlijk de grote doorbraak van het internet, leidend tot heel veel nieuwigheid, waaronder quasi enablement van klanten, burgers, betrokkenen: mensen regelen hun eigen zaakjes in een portal onder de regie van de organisatie waar ze al dan niet vrijwillig zaken mee doen. Hard cases worden zo, gedeeltelijk, in de kiem gesmoord. Of de smartphone, een toverdoos die iedereen bij zich draagt. Aan de ene kant is het dagelijks leven onvoorstelbaar veel gemakkelijker en soepeler geworden, aan de andere kant is diezelfde smartphone ook een undercover agent die in dienst van het grote geld (en laten we hopen niet ook de overheid) z’n baasje bespioneert en alles vastlegt en doorgeeft. Big data als voer voor algoritmes, om onverwachte en onverklaarbare verbanden te leggen – waarbij het voor ons mensen heel moeilijk blijft om voor ogen te houden dat statistische samenhang niet hetzelfde is als een causaal verband. Zie spurious-correlations voor hilarische voorbeelden. Cloud: niemand weet en niemand kàn weten waar de data nou op enig moment uiteindelijk fysiek opgeslagen zijn. En het volgende moment weer ergens anders, met een andere rechtsmacht, juridisch ongrijpbaar. 

We zijn gewend en verslaafd geraakt aan de gemakken van allerlei AI-toepassingen: Google die je precies maar dan ook precies de resultaten geeft die je nodig hebt. Spotify “draaide” (leuke oude term) laatst een oud nummer dat ik me nooit “actief herinnerd” (leuke nieuwe term) zou hebben maar waardoor ik wel tot tranen toe ontroerd werd. De prijzige en verouderde Falck-plans van allerlei grote steden staan in de kast te verstoffen. 

Alles heeft een prijs, ook technologie

We weten ook inmiddels dat alles een prijs heeft, de oude wijsheid dat voor niets alleen de zon opgaat heeft niets van zijn actualiteit verloren. We chillen er gerieflijk op los in onze comfort zone, de filter bubble beschermt ons tegen alles wat vraagtekens bij onze visie zou kunnen zetten. Ergens weten we wel dat we gemanipuleerd en genudged worden, op basis van onvoorstelbare hoeveelheden persoonsgegevens. Data graaien, profileren, Surveillance Capitalism (Shoshana Zuboff); Orwell’s 1984 met zijn “Big Brother is watching you!” is er niets bij. De Algemene Verordening Gegevensbescherming beschermt ons niet afdoende. Misschien, ooit, self sovereign identity (SSI) met behulp van blockchain (de onderliggende technologie van Bitcoin, die voor veel meer interessante toepassingen gebruikt kan worden). 

Sommigen van ons weten ook dat besluitvorming met behulp van algoritmen tot indirect discriminatoire effecten kan leiden. Cathy O’Neill heeft het over Weapons of Math Destruction. Amerikaanse toestanden? Zeker, maar hier hebben we er ook één: SyRI, Systeem Risico Indicatie dat allerlei gegevens van niet-verdachte burgers koppelt om mogelijk fraude op te sporen. We wachten in spanning op het rechterlijk oordeel eind januari.

Fundamentele vragen 

Belichaamd in een fysieke vorm (zelfrijdende auto’s, sex robots, lethal autonomous weapons systems) stelt AI ons voor nog meer inspirerende en fundamentele vragen. Relatief kleine, en ook hele grote vragen. Wat betekent het eigenlijk om “mens” te zijn? Is “menselijke waardigheid” niet een heel suggestieve term voor onze aandoenlijke beperktheid? Kahneman (Thinking fast and slow) laat zien dat we lang niet zo rationeel zijn als we zelf graag denken, en Harari (Homo Sapiens, Homo Deus en Lessons for the 21st Century) schetst een veel omvattend historisch perspectief waar je koud van wordt. 

Nu denk ik dat de hard cases, waar ik me indertijd zo over opgewonden heb, gezien kunnen worden als manifestaties van onze menselijke beperkingen, die we misschien wel als zodanig willen koesteren. Ik vind nog steeds dat we onze AI zo moeten ontwerpen (of trainen) en gebruiken dat er ruimte is voor ieders gekkigheid, waar iedereen immers recht op heeft. Dát is menselijke waardigheid. Lastig en inefficiënt, jazeker. We zijn impulsief, irrationeel, worden geregeerd door onze jager-verzamelaar-instincten en zijn behept met een buitengewoon lui systeem 2 (term van Kahneman). Dat maakt ethiek, filosofie, psychologie en vooral ook recht zo bere-interessant. Als niet onze kortzichtigheid, egoïsme en irrationaliteit ons leven op deze planeet binnen afzienbare tijd onmogelijk maken zeg ik: Lang leve de mens

Titel, auteur en bron

Titel

Memoires en mijmeringen over AI en recht

Auteur(s)

Tina van der Linden

Bron

OpenRecht, 23 januari 2020, JCDI:ALT529:1

Permanente link

Huidige versie

https://www.openrecht.nl?jcdi=JCDI:ALT529:1