Algoritmische rechtstoepassing in de democratische rechtsstaat

Auteur(s): Bron:

Samenvatting

Besluitvorming op basis van algoritmen heeft de plaats ingenomen van menselijke oordeelsvorming op basis van vuistregels. De komst van algoritmische toepassing van het bestuursrecht heeft veel goeds gebracht. Maar deze transformatie roept ook nieuwe vragen op over discretionaire ruimte en over de controle op de bureaucratie. Vanouds zijn er zorgen over de democratische en rechtsstatelijke beheersing van grootschalige overheidsbureaucratieën. Als de discretionaire ruimte zich verplaatst naar systeemontwikkelaars, software engineers, data professionals en artificiële intelligentie, moet ook een herbezinning volgen op de controle hierop.[1]

1 'Computer says no'

De film I, Daniel Blake, van de Engelse regisseur Ken Loach, geeft een indringend beeld van de worsteling van een oudere, arbeidsongeschikte timmerman met de moderne bureaucratie. Terwijl hij nog herstellende is van een zware hartaanval, wordt hij op basis van een standaardtest weer arbeidsgeschikt verklaard. Hij raakt vervolgens vermalen in de digitale ambtelijke molens omdat hij niet goed om kan gaan met computers en alle formulieren online moeten worden ingevuld. Zijn casemanagers verschuilen zich achter hun computer en zijn niet bereid om recht te doen aan zijn persoonlijke omstandigheden, omdat ze gebonden zijn aan hun voorgeprogrammeerde beslissystemen.

Het verhaal van Daniel Blake is een gedramatiseerde illustratie van een trend die in Nederland al decennia terug in gang is gezet. De media presenteren artificiële intelligentie, algoritmes en geautomatiseerde besluitvorming nogal eens als actuele trend of zelfs als ‘science fiction’. In de bestuursrechtelijke werkelijkheid zijn ze het sluitstuk van een ontwikkeling die startte in de jaren zestig en zeventig van de vorige eeuw. Als gevolg van ICT en beslissystemen is in de afgelopen decennia de beleidsvrijheidvan professionals in grootschalige publieke uitvoeringsorganisaties geleidelijk opgelost in de computersystemen. Dit geldt met name voor de ‘beslissingsfabrieken’, de grootschalige bureaucratieën die routinematig beslissingen nemen over uitkeringen, vergunningen, en boetes. Bedrijven als e-Court en eBay laten zien dat algoritmes ook steeds beter zijn in geschillenbeslechting en snel tot vonnissen kunnen komen.

Ooit werkten bij de uitvoeringsorganisaties van de overheid grote aantallen ‘street-level bureaucrats’ – uitvoerende ambtenaren die op basis van persoonlijk contact met cliënten beslissingen namen in individuele zaken. Tegenwoordig zijn deze organisaties ‘system level bureaucracies’ waarin de bulk van de zaken wordt afgedaan door geautomatiseerde beslissystemen, zonder enige menselijke tussenkomst. Besluitvorming op basis van algoritmen heeft de plaats ingenomen van menselijke oordeelsvorming op basis van vuistregels. Het is de computer die ‘ja’ of ‘nee’ zegt.

De komst van algoritmische toepassing van het bestuursrecht heeft veel goeds gebracht. Burgers zijn niet meer afhankelijk van de vooroordelen en humeuren van bureaucraten. Algoritmen beslissen zonder aanziens des persoons en de besluitvorming is voorspelbaar en transparant . Maar deze transformatie roept ook nieuwe vragen op over discretionaire ruimte en over de controle op de bureaucratie. De hiërarchische, rechterlijke en politieke controles uit het tijdperk van de ‘street-level’ bureaucratie volstaan niet meer bij de nieuwe ‘system-level bureaucracies’.

In 2002 publiceerden we in het NJB een eerste analyse van deze transformatie.[2] Inmiddels zijn bijna twee decennia verstreken sinds het onderzoek is uitgevoerd waarop dat artikel was gebaseerd.[3] Hoe heeft de ‘system-level’ bureaucratie zich in die tijd ontwikkeld? Zijn de vragen van destijds inmiddels geadresseerd? Eerst schetsen we in paragraaf 2 nog een keer de overgang van street-level naar system level bureaucratie. Vervolgens bespreken we vier recente ontwikkelingen rond de ‘system-level bureaucracy’, mede op basis van recent onderzoek.[4 ] In de afsluitende paragraaf maken we de balans op. De conclusie kan alvast worden weggegeven: de komst van algoritmische rechtstoepassing noopt inderdaad tot nieuwe vormen van democratische en rechtsstatelijke sturing en controle. We sluiten af met enkele wenken voor hoe deze eruit moeten zien.

2 Van ‘street level’ naar ‘system-level’ bureaucratie

Beslissingsfabrieken als ‘street level’ bureaucratieën

De ‘system-level’ bureaucratie is door Bovens en Zouridis in 2002 neergezet als voorlopig sluitstuk van een langer lopende verandering in grote beslissingsfabrieken. In deze organisaties bestaat de kern van het uitvoerende werk uit het nemen van beslissingen over individuele situaties. Denk bijvoorbeeld aan een belastingaanslag, een verkeersboete, een ontheffing of bouwvergunning, een uitkering in de sociale zekerheid, of een beslissing over het al dan niet vervolgen van een verdachte van een misdrijf. Ook inspecties en andere instanties, die zich bezighouden met het toezicht op vergunningen, uitkeringen en belastingen, vallen hieronder.

Lange tijd vertoonden deze grote beslissingsfabrieken veel kenmerken van wat Lipsky in 1980 beschreef als een ‘street-level bureaucracy.’[5] Het operationele werk – het directe contact met burgers en het nemen van beslissingen – is de kern van de organisatie. De street-level bureaucraten, diegenen die ‘op straat niveau’ het werk doen, opereren in een situatie waarin schaarste en discretionaire ruimte bepalend zijn.[6] Er heerst schaarste omdat de hulpbronnen per definitie beperkt zijn in relatie tot de taak. Om iedere belastingaangifte geheel te controleren zijn veel meer mensen nodig dan de belastingdienst beschikbaar heeft. Het vergaren van alle informatie over alle delicten vergt meer politiecapaciteit dan de politie beschikbaar heeft. En ook het geheel beoordelen van een persoonlijke situatie bij een bijstandsaanvraag eist meer tijd en aandacht van sociale diensten dan voorhanden is. Schaarste betekent dat er keuzes moeten worden gemaakt. Een tweede kenmerk van street-level bureaucratieën is dat de wet- en regelgeving beoordelingsruimte (en soms beleidsvrijheid) laat op het uitvoerende niveau van de organisatie. Dat betekent ook dat eenzelfde situatie verschillend kan worden gewogen. Bijvoorbeeld: is het niet voldoen aan de brandveiligheidsvoorschriften in de vergunning ernstig genoeg om de vergunning in te trekken?

Van ‘street level’ naar ‘screen level’

De inzet van ICT heeft dit type organisaties in enkele decennia ingrijpend veranderd. Die transformatie begon met de introductie van prille en tamelijk primitieve vormen van ICT in de jaren zestig en zeventig van de vorige eeuw. Destijds vond de besluitvorming over individuele uitkeringen, heffingen en vergunningen, vrijwel uitsluitend plaats door contactambtenaren binnen gemeentelijke diensten en andere publieke instellingen. Street-level bureaucraten werkten zaak voor zaak, kenden doorgaans de uitkeringsgerechtigde of vergunningplichtige persoonlijk en in veel gevallen was er ook persoonlijk contact tussen de street-level bureaucraat en de individuele burger over de uitkering, vergunning of heffing.

Aanvankelijk wordt de primitieve ICT vooral ingezet om de besluiten van de street-level bureaucraten op een nette manier op papier te krijgen via tekstverwerkers en printers. In de loop van de tijd neemt de ICT steeds meer taken over: met tekstblokken wordt de motivering min of meer gestandaardiseerd. Later worden algoritmes voor de besluitvorming ontwikkeld en in het systeem ondergebracht als hulpmiddel voor de professional. Vervolgens wordt ook de besluitvorming min of meer geautomatiseerd in grootschalige systemen. De street-level bureaucraat van weleer wordt een screen-level bureaucraat die zich primair bezighoudt met het invoeren van formulieren in het geautomatiseerd systeem en eventueel met het controleren van het besluit dat uit het systeem rolt. In de loop van de jaren negentig van de vorige eeuw wordt ook de invoer van de formulieren geautomatiseerd, soms door deze uit te besteden aan burgers zelf, bijvoorbeeld via het doen van elektronisch aangifte. In toenemende mate gebeurt dit ook door gegevens geautomatiseerd in te lezen uit andere ICT-systemen bij de overheid.

Van ‘screen level’ naar ‘system level’

Door de invoering van geavanceerde beslissystemen al in de jaren negentig van de vorige eeuw is dit type beslissingsfabrieken fundamenteel veranderd. Diegenen die sleutelen aan de systemen zijn de nieuwe street-level bureaucraten geworden, al zien ze nooit een individuele casus. Het management van de organisatie draait niet meer primair om het rechtmatig afhandelen van aanvragen, maar om sturing van de ‘productie’. Inhoudelijke sturing van de besluitvorming vindt plaats via gedetailleerde wet- en regelgeving, die zo veel mogelijk overeenkomt met de algoritmes in de systemen. Waar nodig wordt de wet aangepast of worden in de wet- en regelgeving begrippen geharmoniseerd. Eerstelijnscontrole in de hiërarchie is niet meer aan de orde. Het management controleert alleen nog de ‘productie’ in kwantitatieve zin en de onafhankelijke rechter controleert het besluit. De organisatie die zich ontwikkelde aan het begin van het nieuwe millennium is aangeduid als een system-level bureaucratie om aan te geven dat de ICT-systeemontwikkelaars te beschouwen zijn als de nieuwe streetlevel bureaucraten. De discretionaire ruimte van de professionals die zich met individuele gevallen bezighouden, is door ICT vrijwel geheel verdwenen. Ervoor in de plaats komt de discretionaire ruimte van de programmeurs die de ICT ontwerpen en beslisregels programmeren. In Nederland is de geautomatiseerde uitvoeringspraktijk tot voor kort niet genormeerd, ook al is daarvoor diverse malen gepleit vanaf het begin van de jaren negentig.[7] Daarmee wijkt de Nederlandse situatie af van bijvoorbeeld Duitsland, waar in paragraaf 35a van de Verwaltungsverfahrensgesetz (VwVfG) is bepaald dat de geautomatiseerde besluitvorming alleen mag als dit is toegestaan bij wet en er geen sprake is van discretie of beoordelingsvrijheid (‘Ermessen noch Beurteilungsspielraum’).

Sinds de ‘ontdekking’ in 2002 van de system-level bureaucratie als het organisatiepatroon dat grote aantallen beschikkingen produceert, heeft de praktijk zich verder ontwikkeld. Ten minste vier majeure ontwikkelingen nemen we waar. Ten eerste is het ketenkarakter van geautomatiseerde besluitvorming, destijds alleen in de kiem aanwezig, tegenwoordig tot volle wasdom gekomen. Ten tweede lijken de systeemontwikkelaars meer dan ooit discretionaire ruimte te hebben om aan de systemen te sleutelen. Een derde ontwikkeling is de opkomst van data professionals, die, en dat is een vierde ontwikkeling, steeds meer aangevuld en soms vervangen worden door artificiële intelligentie.

3 Ketens van system-level bureaucratieën

Als organisatievorm is de system-level bureaucratie een echte ‘millennial’: geboren in de jaren tachtig en groot geworden in de jaren negentig en de jaren nul. Sindsdien zijn de system-level bureaucratieën verder verfijnd en uitgebreid. De system-level bureaucratie is op meer plaatsen in het openbaar bestuur gerealiseerd en met name de interorganisatorische ketens zijn verder uitgebouwd. Deze ontwikkeling beschrijven en duiden we aan de hand van twee Nederlandse cases. In 2015 en 2016 zijn twee uitvoeringspraktijken in Nederland onderzocht die als system-level bureaucratie kunnen worden aangemerkt.[8] In deze uitvoeringspraktijken neemt de computer het overgrote deel van de individuele besluiten en voert deze ook feitelijk uit. In de ene casus gaat het om het vaststellen en uitbetalen van de kinderbijslag door de Sociale verzekeringsbank. De andere casus betreft het vaststellen van het inkomensgegeven en de bijbehorende aanslag door de Belastingdienst.

Uitvoeren van de kinderbijslag

Nederlandse burgers met kinderen in de leeftijd tot 18 jaar hebben recht op kinderbijslag. Bij het uitvoeren van de kinderbijslag bouwt de Sociale verzekeringsbank grotendeels voort op gegevens van burgers die in andere processen door andere overheidsorganen zijn vastgelegd. De aangifte van de geboorte bij de gemeente waar het kind is geboren, leidt tot het aanmaken van een geboorteakte en inschrijving in de Basisregistratie personen. Er wordt een individueel uniek nummer aan het kind toegekend en de geboorte van het kind en de bijbehorende gegevens worden aan de Sociale verzekeringsbank doorgegeven via een abonnementsstructuur. Vervolgens wordt de aanvraag geautomatiseerd voorbereid en krijgen de ouders de mogelijkheid de aanvraag te bevestigen. In standaardsituaties is dat de enige activiteit die burgers ondernemen.

Na ontvangst van de aanvraag neemt de computer in het gros van de gevallen - in 2014 in 77 procent van alle besluiten - een beslissing. De overige beslissingen worden door een ambtenaar genomen, hetzij omdat de aanvraag op basis van risico-regels een extra controle vergt, hetzij omdat er internationale aspecten een rol spelen en er onvoldoende gegevens geautomatiseerd beschikbaar zijn. In de jaren daarna doet de computer op de achtergrond al het werk. Bij wettelijke mijlpalen, zoals het bereiken van de leeftijd van zes of twaalf jaar, verandert wel het recht en het bedrag, maar ontvangt de burger alleen een besluit daarvan als hij daarom verzoekt. Als er een tweede of volgende kind wordt geboren, wordt de kinderbijslag automatisch verhoogd. In 2014 waren er iets minder dan 2 miljoen gerechtigden in Nederland. Het besluit dat er wel of geen recht bestaat op kinderbijslag wordt vervolgens weer als gegeven verstrekt aan een ander bestuursorgaan, Belastingdienst/Toeslagen, dat belast is met de uitkering van een inkomensafhankelijke aanvulling daarop. Vervolgens gaan de computers van dat bestuursorgaan aan de slag om de aanvraag voor deze aanvulling voor te bereiden. Zo zijn er al drie schakels in de keten van system-level bureaucratieën.

Vaststellen van het inkomensgegeven

Om de belastingen over loon en premies voor werknemersverzekeringen te heffen, is de Nederlandse Belastingdienst in allerlei richtingen vertakt. Ten eerste werkt de Belastingdienst samen met werkgevers, het Uitvoeringsinstituut werknemersverzekeringen (UWV) en het Centraal bureau voor statistiek. Een groot deel van het vaststellen, inhouden en overdragen van de loonbelasting wordt geautomatiseerd verricht door de werkgevers en hun softwarepakketten. Daarna worden de gegevens uitgesplitst per individuele werknemer. Als deze gegevens via het UWV door de Belastingdienst worden ontvangen, kunnen deze gebruikt worden voor het voorbereiden van de jaarlijkse aangifte van de inkomstenbelasting. Vanaf dat moment lijkt de uitvoering op de werkwijze rond de kinderbijslag. De informatie die al beschikbaar is bij de Belastingdienst wordt al in de aangifte ingevuld en de belastingschuld wordt al uitgerekend. Burgers hoeven vervolgens alleen nog hun eigen gegevens te controleren en eventueel te wijzigen. Daarna is niet meer nodig dan een bevestiging van de digitale aangifte middels een digitale handtekening.

Bij 90% van de 11 miljoen jaarlijkse aangiften neemt vervolgens de computer een besluit. Op basis van eerder geformuleerde risicoregels wordt de rest gereserveerd voor een handmatig afhandeling door ambtenaren. Het besluit bepaalt zowel de belastingschuld als de hoogte van het officiële inkomen. Dit wordt vervolgens opgenomen in de Basisregistratie inkomen. Op die manier kunnen andere overheidsorganen die inkomensafhankelijke regelingen uitvoeren, gebruik maken van deze gegevens. Voor mensen die geen aangifte hoeven te doen geldt dat de gegevens per individu worden vastgesteld en direct geautomatiseerd worden opgenomen in de Basisregistratie inkomen. Het aantal mensen dat geen aangifte hoeft te doen maar wel loonbelasting betaalt, wordt geschat op 3,5 miljoen. Ook bij de vaststelling van het inkomen zien we dat het bestuursorgaan vertrouwt op gegevens die door andere organisaties zijn aangemaakt en dat het geautomatiseerde besluit dat op basis van deze gegevens wordt genomen, weer bepalend is voor besluiten van andere overheidsorganen.

Uit het onderzoek naar deze uitvoeringspraktijk bleek ook dat het maken van een gegrond bezwaar niet betekent dat alle nadelige gevolgen van het geautomatiseerde ketenbesluit ongedaan worden gemaakt. In een informatiseringsketen is niet altijd voorzien in de situatie dat gegevens met terugwerkende kracht wijzigen of gecorrigeerd worden. Dit heeft nadelige gevolgen voor de rechtsbescherming van de burger en illustreert de invloed van ICT op de uitvoering.

4 Systeemontwikkeling: bricolage met software engineers aan het stuur

Zowel de system-level bureaucracy als de screen-level bureaucracy zijn ontstaan in de tijd dat overheidsorganisaties grote systemen bouwden. Software-ontwikkeling was op dat moment grootschalig georganiseerd. In Nederland zijn veel ‘grote’ systemen bekend geworden, zoals SAGITTA bij de douane, het WSF-systeem voor studiebeurzen, het BPS in verschillende politiekorpsen en de GBA voor de bevolkingsadministratie. De ambitie achter deze informatiesystemen was om hele processen in uitvoeringsorganisaties te automatiseren. Het zijn administratieve systemen waaraan grote registraties zijn gekoppeld. Zo zijn er nationale systemen ontwikkeld voor de verdeling van geld over onderwijsinstellingen, maar ook voor het vervaardigen van belastingaanslagen en het innen van belastingen. Uiteindelijk, zo was het idee, zouden deze grote systemen het ‘egovernment ideaal’, waarin alle communicatie en transacties tussen overheid en burger digitaal plaatsvinden, kunnen realiseren.

Na de eerste ervaringen met grote systemen volgden de eerste fiasco’s en de kritiek op de ‘megalomane’ ambities ervan. Er wordt veel geld uitgegeven aan de ontwikkeling van systemen, door de grootschaligheid zijn de risico’s groot, de ‘governance’ van deze projecten is moeilijk, zo niet onmogelijk. Diverse grote herzieningen van systemen zijn afgeblazen met grote financiële verliezen. De kritiek op deze wijze van softwareontwikkeling mondde zelfs uit in een parlementair onderzoek.[9] Belangrijke conclusies van de onderzoekscommissie zijn dat het ICT-enthousiasme in de politiek en bij beleidsmakers niet gepaard gaat met ICT-realisme, dat het bouwen van grote systemen lang duurt, dat beleid tussentijds nogal eens verandert, dat de ontwikkeling van grote systemen niet voortdurend flexibel kan blijven, en dat deze combinatie een aantal ICTfiasco’s verklaart. In system-level bureaucracies zien we als reactie hierop een ander type softwareontwikkeling ontstaan. Zij is al jaren terug aanbevolen door Ciborra, die sprak over de noodzaak van ‘bricolage’ bij het ontwikkelen van informatiesystemen.[10] Tegenover de grote, managerial gestuurde ICT-projecten staat ad-hoc ontwikkeling van onderop.

Typerend hiervoor is de situatie bij het CJIB, de organisatie voor onder meer de incasso van verkeersboetes en strafboetevonnissen. Dit is een typische system-level bureaucracy waarin informatie digitaal door de politie wordt aangeleverd en wordt bewerkt waarna, tegenwoordig zelfs via de digitale post, de boete aan burgers wordt verzonden en het betaalproces geheel geautomatiseerd wordt ‘gemonitord’. De kern van deze organisatie is een verzameling geautomatiseerde systemen.

In de organisatie wordt de kern van het uitvoerend werk aangeduid als de ‘business’. Naast de ‘business’ is een groepje creatieve ontwikkelaars georganiseerd, die bewust van de organisatie zijn losgemaakt. Ze zitten in een gebouw op loopafstand van de ‘business’ en hebben de ruimte gekregen om zelf ideeën te ontwikkelen voor nieuwe applicaties en verbetering van de bestaande systemen. Ze komen periodiek met (kleinere) ideeën voor applicaties en veranderingen waarmee aan de ‘business’ kan worden gesleuteld. De ideeën worden voorgelegd aan het management waarna afspraken over implementatie worden gemaakt.

Kenmerkend voor de werkwijze is het gebruik van de creativiteit van de ontwikkelaars, de afstand tot de kern van de organisatie, en de kleine ingrepen. Kortom, ‘bricolage’ avant la lettre of, zoals het in hippe advertenties van ICT-dienstverleners wordt aangeprezen, ‘agile’ ICT-ontwikkeling. De groep creatieve ontwikkelaars heeft formeel geen besluitvormende bevoegdheid, maar hun discretionaire ruimte voor het ontwikkelen van applicaties is tamelijk groot en de facto sturen ze veel van de softwareontwikkeling.

5 Onvoorziene discretie: data-analisten

De kern van de transformatie van street-level naar system-level bureaucratie is de verplaatsing van discretionaire ruimte van de individuele gevalsbehandeling naar het ontwerpen van de ICT. Zoals de casus laten zien, is deze beweging in de afgelopen decennia nog verder versterkt. De discretionaire ruimte van de ICT-ontwikkelaars is uitgebreid naar de uitwisseling van data in ‘ketens’. Zij bepalen welke verbindingen tussen systemen worden gemaakt, welke data worden gebruikt en welke ‘gaten’ in de wetgeving worden geaccepteerd dan wel gerepareerd. In de hedendaagse system-level bureaucratie is er nog een andere groep ICT-experts met veel discretionaire ruimte: de data-analisten.[11] Zij sleutelen niet aan het systeem maar ze analyseren de data in het systeem op zoek naar patronen. Aan de hand van deze patronen stellen ze ‘verbeteringen’ voor of ontwikkelen ze in zogenaamde Behavioural Insight Teams ‘nudges’ om burgers in de door de system-level bureaucratie gewenste richting te geleiden.[12] Wellicht de meest vooruitstrevende organisatie als het gaat om data-analyse is de Nederlandse Belastingdienst. Deze dienst beschikt niet alleen over veel gegevens van alle belastingplichtigen in Nederland, maar zoals we hiervoor hebben beschreven, is deze dienst binnen en buiten het openbaar bestuur sterk verbonden met andere bronnen van informatie.

Deze data worden in toenemende mate actief gebruikt door data-analisten om patronen te destilleren voor verschillende doelen. Zo kan met behulp van de data-analyses fraude worden opgespoord, al dan niet in combinatie met andere overheidsdiensten als de politie, gemeenten of uitkeringsinstanties. Roemruchte en wellicht apocriefe voorbeelden zijn er genoeg. Zo beschrijft de OECD welke bronnen van Big Data door belastingautoriteiten gebruikt zouden kunnen worden voor het profileren van burgers en bedrijven. Het gaat daarbij niet alleen meer om de gegevens uit de eigen databases, maar ook om gegevens van burgers als gebruikers van de aangeboden digitale voorzieningen - wat is het surfgedrag op de website, hoelang doet iemand over zijn aangifte, hoe maakt iemand gebruik van de app - of zelfs om gegevens die uit te lezen zijn via het internet of things.[13]

Data-analyses kunnen ook worden gebruikt om veel voorkomende fouten in de aangifte te filteren van mogelijke fraude, zodat de controlecapaciteit van de Belastingdienst beter wordt benut. Data-analisten kunnen helpen bij het verhogen van de doelmatigheid: wanneer is verhaal zinvol, welke aangiftes moeten extra worden gecontroleerd en bij welke aangiftes is de kans reëel dat er sprake is van opzettelijke fouten? Het eerder genoemd Centraal Justitieel Incasso Bureau gebruikt data-analyses om kansrijke en kansloze incasso’s te selecteren om ondoelmatige inzet van bijvoorbeeld deurwaarders te voorkomen. Ook voor het tegenovergestelde doel gebruikt de Belastingdienst dataanalyses. Zo kunnen ‘green lanes’ worden gecreëerd voor belastingplichtigen waarvan de geschiedenis of hun profiel aantoont dat de kans op fraude of belastingontduiking minimaal is. Data-analisten worden daarnaast ingezet voor ‘risicomanagement’: bij welk patroon is bijvoorbeeld de kans groot dat sprake is van BTW-fraude?

De Belastingdienst, grote uitvoeringsinstanties op het terrein van de sociale zekerheid en gemeenten, die in Nederland steeds meer sociale zekerheidswetgeving uitvoeren, participeren ook in een breder netwerkverband onder de noemer Systeem Risico Indicatie.[14] Omdat de privacywetgeving grootschalige en directe koppeling van de bestanden van deze andere publieke en private organisaties, zoals waterbedrijven of autoverhuurbedrijven, niet toestaat, is een bijzondere werkwijze ontwikkeld. Het initiatief voor een risicoanalyse ligt bij een van de partners, maar de uitvoering ervan vindt plaats bij een landelijk inlichtingenbureau. Deze koppelt en versleutelt op verzoek de door de deelnemers aangeleverde gegevensbestanden en ontsleutelt vervolgens de resultaten die op een verhoogd risico duiden. Deze mogelijke ‘hits’ worden aan het ministerie van Sociale Zaken en Werkgelegenheid aangeleverd, die de gegevens beoordeelt en de risicomeldingen doorgeeft aan de vragende organisaties. Die organisatie kan dan vervolgens verder onderzoek uitvoeren naar het geval in kwestie.

Zoals de voorbeelden al laten zien, is de bandbreedte in de praktijken van data-analisten tamelijk breed. Al zijn er in het laatste voorbeeld dus wel ‘checks’ op de discretionaire ruimte van data-analisten, duidelijk is ook dat ze over de nodige discretionaire ruimte beschikken.

6 Artificiële intelligentie: De opkomst van zelflerende systemen

Een volgende stap in de ontwikkeling is de opkomst van zelflerende systemen door de inzet van artificiële intelligentie en ‘machine learning’. In die gevallen zijn het niet meer de data-analisten die de algoritmen aanpassen, maar zijn het de beslissystemen zelf die in zekere zin discretionaire ruimte hebben. Op basis van patroonherkenning passen deze intelligente systemen zelf de algoritmen aan op basis waarvan beslissingen worden genomen over de inzet van opsporingscapaciteit, het extra controleren van aanvragen of het al dan niet vervolgen van mogelijke fraudegevallen. In Nederland zijn hier nog niet veel voorbeelden van, maar in de VS wordt hier al mee gewerkt.

Met name de inzet van voorspellende systemen roept veel vragen op.[15] Zo werken Amerikaanse systemen die luchtvaartpassagiers op een ‘no fly list’ zetten, deels op basis van voorspellingen over wat ze in de toekomst wellicht gaan doen. Die voorspellingen zijn gebaseerd op aannames over algemene gedragspatronen.[16] Ook in steeds meer steden en staten van de VS wordt gewerkt met zelflerende beslissystemen bij de toewijzing van sociale woningen, de toelating van kinderen op scholen, en bij de opsporing van sociale fraude.[17][18]

Er is een risico dat de discretionaire ruimte van deze beslissystemen zich onttrekt aan politieke controle en juridische verantwoording. Op dit moment is veelal onnavolgbaar op basis van welke uitgangspunten deze systemen opereren. Dat komt deels omdat die uitgangspunten zitten opgesloten in algoritmen en door het systeem zelf worden aangepast. Hildebrandt noemt de ondoorzichtigheid en ondoorgrondelijkheid van de zelflerende software dan ook als eerste probleem als het gebruik van zelflerende systemen wordt geconfronteerd met de Rule of Law. Een ander probleem is dat de machine-learning software inbreuken kan gaan maken op enkele fundamentele rechten zoals het recht op privacy, verbod van discriminatie en de onschuldpresumptie. Ook stelt zij dat de professional door de zelflerende systemen steeds minder in staat zal zijn te beoordelen of de software het wel goed heeft.[19] Dit komt ook omdat de beslissystemen zijn ontwikkeld door commerciële partijen. Zij zijn zeer terughoudend met publieke verantwoording en transparantie, onder verwijzing naar hun bedrijfsgeheimen en private status.[20]

7 De inbedding van algoritmische rechtstoepassing in de democratische rechtsstaat

In de afgelopen decennia heeft de system-level praktijk zich verder ontwikkeld langs de vier genoemde lijnen: koppeling van systemen tussen organisaties, ruimte voor ICTontwikkelaars, opkomst van dataprofessionals, en in toenemende mate vervanging van dataprofessionals door artificiële intelligentie. Vanouds zijn er zorgen over de democratische en rechtsstatelijke beheersing van grootschalige overheidsbureaucratieën.[21] Als de discretionaire ruimte zich verplaatst naar systeemontwikkelaars, software engineers, data professionals en artificiële intelligentie, moet ook een herbezinning volgen op de controle hierop. Wij bespreken een vijftal zorgen en mogelijke aanknopingspunten om hier wat aan te doen.

Wie controleert de systeemontwikkelaars en data-analisten?

We beginnen met de controle op de werkzaamheden van de systeemontwikkelaars en data-analisten. Bestuursorganen leggen daarover nauwelijks verantwoording af, noch in een individueel geval bij de rechter, noch over de kwaliteit en rechtmatigheid van de uitvoering als geheel. Zo zijn de beslisregels die door programmeurs zijn geschreven ongeschikt om inhoudelijk onderzoek te verrichten naar de vraag hoe het bestuursorgaan een wet heeft geïnterpreteerd, welke beleidsmatige keuzes er zijn gemaakt en of de transformatie van wet in code leidt tot een rechtmatige uitvoering.

Hoewel er al jarenlang gebruik wordt gemaakt van geautomatiseerde afhandelingssystemen, is de jurisprudentie hierover nogal overzichtelijk. Belangrijke mijlpaal is de uitspraak van de Afdeling bestuursrecht van de Raad van State over het expertsysteem AERIUS. AERIUS wordt ingezet bij het beslissen over het verlenen van een vergunning voor een stikstof verhogende activiteit, zoals bij de uitbreiding van de veestapel. De bestuursrechter oordeelde dat als de overheid haar beslissingen baseert op een computerprogramma, dit alleen kan als dit geen ‘black box’ is voor de burger en de rechter. Het bestuursorgaan dat het besluit neemt moet volledig, tijdig en adequaat informatie geven over gemaakte keuzes, gebruikte gegevens en aannames. Dit moet het mogelijk maken deze te (laten) beoordelen en zo nodig gemotiveerd te betwisten. Vervolgens oordeelde de bestuursrechter dat de onderbouwing van de betwiste punten van het geautomatiseerde besluit op die onderdelen onvoldoende inzichtelijk was gemaakt zodat de bestreden besluiten gebreken vertoonden.[22]

Onlangs bevestigde de Hoge Raad deze norm.[23] De Hoge Raad stelt dat indien “een door het bestuursorgaan genomen besluit geheel of ten dele het resultaat is van een geautomatiseerd proces – zoals de modelmatige waardebepaling in het kader van de uitvoering van de Wet WOZ – en de belanghebbende de juistheid van de bij dat geautomatiseerde proces gemaakte keuzes en van de daarbij gebruikte gegevens en aannames wil controleren en zo nodig gemotiveerd betwisten”, het bestuursorgaan moet “zorgdragen voor de inzichtelijkheid en controleerbaarheid van die keuzes, aannames en gegevens. Zonder die inzichtelijkheid en controleerbaarheid dreigt een ongelijkwaardige procespositie te ontstaan.”

Daarnaast biedt de Algemene verordening gegevensbescherming (EU Verordening 2016/679; AVG) mogelijkheden voor regulering van de discretionaire ruimte van de software-engineers. Op grond van artikel 22 AVG, artikel 40 van de Uitvoeringswet AVG, en artikelen 13 en 14 AVG, mag de overheid geautomatiseerde besluiten nemen, maar moet de burger wel geïnformeerd worden over de logica die ten grondslag ligt aan het besluit. Het is mogelijk dat deze verordening de discretionaire ruimte van data-analisten gaat reguleren. Burgers hebben immers het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking gebaseerd besluit waaraan voor hen rechtsgevolgen zijn verbonden of dat hen anderszins in aanmerkelijke mate treft. In relatie tot artikel 40 van de Uitvoeringswet AVG komt dit erop neer dat profilering die leidt tot een handeling van de overheid die iemand in aanmerkelijke mate treft, alleen is toegestaan bij een Unierechtelijke of lidstaatrechtelijke bepaling.[24] Bovendien zal de organisatie nuttige informatie moeten verstrekken over de onderliggende logica. Het eerdergenoemde Systeem Risico Indicatie is een voorbeeld van profilering met een wettelijke grondslag (artikel 65 Wet Structuur uitvoeringsorganisatie werk en inkomen). Omdat er verder geen voorbeelden bekend zijn van wettelijk toegestane profileringspraktijken, is de verwachting dat er veel gediscussieerd zal worden over de vraag of de bijdrage van data-analisten aan het productieproces leidt tot handelingen die de burger in aanmerkelijke mate raken. Want tegenover een persoon die is geselecteerd voor de ‘green lane’, staat een andere burger die juist extra gecontroleerd wordt.

Het parlement heeft ook oog voor de implicaties van het werk van de data-analisten. Zo is de regering gevraagd in kaart te brengen waar de overheid algoritmes toepast. Uit het verslag van het debat waarin deze vragen werden gesteld, blijkt dat men hiermee doelt op de algoritmes die de data-professionals maken of gebruiken.[25] Het antwoord hierop volgt nog. Vanwege het besluit om een Wob-verzoek om de onderzoeksopzet en bijbehorende correspondentie toe te wijzen, zijn deze stukken al wel openbaar gemaakt en aan de Tweede Kamer beschikbaar gesteld.[26] Ook is er een motie ingediend waarin de regering wordt verzocht na te streven dat de werking en de broncode van door overheden gebruikte algoritmes en analysemethoden die een aanmerkelijke impact hebben op burgers, openbaar te maken.[27] Op verzoek van de Minister voor rechtsbescherming is deze motie aangehouden onder de toezegging dat leden van de Tweede Kamer eerst zouden worden geïnformeerd over het effect van de motie voor de uitvoering. Dit heeft de minister gedaan in een brief waarin hij schrijft dat het openbaar maken van de beslisregels van het algoritme extra uitvoeringslasten met zich mee zal brengen en volgens hem weinig zal toevoegen aan de gewenste transparantie.

Tegelijkertijd wijst hij ook op de vereisten die voortvloeien uit de uitspraak van de Afdeling bestuursrechtspraak van de Raad van State in de AERIUS zaak.[28]

Inmiddels zijn ook de kiemen voor een volgende ontwikkeling al zichtbaar: de inzet van zelflerende systemen. Van verschillende kanten is gewezen op de democratische en rechtstatelijke risico’s van deze systemen en worden er oplossingen gesuggereerd om deze te beperken. Zo hebben Brauneis en Goldman een kader voor algoritmische transparantie ontwikkeld dat acht elementen bevat.[29] En in ons land heeft de WRR een kader ontwikkeld voor de inzet van big data analyses in het veiligheidsdomein.[30]

Voor de inbedding van de algoritmische rechtstoepassing in de democratische rechtsstaat is het ook belangrijk dat de beslisregels in de software juridische status krijgen. De status van beleidsregels in de zin van de Algemene wet bestuursrecht is wel de ‘laagste’ eis die we kunnen bedenken. Gezien het toenemend belang van geautomatiseerde besluitvorming is een ‘hogere’ juridische status, die impliceert dat net als bij wetten in formele zin en AMvB’s advies nodig is van de Raad van State, zeker gerechtvaardigd. Maar ook als beslisregels slechts de status van beleidsregels krijgen, zou daaraan de verplichting kunnen worden gekoppeld van advisering door bijvoorbeeld de Raad van State of een minder gewichtig adviesorgaan. Alleen al de verplichting van advisering preventief omdat deze noopt tot transparantie ten aanzien van de gemaakte (interpretatie)keuzes en motivering daarvan. Ook plaatst verplichte advisering het bestuursorgaan aan het stuur en niet de software ontwikkelaars. Voor beleidsregels geldt bovendien de ‘inherente afwijkingsbevoegdheid’. Deze impliceert dat het bestuursorgaan ook altijd de toepassing van de beleidsregels moet wegen. In dat verband zou je ook kunnen denken aan een verplichte heroverweging of toetsing van de toepassing van de software-beleidsregels in de bezwaarfase.

Dit betekent echter nog niet dat er een oordeel kan worden gegeven over de waarden die, bedoeld of onbedoeld, wel of niet, worden geprogrammeerd. Te denken valt aan een controle op de vraag of de beginselen van behoorlijk bestuur goed zijn geprogrammeerd. In Denemarken geldt het ongeschreven beginsel van ‘Administrative Law By Design’. Dit betekent in deze context dat bij de introductie van een nieuw systeem, het bestuur actief ervoor moet zorgen dat de relevante wetgeving en de (ongeschreven) beginselen van behoorlijk bestuur worden geborgd gedurende het hele proces van ontwikkeling, programmering en het gebruik van het systeem. Het voorlopig sluitstuk van het beginsel van Administrative Law by Design is de eis van een Good Administration Impact Assessment. Het bestuur moet dan door het doorlopen en vastleggen van een systematische procedure aantonen dat aandacht is besteed aan de mogelijk impact van het systeem op de wetgeving en beginselen van behoorlijk bestuur.[31]

Transparantie van de algoritmes

Transparantie van de algoritmes is een harde voorwaarde voor sturing en controle. Zowel de jurisprudentie als het advies van de Afdeling Advisering van de Raad van State zijn op dit punt glashelder. De beslisregels moeten eigenlijk openbaar zijn en in ieder geval moet verplicht zijn dat de toegepaste beslisregels op verzoek openbaar worden gemaakt. Transparantie vraagt, om te beginnen, dat de informatie-organisatie rond geautomatiseerde uitvoering zodanig op orde is dat transparantie mogelijk is. Op dit terrein valt nog het nodige te verbeteren. Gezien de complexiteit – zeker van de ‘lerende’ systemen – is het eenvoudig openbaar maken van de broncodes onvoldoende. In haar advies komt de Afdeling Advisering van de Raad van State tot de conclusie dat het motiveringsbeginsel en het zorgvuldigheidsbeginsel scherper moeten worden geïnterpreteerd in de context van digitalisering. Dat betekent volgens de Afdeling “onder meer dat in een besluit moet worden toegelicht welke beslisregels (algoritmen) zijn gebruikt en welke gegevens zijn overgenomen van andere bestuursorganen.” Om zowel sturing als verantwoording mogelijk te maken zou er wat ons betreft een actieve transparantieplicht moeten komen die verder gaat dan openbaarmaking in de strikte zin van de Wet openbaarheid van bestuur en wellicht ook verder gaat dan nu in de jurisprudentie gebeurt. Het gaat om het actief inzichtelijk en toegankelijk maken van de beslisregels, van de feitenbasis die wordt gebruikt voor de besluitvorming, inclusief het moment waarop iets als feit wordt beschouwd, en van de wetsinterpretatie die in de systemen besloten ligt. Deze actieve transparantieplicht zou moeten gelden voor alle ‘system-level’ bureaucratieën en kan worden vastgelegd in de wetgeving op basis waarvan ze beschikkingen geven, dan wel in de Algemene wet bestuursrecht.

Maatwerk in bijzondere gevallen

Een derde zorg is dat algoritmische rechtstoepassing zoals hier beschreven leidt tot mechanische rechtstoepassing. Deze doet weliswaar het gros van de situaties recht, maar individuele burgers met bijzondere situaties kunnen hierdoor behoorlijk in de knel komen. Zouridis pleitte daarom in 2000 reeds voor een hardheidsclause in wetgeving die geautomatiseerd wordt uitgevoerd. Een hardheidsclausule dwingt tot een redelijkheidstoets in individuele gevallen en daarmee tot de mogelijkheid af te wijken van het systeem. Dit impliceert wel dat de hardheidsclausule in de grote uitvoeringsorganisaties serieus wordt genomen en wellicht wordt gebruikt voor het ‘lerend’ maken van het geautomatiseerd systeem.

De ‘backup-optie’ van een menselijke beslisser, op basis van kennelijke onredelijkheid, kan daarnaast veel ellende voorkomen, inclusief een nodeloze gang naar de rechter. Ook in haar ongevraagd advies over digitalisering adviseert de Afdeling Advisering van de Raad van State om “maatwerk en ’menselijke’ heroverweging in de bezwaarfase van geautomatiseerd tot stand gekomen besluiten te bevorderen.”[32] In de reactie op dit advies schrijft de regering dat het aan de bestuursorganen en rechtspraktijk is om de bestaande beginselen van behoorlijk bestuur toe te passen via de beginselbenadering die ook voor de AVG geldt. De regering ziet hier vooral een rol weggelegd voor het zorgvuldigheidsbeginsel (rekening houden met feiten en omstandigheden, desnoods in afwijking van geautomatiseerde beslisregels).[33]

Meer ruimte voor terugwerkende kracht

De intensieve samenwerking binnen informatiseringsketens brengt ook een ander probleem met zich mee: dat van de terugwerkende kracht. De meeste IT-systemen hebben moeite met het toekennen van terugwerkende kracht aan een beslissing, omdat ze niet met dat doel zijn ontworpen. In het recht is het toekennen van terugwerkende kracht een belangrijk mechanisme om fouten recht te zetten, maar in de uitvoering is de terugwerkende kracht soms lastig te bewerkstelligen. Een besluit dat wordt gestandaardiseerd tot een gegeven, bijvoorbeeld door de toekenning van een tweecijferige code, en dat vervolgens wordt ingetrokken, blijkt bijvoorbeeld niet verwijderd te kunnen worden. Het enige technologische alternatief is dan het plaatsen van een aantekening van onjuistheid.

Zeker bij onderling verbonden systemen, waarbij data uit het ene beschikkingsproces worden gebruikt voor een ander beschikkingsproces, kan de onmogelijkheid van terugwerkende kracht een serieus probleem zijn. Bestuursorganen lezen informatie in van andere bestuursorganen en zo ontstaat een keten die zich soms lastig laat ontwarren. Het is op z’n minst inconsequent te noemen dat in een vernetwerkte en automatisch werkende overheid, die steeds meer onderdelen van het leven van burgers raakt, geen standaard geautomatiseerde oplossing wordt geboden voor het herstellen van fouten met terugwerkende kracht.[34] Het ontwerp van de ICT zal terugwerkende kracht dan ook meer dan nu mogelijk moeten maken. Verplichte transparantie van de herkomst van gebruikte gegevens (van welke organisatie, op welk moment) kan worden gekoppeld aan de juridische mogelijkheid de keten te doorbreken. Dat kan bijvoorbeeld door burgers ingeval van geautomatiseerde uitvoering de mogelijkheid te geven de onderliggende gegevens te corrigeren, of in ieder geval aan te vechten.

Versterking van de audit-functie

Ook helpt het wanneer de auditfunctie in en rondom “system-level bureaucracies” wordt versterkt. Een periodieke, steekproefsgewijze check op rechtmatigheid van de algoritmes door een interne of externe audit-instantie is een extra waarborg voor de rechtmatigheid van de beslisregels, naast de verplichte advisering. Dit zorgt er bovendien voor dat rechtmatigheid hoger op de agenda komt van de top van de “streetlevel bureaucracy”. Naast effectiviteit - is de ‘productie’ op orde, zijn de gevallen tijdig en allemaal afgehandeld? - wordt ook rechtmatigheid een politiek en bestuurlijk risico. Als sluitstuk zou een onafhankelijk instantie kunnen toezien op geautomatiseerde uitvoering van wetgeving. Dat zou kunnen in de vorm van een AI-autoriteit. Deze kan toezien op de juridische rechtmatigheid, de actieve transparantie en op de aandacht voor bijzondere gevallen en terugwerkende kracht bij algoritmische rechtstoepassing. Eventueel kan deze autoriteit ook een rol spelen bij de advisering.

De Nationale ombudsman zou daarbij ook een rol kunnen spelen. Al meermalen is het juist de Nationale Ombudsman geweest die aandacht heeft gevraagd voor de belangen van burgers in digitale ketens. In plaats van de aanbevelingen die de Nationale Ombudsman nu aan zijn onderzoeken kan verbinden, zou bij geautomatiseerde uitvoering ook aan dwingende aanbevelingen kunnen worden gedacht, in ieder geval bij de individuele onderzoeken. Het ‘piepsysteem’ krijgt dan niet alleen een ‘loop’ via de bestuursrechter met een toets op rechtmatigheid, maar een ‘double loop’ via de Nationale Ombudsman met een toets op behoorlijkheid. Daar waar het huidige systeem nog vrijblijvendheid toelaat van de adviezen van de Nationale Ombudsman, kan dus bij geautomatiseerde besluitvorming aan dwingende adviezen worden gedacht.

Met deze waarborgen kan de system-level bureaucratie met zijn de algoritmische rechtstoepassing beter in de democratische rechtsstaat worden ingebed. Juridische status voor beslisregels, transparantie van algoritmen, en verantwoording van de onderliggende waarden, verminderen de klassieke zorgen over legaliteit en controleerbaarheid. Ruimte voor terugwerkende kracht en menselijk maatwerk helpen om de redelijkheid in het bestuursrecht vast te houden. Zij voorkomen dat de zegeningen van de algoritmische rechtstoepassing, zoals verlossing van de willekeur van bekrompen bureaucraten, teniet worden gedaan door nieuwe algoritmische rigiditeiten. Daniel Blake had prima geholpen kunnen worden als er meer ruimte was geweest voor maatwerk en voor menselijke heroverweging. ‘Computer says no’ kan immers nooit een legitiem argument zijn in een democratische rechtsstaat.

8 Eindnoten

1. Dit is een bewerking van een Engelstalige bijdrage aan een bundel over discretionaire ruimte (S. Zouridis, M. van Eck & M. Bovens, Digitilization and discretion, nog te verschijnen).

2. M. Bovens & S. Zouridis, ‘Van street-level bureaucratie naar systeem-level bureaucratie. Over ICT, ambtelijke discretie en de democratische rechtsstaat.’ NJB 2002-2, p. 65-74.

3. S. Zouridis, Digitale disciplinering. Over ICT, organisatie, wetgeving en het automatiseren van beschikkingen. (diss. Tilburg), Delft: Eburon 2000.

4. B.M.A. van Eck, Geautomatiseerde ketenbesluiten & Rechtsbescherming. Een onderzoek naar de praktijk van geautomatiseerde ketenbesluiten over een financieel belang in relatie tot rechtsbescherming. (diss. Tilburg).

5. Lipsky, M. (1980). Street-Level Bureaucracy: Dilemmas of the Individual in Public Services. New York: Russell Sage.

6. Hoewel het onderzoek naar street-level bureaucratieën, het management ervan en de context van het werk van steet-level bureaucrats sinds het oorspronkelijk werk van Lipsky aanzienlijk is verdiept (zie bijvoorbeeld P. Hupe, M. Hill, A. Buffat (red), Understanding Street-Level Bureaucracy. Bristol: Policy Press at the University of Bristol. 2015), zijn deze organisatiekenmerken relevant gebleven.

7. Bijvoorbeeld H. Franken. Kanttekeningen bij het automatiseren van beschikkingen. VAR-reeks 110, ’sGravenhage, 1993. S. Zouridis, Digitale discplinering. Delft: Eburon, 2000. Groothuis M.M., Beschikken en digitaliseren. Over normering van de elektronische overheid, Den Haag: SDU Uitgevers. 2005.

8. B.M.A. van Eck, Geautomatiseerde ketenbesluiten & Rechtsbescherming. Een onderzoek naar de praktijk van geautomatiseerde ketenbesluiten over een financieel belang in relatie tot rechtsbescherming. (diss. Tilburg) 2018.

9. Eindrapport Parlementair onderzoek naar ICT-projecten bij de overheid, Kamerstukken II, 2014/15, 33326, 5.

10. C. Ciborra, The Labyrinths of Information. Challenging the Wisdom of Systems. Oxford: Oxford University Press. 2002.

11. WRR, Big Data in een vrije en veilige samenleving, WRR rapport 95, Den Haag, 2016.

12. G.H. Evers, In de schaduw van de rechtsstaat: profilering en nudging door de overheid. Computerrecht 2016/84

13. Technologies for Better Tax Administration, Using big data in tax administrations, OECD, 2016, p. 49.

14. WRR, Big Data in een vrije en veilige samenleving, WRR rapport 95, Den Haag. 2016, p. 57 e.v.

15. C. O’Neill, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, New York: Crown. 2016.

16. WRR, Big Data in een vrije en veilige samenleving, WRR rapport 95, Den Haag, p. 65.

17. Powles, J. (2017), New York City’s Bold, Flawed Attempt to Make Algorithms Accountable, The New Yorker, Elements, 20 December 2017. 

18. R. Brauneis & E.P. Goodman, Algorithmic Transparency for the Smart City (August 2, 2017). Yale Journal of Law & Technology, Forthcoming; GWU Law School Public Law Research Paper; GWU Legal Studies Research Paper. 

19. M. Hildebrandt, Law as computation in the era of artificial legal intelligence. Speaking law to the power of statistics. Draft pre-edited paper for special issue of University of Toronto Law Journal 2017, p.11.

20. R. Brauneis & E.P. Goodman, Algorithmic Transparency for the Smart City (August 2, 2017). Yale Journal of Law & Technology, Forthcoming; GWU Law School Public Law Research Paper; GWU Legal Studies Research Paper.

21. Zie bijvoorbeeld M. Weber, Wirtschaft und Gesellschaft. Tübingen: J.C.B. Mohr. 1922, F. Hayek, The Road to Serfdom. London: Routledge. 1944, maar ook bijvoorbeeld D. Waldo, The Administrative State: A Study of the Political Theory of American Public Administration. New York: Ronals Press Co. 1948.

22. Afdeling bestuursrechtspraak Raad van State, 17 mei 2017, ECLI:NL:RVS:2017:1259, rechtsoverweging 14.3 en 14.4., Computerrecht 2017/256, met noot B.M.A. van Eck.

23. Hoge Raad, 17 augustus 2018, ECLI:NL: HR:2018:1316, rechtsoverweging 2.3.3.

24. Staatsblad 2018, 144.

25. Dertigledendebat over digitalisering infrastructuur van 4 oktober 2017, Kamerstukken II, 8-11, p. 1 tot en met 11.

26. Kamerstukken II, 2018/19, 26643, 576.

27. Kamerstukken II, 2017/18, 32761, 117 .

28. Kamerstukken II, 2018/19, 26643, 570.

29. R. Brauneis & E.P. Goodman, Algorithmic Transparency for the Smart City (August 2, 2017). Yale Journal of Law & Technology, Forthcoming; GWU Law School Public Law Research Paper; GWU Legal Studies Research Paper. 

30. WRR, Big Data in een vrije en veilige samenleving, WRR rapport 95, Den Haag. 2016.

31. H. M. Motzfeldt, The Danish Principle of Administrative Law by Design, European Public Law 23, no. 4 (2017): 739-754.

32. Raad van State. Advies W04.18.0230/I.

33. Kamerstukken II, 2018/19, 26643, 578, p. 3.

34. A. Widlak & R. Peeters, De digitale kooi. Over (on)behoorlijk bestuur door informatiearchitectuur. Of: hoe we de burger weer centraal zetten in een digitaliserende overheid. Boom Bestuurskunde, Den Haag, 2018, p.109.

 

Titel, auteur en bron

Titel

Algoritmische rechtstoepassing in de democratische rechtsstaat

Auteur(s)

Marlies van Eck
Mark Bovens
Stavros Zouridis

Permanente link

Huidige versie

https://www.openrecht.nl?jcdi=JCDI:ALT274:1