Noot bij ECLI:NL:RVS:2017:1259 - de computer zegt ja/nee

Auteur(s):

Samenvatting

Lokale overheden moeten voor de vraag of iemand een vergunning krijgt voor een stikstofverhogende activiteit (zoals het uitbreiden van een veehouderij) gebruikmaken van een landelijk computerprogramma: AERIUS. Dit computerprogramma ondersteunt de Programmatische Aanpak Stikstof van de Nederlandse overheid. In een geschil over het verlenen van vergunningen stelt de Afdeling bestuursrechtspraak van de Raad van State prejudiciële vragen aan het Hof van Justitie EU over deze programmatische aanpak in relatie tot de Habitatrichtlijn. In de nationale procedure formuleert de rechter een toetsingskader waaraan de overheid moet voldoen als het nemen van besluiten (gedeeltelijk) wordt overgelaten aan een computer. Vervolgens past de rechter het toetsingskader toe en oordeelt op diverse geschilpunten dat de onderbouwing voor de gemaakte keuzes en aannames onvoldoende inzichtelijk is gemaakt en dat de bestreden besluiten gebreken bevatten.[1]

1

In deze uitspraak laat de Afdeling bestuursrechtspraak van de Raad van State (hierna: ABRvS) – een van vier hoogste bestuursrechters – er geen misverstand over bestaan. Als de overheid zijn beslissingen baseert op een computerprogramma, dan kan dit alleen als dit geen ‘black box’ is voor de burger en de rechter. Het bestuursorgaan dat het besluit neemt moet informatie over gemaakte keuzes, gebruikte keuzes en aannames volledig, tijdig en adequaat ter beschikking stellen. Dit moet het mogelijk maken de gemaakte keuzes en de gebruikte gegevens en aannames te (laten) beoordelen en zo nodig gemotiveerd te betwisten.

2

Deze uitspraak staat in de belangstelling in het bestuursrecht niet zozeer vanwege het gebruik van het computerprogramma AERIUS, maar vanwege de prejudiciele vragen die de ABRvS aan het Hof van Justitie EU heeft gesteld.[2] In deze annotatie gaat het niet om de prejudiciële vragen maar om het oordeel van de ABRvS voor de nationale procedure. Ter discussie staan besluiten die met behulp van de software van AERIUS worden genomen.[3] 

3

De ABRvS stelt centraal dat als de overheid met een computerprogramma besluiten neemt moet worden voorkomen dat dit leidt tot een ongelijkwaardige procespositie van partijen. Dit betekent volgens de rechter dat de overheid de plicht heeft om actief informatie te verstrekken over gemaakte keuzes en de gebruikte gegevens en aannames die verwerkt zijn in de software op een manier waarop deze voor derden toegankelijk zijn. Door transparantie van het computerprogramma te eisen vanuit het belang van ‘equality of arms’ lijkt de ABRvS een bestuursrechtelijke traditie voort te zetten. Die traditie begon in 1997 toen de bestuursrechter een besluit beoordeelde dat gemaakt was met behulp van het computersysteem FIS.[4] Met dit systeem werd de mate van arbeidsongeschiktheid berekend zodat bepaald kon worden wat de hoogte van de arbeidsongeschiktheidsuitkering zou moeten zijn. In de zaak over de uitkering waarbij de belanghebbende bepaalde gegevens betwistte, weigerde het bestuursorgaan informatie over het computersysteem aan de rechter ter beschikking te stellen terwijl de rechtbank vond dat deze moest worden overgelegd op grond van artikel 8:45 van de Algemene wet bestuursrecht (Awb). In dit artikel staat dat de rechter gedurende het vooronderzoek partijen kan verzoeken schriftelijk inlichtingen te geven en onder hen berustende stukken in te zenden. De rechtbank oordeelde dat het tot de fundamentele beginselen van het (bestuursrechtelijk) procesrecht hoort dat de rechter zich bij de vaststelling van rechten en verplichtingen van partijen alleen mag baseren op gegevens van feitelijke aard waarvan partijen de juistheid en volledigheid hebben kunnen nagaan en bij de rechter ter discussie hebben kunnen stellen.[5] Ingeval een besluit dus wordt genomen of gefaciliteerd door een computersysteem, hoort de overheid in een geschil daarover, informatie over het computersysteem ter beschikking te stellen aan de rechter en de andere partij. Dit oordeel werd in hoger beroep bevestigd door de Centrale Raad van Beroep (CRvB) die eraan toevoegde dat fundamentele procesrechtelijke beginselen – waaronder het verdedigingsbeginsel – zwaarder wegen dan de praktische belangen van het bestuursorgaan.[6]

4

Enkele jaren later boog de CRvB zich over de opvolger van FIS, het CBBS.[7] In een procedure over een besluit over de beoordeling van de arbeidsongeschiktheid dat met behulp van het computerprogramma was genomen, oordeelde de CRvB dat de besluiten van dit computerprogramma geen toereikend niveau van transparantie, verifieerbaarheid en toetsbaarheid hadden.[8] De CRvB gaf in de uitspraak aan het bestuursorgaan een termijn om de aanpassingen te realiseren. Besluiten die na deze termijn werden genomen zonder dat het programma was aangepast, zouden door de rechter worden vernietigd omdat deze genomen werden zonder zorgvuldige voorbereiding en/of omdat er een motiveringsgebrek aankleeft. Deze uitspraak leidde tot systeemaanpassingen en een nieuw oordeel van de CRvB: de onvolkomenheden die eerder waren geconstateerd waren genoegzaam verholpen.[9]

5

Gingen deze oudere uitspraken vooral over de vraag wat bekend moet zijn over het computerprogramma in een procedure voor de bestuursrechter, in de uitspraak over AERIUS wordt de volgende stap gezet. Het bestuursorgaan moet alles tijdig openbaar maken zodat de belanghebbende het computerprogramma kan (laten) beoordelen en zo nodig gemotiveerd kan betwisten. Dit ziet dus op de fase die voorafgaat aan een rechtszaak, de fase waarin belanghebbende overweegt rechtsmiddelen in te zetten.[10] Ook brengt de rechter hier de nuance aan dat het moet gaan om het op een ‘passende wijze’ openbaar maken zodat de keuzes, gegevens en aannames voor derden toegankelijk zijn. Hoewel het hier gaat om opensource software die door derden is te gebruiken of te controleren,[11] valt aan te nemen dat de ABRvS dat niet bedoelt met ‘passende wijze’. Ook de 190 factsheets die bij het softwareprogramma op de website beschikbaar zijn gesteld bieden geen uitkomst. Na een intensieve inhoudelijke beoordeling van enkele twistpunten aan het eerder geformuleerde toetsingskader, komt de ABRvS tot het oordeel dat de onderbouwing op die onderdelen onvoldoende inzichtelijk is gemaakt zodat de bestreden besluiten gebreken vertonen.

6

De rode draad in de hier genoemde uitspraken is dat de bestuursrechters die met nieuwe vormen van besluitvorming worden geconfronteerd, deze toetsen aan de oudere algemene rechtsbeginselen van het bestuurs(proces)recht. De bestuursrechtspraak heeft zich op deze manier aangepast aan een nieuwe realiteit in de uitvoering en draagt zo bij aan de rechtsbescherming voor de burger die te maken krijgt met een computerbesluit.

7

Als bij het geautomatiseerd besluiten persoonsgegevens verwerkt worden, zijn ook de bepalingen uit het gegevensbeschermingsrecht van toepassing. Belangrijk daarbij is wel dat geautomatiseerde besluitvorming niet hetzelfde is als geautomatiseerde besluitvorming op basis van profilering. In Nederland worden door de overheid zeer veel geautomatiseerde besluiten genomen zonder enige vorm van profilering. Denk bijvoorbeeld aan de besluiten over motorrijtuigenbelasting, uitkeringen, kinderbijslag, kwijtschelding gemeentelijke belastingen etc. Dit zijn besluiten waarin de individuele gegevens worden gecombineerd met het computersysteem waarin de wettelijke bepalingen zijn verwerkt en waarbij de ambtenaar vervangen wordt door de computer. Het voert te ver om nu in te gaan op de finesses van dit onderscheid, maar als geheugensteuntje is het handig om het begrip kansberekening voor ogen te houden. Is het besluit gebaseerd op een kansberekening dan is het besluit het resultaat van profilering. Gaat het daarentegen om een berekening dan is er sprake van een ‘gewoon’ geautomatiseerd besluit.[12]

In artikel 22, eerste lid , van de Algemene Verordening Gegevensbescherming (AVG) staat dat een betrokkene het recht heeft om niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft.[13] Op dit recht kan een uitzondering worden gemaakt als het besluit is toegestaan bij een Unierechtelijke of lidstaatrechtelijke bepaling die op de verwerkingsverantwoordelijke van toepassing is en die ook voorziet in passende maatregelen ter bescherming van de rechten en vrijheden en gerechtvaardigde belangen van de betrokkene (artikel 22, eerste lid, onder b, van de AVG). Ook moeten bestuursorganen in geval van geautomatiseerde individuele besluitvorming vermelden dat het besluit geautomatiseerd wordt genomen en nuttige informatie geven over de onderliggende logica, het belang en de verwachte gevolgen van die verwerking voor de betrokkene ( artikelen 13, tweede lid , onder f en 14, tweede lid, onder g, van de AVG).

8

Uit het concept wetsvoorstel Uitvoeringswet Algemene verordening gegevensbescherming (hierna: Uitvoeringswet AVG) dat ter openbare consultatie is aangeboden, blijkt dat de Nederlandse wetgever van plan is om een onderscheid te maken tussen geautomatiseerde besluiten en geautomatiseerde besluiten op basis van profilering.[14] Blijkens de concept toelichting bij dit voorstel is bij geautomatiseerde besluitvorming niet per se sprake van het tegenwerpen van generieke kenmerken aan een persoon, of van verwerkingen van persoonsgegevens die risicovol zijn in het licht van potentiële discriminatie. Er kan ook sprake zijn van ‘geautomatiseerde individuele besluitvorming op basis van strikt individuele kenmerken, bijvoorbeeld bij gebonden besluitvorming in het kader van het toekennen van bepaalde toeslagen’.[15]

Voor deze categorie geautomatiseerde besluiten wordt in artikel 38, eerste lid, van het concept wetsvoorstel Uitvoeringswet AVG voorgesteld dat het recht uit 22 van de AVG niet geldt als de geautomatiseerde besluitvorming noodzakelijk is om te voldoen aan een wettelijke verplichting die op de verwerkingsverantwoordelijke rust of noodzakelijk is ter uitvoering van een taak van algemeen belang. Op deze wijze maakt de wetgever gebruik van de ruimte uit artikel 22, eerste lid, onder b, van de AVG. Ter aanvulling wordt voorgesteld dat de verwerkingsverantwoordelijke dan passende maatregelen treft die strekken tot bescherming van het gerechtvaardigd belang van de betrokken. De passende waarborgen die het bestuursorganen in dat geval moet bieden zijn volgens de toelichting bij het concept wetsvoorstel Uitvoeringswet AVG de gebruikelijke bestuursrechtelijke waarborgen, waaronder het zorgvuldigheids- en evenredigheidsbeginsel, en het bieden van bescherming via bezwaar en beroep op grond van de Awb. Deze uitzondering wordt niet voorgesteld voor geautomatiseerde besluiten gebaseerd op profilering.

9

En zo zijn wij weer terug bij de bestuursrechtelijke rechtsbescherming die centraal stond in deze uitspraak. Of we nu naar geautomatiseerde overheidsbesluiten kijken vanuit het bestuursrecht of vanuit het gegevensbeschermingsrecht, onontkoombaar lijkt dat bij besluiten over de motorrijtuigenbelasting, uitkeringen, kinderbijslag, kwijtschelding gemeentelijke belastingen etc., de faciliterende software meer dan nu onderwerp van discussie zal worden in de rechtszaal.

10 Eindnoten

1. Marlies van Eck, promovenda Geautomatiseerde overheidsbesluiten & Rechtsbescherming aan Tilburg University en juridisch adviseur Belastingdienst.

2. Zie hiervoor Zijlmans in JM 2017/958, ‘Verwijzingsuitspraak ECLI:NL:RVS:2017:1259 (en ECLI:NL:RVS:2017:1260) kan het PAS de toets aan artikel 6, leden 2-3 Habitatrichtlijn doorstaan?’.

3. AERIUS, rekeninstrument voor de leefomgeving, Aerius.nl.

4. Functie Informatie Systeem.

5. Rb. Amsterdam, 8 juli 1997, 95/9470 AAWAO 20, JB 1997/207, m.nt. H.J. Simon.

6. CRvB, 27 november 1998, ECLI:NL:CRVB:1998:AA3736, AB 1999/66 , m.nt. F.J.L. Pennings en USZ 1998/311, m.nt. H.H. de Vries.

7. Claimbeoordelings- en borgingssysteem.

8. CRvB 9 november 2004, ECLI:NL:CRVB:2004:AR4716, RSV 2004/351 .

9. CRvB 12 oktober 2006, ECLI:NL:CRVB:2006:AY9973, SR 2006/81, m.nt. A.C. Damsteegt.

10. Opvallend is de tegengestelde beweging die de civiele rechter maakt in een kort geding over een lotingssysteem dat bepaalt welk kind op welke middelbare school wordt geplaatst in Amsterdam en waarbij kinderen door het computergestuurde lotingsalgoritme op geen enkele school in Amsterdam geplaatst werden. Volgens de rechter is er geen recht op de gevraagde informatie. Rb. Amsterdam, 31 mei 2017, ECLI:NL:RBAMS:2017:3772.

11. AERIUS , GitLab.

12. Het verschil is nader uitgewerkt in blogpost ‘Algorithms in public administration’, Marlies van Eck, 31 januari 2017.

13. Zie ook B.C. van Breda, ‘Profilering in de AVG : nieuwe regels, voldoende bescherming?’, Computerrecht 2017/154 , afl. 4 (p. 223-229).

14. Uitvoeringswet Algemene verordening gegevensbescherming, Internetconsultatie.nl. De consultatie is gesloten op 20 januari 2017.

15. Concept wetsvoorstel Uitvoeringswet AVG, toelichting behorend bij artikel 38, p. 84.

Titel, auteur en bron

Titel

Noot bij ECLI:NL:RVS:2017:1259 - de computer zegt ja/nee

Auteur(s)

Marlies van Eck

Bron

Permanente link

Huidige versie

https://www.openrecht.nl?jcdi=JCDI:ALT280:1