Er komt voorlopig geen openbaarheid over de werkwijze van het Systeem Risico Indicatie. Twee moties die moesten zorgen voor meer inzicht in de werkwijze van profileringssystemen en het bijzonder SyRI, zijn aangehouden op last van het kabinet. Ook een technische audit van het systeem acht het kabinet op dit moment onwenselijk.
Ook de Tweede Kamer maakt zich zorgen over SyRI en haar heimelijke werkwijze, zo bleek uit verschillende kritische vragen aan minister Dekker van Rechtsbescherming tijdens het algemeen overleg Big Data op 30 mei. GroenLinks-Kamerlid Buitenweg wierp onder meer de vraag op welke controle er plaatsvindt op de door SyRI gehanteerde risicomodellen, waarvan het ministerie van Sociale Zaken in 2017 besloot dat deze geheim moesten blijven. “Er moet toch ergens een plek zijn waar die heel complexe algoritmes, zelfs als ze per se geheim moeten blijven — wat volgens mij veel te vaak gebruikt wordt en niet echt terecht is — getoetst worden op biases? Er moet toch ergens getoetst worden of ze wel deugdelijk in elkaar zitten?”, aldus Buitenweg tegenover de minister.
Terechte vragen. Personen die door SyRI worden uitgelicht belanden immers in het vizier van handhavingsdiensten. Hoeveel daarvan worden echter onterecht als risico gemarkeerd en ondervinden daar last van? Hoe wordt voorkomen dat de algoritmen van SyRI bestaande stigma’s versterken en er op andere plaatsen blinde vlekken ontstaan? Er vallen veel ethische vragen te stellen bij de inzet van algoritmen, zo ook in het geval van SyRI.
“Ik ben niet degene geweest die dit heeft getrokken”
In plaats van in te gaan op deze vraag, wees minister Dekker naar het parlement en de rechter als partijen die (hadden) moeten toezien op de werkwijze van SyRI:
“Om te beginnen is dit een wettelijke regeling. De eerste lijn van controle is dus hier, in dit huis. Ik constateer dat de regeling zowel in de Eerste als in de Tweede Kamer met algemene stemmen is aangenomen. Ik hoor mensen daar nu op reageren, maar ik ben niet degene geweest die dat heeft getrokken. Ik zie alleen maar de uitkomst en de manier waarop het is gelopen. Een tweede is dat bij individuele beslissingen de weg naar de rechter altijd openstaat voor mensen. Daar kan dan altijd een toets plaatsvinden.”
Minister Dekker heeft een punt wanneer hij wijst op het gebrek aan controle tijdens het wetgevingstraject van SyRI. SyRI is immers als een hamerstuk (zonder debat) aangenomen. Dat kwijt het ministerie echter niet van de verantwoordelijkheid om toe te zien op een rechtmatige inzet van SyRI. Ook impliceert de minister dat de rechter in staat is om in een fraudezaak het risicomodel te toetsen waarmee SyRI iemand als risico aanmerkt. Het is in de praktijk maar de vraag of burgers dan wel rechters überhaupt weten dat van SyRI gebruik is gemaakt, geselecteerde personen worden daar immers niet van op de hoogte gesteld.
Al met al lijkt de minister de verantwoordelijkheid voor toetsing van een rechtmatige inzet van SyRI bij andere partijen (parlement en rechter) dan het kabinet zelf te leggen. Evenmin blijkt uit zijn antwoorden dat er evaluaties van SyRI plaatsvinden om de nauwkeurigheid en rechtmatigheid van risicomodellen te beoordelen. Wel kondigt hij onderzoeken aan over de toetsbaarheid van algoritmen en hoe dit uitwerking moet krijgen in regelgeving – zaken die twee jaar geleden al door de WRR werden aanbevolen.
Moties voor openbaarmaking en audits
Dit alles ging de Kamer niet snel genoeg. D66, dat zich grotendeels aansluit bij de zorgen van GroenLinks, diende twee moties in die, indien aangenomen, grote gevolgen zouden hebben voor de transparantie van huidige profileringspraktijken die op vele verschillende overheidsniveau’s plaatsvinden – in het bijzonder voor SyRI.
De eerste motie droeg de regering op de werking en broncode van algoritmen en analysemethoden die een ‘aanmerkelijke impact’ op burgers hebben, openbaar te maken, evenals de bestanden die worden gebruikt. Wanneer deze om zwaarwegende redenen niet openbaar kunnen worden gemaakt, zou er een technische audit moeten worden uitgevoerd om te controleren of de algoritmen en methoden niet onbedoeld discrimeren of andere negatieve effecten hebben. De resultaten van deze audits zouden openbaar moeten worden gemaakt.
De tweede motie droeg specifiek op de algoritmen en gebruikte bestanden van SyRI openbaar te maken of, wanneer dit om zwaarwegende redenen niet kon, een technische audit op het systeem uit te voeren.
Ongewenst calculerend gedrag
Minister Dekker gaf bij de indiening vorige week woensdag direct al aan grote moeite te hebben met beide moties. Het openbaren van de analysemethoden van alle door de overheid gehanteerde algoritmen, het verzoek in de eerste motie, zou met het oog op de hoeveelheid, een “heel grote werklast voor de overheid met zich meebrengen.” Bovendien zou het bij burgers die worden geanalyseerd door deze algoritmen en niet “te goeder trouw” zijn, kunnen leiden tot ongewenst calculerend gedrag. Een overweging die wringt met zijn eerdere inbreng in het overleg, waarin hij onder meer stelde dat algoritmen voor een doorsnee burger te complex zijn om te doorgronden.
In ruil voor de belofte van minister Dekker dat hij dit najaar met een brief kwam die inventariseerde wat de eventuele gevolgen waren van het uitvoeren van de motie, hield D66 de motie echter aan. Wat de motie over SyRI betrof, verzocht de minister eveneens om aanhouding. In ieder geval moest het ministerie van Sociale Zaken, waar SyRI onder valt, eerst worden geraadpleegd. D66-Kamerlid Verhoeven, die de motie had ingediend was daar, in tegenstelling tot de eerste motie, niet direct toe bereid: “Dat met SyRI speelt echt al langer”, reageerde Verhoeven. “Daar wil ik dan op een gegeven moment ook wel een keer een concrete uitspraak van de Kamer over.”
Interventie vanuit het kabinet
Afgelopen dinsdag bleek daar verandering in te zijn gekomen. Toen het tijd was om de moties in stemming te brengen, besloot D66 op de valreep om ook de motie over SyRI aan te houden. De aanleiding hiervoor? Een brief van staatssecretaris Van Ark (Sociale Zaken en Werkgelegenheid), waarin deze zich not amused toonde over de motie en in feite de Kamer terugfloot.
Waarom? Allereerst wijst ook de staatssecretaris in haar brief op het belang van opsporing. Door de risicomodellen prijs te geven, zouden potentiële overtreders hier hun gedrag op kunnen afstemmen. Bovendien, en dit is een nieuw argument, zou het openbaar maken van de gevraagde informatie over SyRI het procesbelang van de Staat schaden. Daarbij doelt de staatssecretaris uiteraard op de rechtszaak die in maart door het Platform Bescherming Burgerrechten en meerdere andere partijen is aangespannen. “Zolang de toepassing van SyRI onderwerp is van een lopende, gerechtelijke procedure is het, uit het oogpunt van het procesbelang van de Staat, ongewenst dat de in hun motie door de leden Verhoeven en Buitenweg gevraagde informatie over het Systeem Risico Informatie buiten deze gerechtelijke procedure om openbaar wordt gemaakt.”
Om dezelfde reden vindt de staatssecretaris het uitvoeren van een technische audit “niet gewenst.” Er wordt door haar geen onderscheid gemaakt tussen het openbaren van risicomodellen en het uitvoeren van een technische audit, terwijl het uitvoeren van een technische audit geen gevolgen heeft voor het opsporingsbelang.
Wij zijn dan ook zeer benieuwd op welke wijze het openbaar maken van SyRI’s risicomodellen, of zelfs maar het uitvoeren van een technische audit het procesbelang van de Staat zou schaden. Mocht uit een evaluatie blijken dat de werkwijze van SyRI inderdaad rechtvaardig, nauwkeurig en ethisch helemaal in orde is, dan zou dat de positie van de Staat in de rechtszaak enkel versterken. Je zou haast denken dat de Staat iets te verbergen heeft.
Wees minister Dekker er eind mei nog fijntjes op dat het parlement eveneens verantwoordelijk is voor de wetgeving rondom SyRI, wanneer datzelfde parlement een week later een motie indient om de uitvoering van de wet kritisch tegen het licht te houden, steekt het kabinet waar minister Dekker onderdeel van is daar een stokje voor. Het procesbelang van de Staat is voorlopig nog even belangrijker dan toezicht op een grootschalig sleepnet dat bevoegd is onverdachte Nederlanders met duizenden tegelijk door te lichten als potentiële fraudeurs.
Dit artikel verscheen eerder op www.bijvoorbaatverdacht.nl.
