In 2020 wonn het Platform Burgerrechten met een maatschappelijke coalitie de rechtszaak tegen het Systeem Risico Indicatie, die internationaal gezien wordt als mijlpaal in de strijd tegen discriminerende algoritmes en ondoorzichtige overheidsdata-systemen.
In samenwerking met met het NJCM, Privacy First, FNV, Stichting KDPV, de Landelijke Cliëntenraad en auteurs Tommy Wieringa en Maxim Februari spande het Platform Burgerrechten in 2018 een bodemprocedure aan tegen het Systeem Risico Indicatie, in het kort SyRI.
SyRI koppelde persoonsgegevens van verschillende overheidsinstanties aan elkaar en liet deze door geheime algoritmen doorlichten om in arme wijken burgers te selecteren die volgens SyRI een ‘verhoogde kans’ op fraude hadden. Deze burgers werden opgenomen in een Register Risicomeldingen en konden rekenen op extra controles van overheidsinstanties.
De publiciteitscampagne Bij Voorbaat Verdacht zwengelde met inzageverzoeken, WOO-verzoeken, politieke lobby en acties in wijken waar SyRI werd ingezet, een landelijke discussie aan over de inzet van algoritmen om grote groepen burgers door te lichten.
In februari 2020 werd de coalitie tegen SyRI in het gelijk gesteld door de rechtbank Den Haag. De werkwijze van het systeem was volgens het vonnis in strijd met het recht op privacy, omdat burgers geen inzage kregen in hoe ze werden geprofileerd en zich niet inhoudelijk konden verweren tegen de conclusies die SyRI over hen trok.
Hoe groot de gevolgen kunnen zijn wanneer de overheid burgers in schaduwadministraties opneemt, bleek niet veel later toen de omvang en ernst van de Toeslagenaffaire 2021 volledig aan het licht kwamen.
Het Platform Burgerrechten constateert dat de overheid ondanks het SyRI-vonnis en de Toeslagenaffaire stug door is gegaan met het massaal profileren van burgers en het aanleggen van schaduwadministraties. Systemen als SyRI worden op talloze plekken binnen de overheid gebruikt en dreigen de rechtsbescherming van burgers van burgers uit te hollen. Zie hiervoor ook het dossier dat wij bijhouden over risicoprofilering door gemeenten en de Wet Gegevensverwerking door Samenwerkingsverbanden.
Het ministerie gaat niet in beroep tegen de uitspraak in onze rechtszaak tegen SyRI. Wel kondigt het aan een nieuw instrument te gaan ontwikkelen. Waakzaamheid blijft geboden. Het is cruciaal dat de lessen uit het vonnis gevolg krijgen in wetgeving en beleid: niet alleen bij SyRI’s opvolger, maar bij alle data-analyses waar burgers onderwerp van zijn.
Het Ministerie van Sociale Zaken heeft de Kamer eind 2018 niet geïnformeerd over de tegenvallende resultaten van SyRI in Capelle, omdat deze waren verwijderd uit het definitieve onderzoeksrapport waarop het zich baseerde. In de tussentijd werd per ongeluk het concept-rapport gepubliceerd, waar de resultaten nog in stonden. Staatssecretaris Van Ark zegt niet te kunnen herleiden waarom deze informatie uit het rapport is verwijderd.
Afgelopen vrijdag is het Systeem Risico Indicatie in de prijzen gevallen tijdens de uitreiking van de Big Brother Awards. Een deskundige jury gaf het systeem de Expertprijs, bedoeld voor privacyschendingen die meer publieke aandacht verdienen.
De VN-rapporteur op het gebied van extreme armoede en mensenrechten uit in een brief aan de rechtbank zijn zorgen over risicoprofileringssysteem SyRI. Eind deze maand vindt de zitting plaats in de bodemprocedure tegen het systeem. Philip Alston licht in een interview de redenen voor zijn schrijven toe: “Als SyRI geen volledige ontkenning van het recht op privacy is, wat moeten we ons daar dan wél bij voorstellen?”
Donderdag debatteerde de Rotterdamse gemeenteraad over het besluit om te stoppen met het SyRI onderzoek in de wijken Bloemhof en Hillesluis. In toelichting op zijn besluit liet burgemeester Aboutaleb weinig heel van het risicoprofileringssysteem: “Het is een disproportioneel ding.”