Algoritmesysteem SyRI in de ban na uitspraak rechtbank

Vandaag heeft de rechtbank in Den Haag uitspraak gedaan over de inzet van het algoritmesysteem SyRI (Systeem Risico Indicatie) door de overheid. De rechter besloot dat de overheid moet stoppen met het profileren van burgers met grootschalige data-analyse om fraude met sociale voorzieningen op te sporen. Nederlanders zijn niet langer ‘bij voorbaat verdacht’.

De rechtszaak tegen de Nederlandse Staat was aangespannen door een coalitie van maatschappelijke organisaties, bestaand uit het Platform Bescherming Burgerrechten, het Nederlands Juristen Comité voor de Mensenrechten (NJCM), vakbond FNV, Privacy First, Stichting KDVP, de Landelijke Cliëntenraad en auteurs Tommy Wieringa en Maxim Februari. 

Te grote inbreuk op privéleven

De rechtbank komt tot het oordeel dat SyRI in strijd is met het Europees Verdrag voor de Rechten van de Mens. SyRI maakt een onevenredig grote inbreuk op het privéleven van burgers. Dat geldt niet alleen voor mensen die door SyRI als verhoogd risico worden aangemerkt, maar voor iedereen waarvan de gegevens door SyRI worden geanalyseerd. Volgens de rechtbank is SyRI niet transparant en daarom niet controleerbaar. De inbreuk op het privéleven is voor burgers niet te voorzien en zij kunnen zich er niet tegen verweren.

Discriminatie en stigmatisering

De rechtbank noemt daarnaast het reële risico van discriminatie en stigmatisering van burgers in zogenaamde probleemwijken waar SyRI is ingezet. Dit, op grond van sociaal-economische status en mogelijk migratieachtergrond. Er is een risico op vooroordelen bij de inzet van SyRI dat niet te controleren is. Mr. Ekker en mr. Linders, advocaten van de eisende partijen: ‘De rechtbank bevestigt dat het grootschalig koppelen van persoonsgegevens in strijd is met fundamentele mensenrechten, waaronder de bescherming van de persoonlijke levenssfeer, EU-recht en Nederlands recht. Deze uitspraak is daarom ook belangrijk voor andere Europese landen en op internationaal niveau.’ 

Gelijk gekregen op alle fundamentele punten

Voortaan mogen persoonsgegevens van onverdachte burgers niet zomaar meer worden samengevoegd uit verschillende bronnen, als daar geen gegrond vermoeden aan ten grondslag ligt. Tijmen Wisman van het Platform Bescherming Burgerrechten zegt daarover: ‘We hebben vandaag op alle grote fundamentele punten gelijk gekregen. Dit is een tijdige overwinning voor de rechtsbescherming van burgers in Nederland.’

Vertrouwensbreuk met burger

FNV-vicevoorzitter Kitty Jong: ‘De focus van dit soort algoritmesystemen is gericht op mensen met weinig inkomen in probleemwijken. Daarmee worden zij gestigmatiseerd en gediscrimineerd. Wij zijn heel blij dat de rechtbank SyRI onrechtmatig vindt, dat is goed nieuws voor uitkeringsgerechtigden en senioren. Hiermee wordt een einde gemaakt aan de argwaancultuur. Wij zien meer in een positieve benadering van de overheid van uitkeringsgerechtigden. Investeer in scholing en goede begeleiding bij het zoeken naar werk. En pak echt grote fraudeurs aan, de belasting-ontduikende en frauduleuze organisaties.’

Kentering

De partijen hopen dat de uitspraak een kentering inluidt in de wijze waarop de overheid omspringt met data van burgers. Ze voelen zich daarin gesterkt door de overwegingen van de rechtbank; deze gelden niet alleen voor SyRI, maar ook voor vergelijkbare praktijken. Zo hebben veel gemeenten eigen datakoppelsystemen die burgers profileren voor allerhande beleidsdoeleinden. Een koppelwet met een nog grotere reikwijdte dan SyRI maakt het mogelijk om ook databases van private partijen te koppelen met overheidsdatabases. De uitspraak van de rechtbank Den Haag stelt echter paal en perk aan deze Big Data analyses. Het is volgens de eisende partijen daarom cruciaal dat het SyRI-vonnis doorwerkt in het huidige en toekomstige politieke beleid.

Maatschappelijke discussie

De rechtszaak tegen SyRI dient zowel een juridisch als een maatschappelijk doel. Met dit vonnis zien eisers beide doelen gerealiseerd worden. Merel Hendrickx van het PILP-NJCM: ‘Het was naast het stoppen van SyRI evenzeer onze insteek om een maatschappelijke discussie op gang te brengen over de manier waarop de overheid met haar burgers omgaat in een digitaliserende samenleving. Deze uitspraak laat zien hoe belangrijk het is om die maatschappelijke discussie te voeren.’  

Achtergrond

Hoewel de wettelijke aanname van SyRI in 2014 vrij geruisloos verliep, zwol de discussie over de rechtmatigheid van het systeem aan na aankondiging van de rechtszaak. Inzet van SyRI in twee wijken in Rotterdam-Zuid leidde begin 2019 tot protest onder de inwoners en discussie in de gemeenteraad. Niet veel later trok burgemeester Aboutaleb de stekker uit het onderzoek; de gemeente en het ministerie werden het niet eens over de wettelijke grondslag. In juni 2019 onthulde de Volkskrant dat SyRI sinds haar invoering nog niet één fraudeur had opgespoord. In oktober 2019 schreef VN-rapporteur Philip Alston in een kritische Amicus curiae aan de rechtbank grondige twijfels te hebben bij de rechtmatigheid van SyRI. Eind november 2019 won SyRI de Expertprijs van de Big Brother Awards.