Stad Mechelen zet online profiling-project ‘on hold’ na negatief advies privacywaakhond

Om te achterhalen welke burgers online dreigen van het rechte pad te raken – richting extremisme – wil Stad Mechelen de sociale media afgrazen op zoek naar ‘kwetsbare personen’ die berichten posten over of vanuit Mechelen. Kan niet, vindt de Vlaamse Toezichtscommissie voor de verwerking van persoonsgegevens, die wijst op het ontbreken van een wettelijk kader en de grote risico’s voor de fundamentele rechten en vrijheden van burgers. De stad onderzoekt op welke wijze zij het pilootproject alsnog nieuw leven kan inblazen.

Dat Stad Mechelen goede bedoelingen heeft met haar online detectie-plannen naar potentieel extremisme in de Dijlestad, daar twijfelt de Vlaamse Toezichtscommissie voor de verwerking van persoonsgegevens (VTC) niet aan. Zo wil de stad de opgespoorde personen de nodige begeleiding geven om te voorkomen dat ze later effectief tot daden overgaan. Toch laat de Vlaamse privacywaakhond geen spaander heel van het Mechels plan om via woordherkenning en artificiële intelligentie op social media op zoek te gaan naar Mechelaars die kwetsbaar zijn voor extremisme. “De vereiste rechtsgrond ontbreekt”, klinkt het advies streng, “Op zich is dat al een reden om het project stop te zetten.”

De vereiste rechtsgrond ontbreekt dus. Op zich is dat al een reden om het project stop te zetten.

Vlaamse Toezichtscommissie voor de verwerking van persoonsgegevens

Nochtans verwees Stad Mechelen in de eigen privacy-analyse van het pilootproject wel degelijk naar verschillende wettelijke bepalingen, maar die werden één voor één door de toezichtscommissie doorprikt. Daarom moet er, volgens de VTC – als lokale besturen met dit project willen voortgaan – eerst een degelijk wettelijk kader komen met daarin verankerde beschermingsmaatregelen.

Rechtsstaat

Maar ook met zo’n wettelijk kader klinkt de toezichtscommissie weinig enthousiast. Het is niet de rol van een lokaal bestuur om dergelijke projecten op te nemen, vindt de VTC, die wijst op de grote risico’s voor de bescherming van persoonsgegevens en fundamentele rechten en vrijheden van burgers. Als het pilootproject al een gevolg zou krijgen, dan liever via centrale diensten in plaats van een lokaal bestuur, adviseert de Vlaamse privacywaakhond.

De toezichtscommissie uit ook haar bezorgdheid voor onze democratische samenleving en rechtsstaat en benadrukt dat dit profiling-instrument daarom niet zonder gepaste strenge waarborgen mag worden ingezet. “Het datascrapen is een instrument waarmee een overheid haar eigen en andere burgers kan volgen op het internet. In de mate dat het doel nu gerechtvaardigd zou zijn, opent het de mogelijkheid om dit op basis van andere criteria te gaan doen.”

Dit is een instrument dat niet zonder de gepaste strenge waarborgen kan ingezet worden in een democratische samenleving en rechtsstaat.

Vlaamse Toezichtscommissie voor de verwerking van persoonsgegevens

Tweet

Stad Mechelen startte in augustus 2019 met een eerste testfase. “Om het algoritme te finetunen en op te stellen, dient men onderzoek te doen op de “echte” situatie zoals die door betrokkene(n) zelf online gezet worden via diverse OSINT-kanalen zoals bijvoorbeeld Twitter, blogs, …”, lezen we over de adviesaanvraag. Daarbij is de stad voornamelijk geïnteresseerd in personen die een link met Mechelen hebben. “Bijvoorbeeld burgers die aangeven dat hun woonplaats in Mechelen is of die “Mechelen” gebruiken in een tweet.” De stad ging voor deze piloot in zee met Textgain, een spin-off van de Universiteit van Antwerpen.

De stad Mechelen is voornamelijk geïnteresseerd in burgers die een link met Mechelen hebben. Bijvoorbeeld burgers die aangeven dat hun woonplaats in Mechelen is of die “Mechelen” gebruiken in een tweet.

Vlaamse Toezichtscommissie voor de verwerking van persoonsgegevens

Maar de privacy-vereisten trad de stad behoorlijk met de voeten blijkt uit het advies van de Vlaamse toezichtscommissie. Zo had de stad voorafgaand aan de eerste verzameling van persoonsgegevens al een volledige ‘privacy-analyse’ – of gegevensbeschermingseffectbeoordeling – moeten uitvoeren. En dit niet alleen voor de piloot, maar voor het ganse project. “De betrokkenen, en dat zijn dus alle personen die bepaalde woorden in verband met Mechelen gebruiken of in Mechelen gelokaliseerd worden, kunnen onvoldoende weten wat er met hun gegevens gebeurt.”

“Er had een GEB moeten worden opgesteld voor er met de eerste verzameling van persoonsgegeven werd begonnen.” Dat is een privacy-analyse die de risico’s en beheersmaatregelen omschrijft van een toepassing die persoonsgegevens verwerkt. Tussen een selectie van de klanten op de website van Textgain herken je ook het logo van Stad Mechelen. (Schermafbeelding: Textgain.com)

Er had een GEB [gegevensbeschermingseffectbeoordeling] moeten worden opgesteld voor er met de eerste verzameling van persoonsgegeven werd begonnen.

Vlaamse Toezichtscommissie voor de verwerking van persoonsgegevens

Somers

Ondanks het negatieve advies blijven ze bij Stad Mechelen geloven in het project. Via het kabinet van burgemeester Alexander Vandersmissen (Open VLD) krijgen we te horen dat een lokaal bestuur de beste tools heeft om snel verbindingen te herstellen tussen kwetsbare individuen en lokale instellingen. “Hierdoor zal de stad Mechelen in gesprek gaan met Minister [van Binnenlands Bestuur] Somers om te bekijken op welke manier dit wel georganiseerd kan worden door een lokaal bestuur.” Naast de piste om via het Vlaams niveau een wettelijk kader te verkrijgen, is de stad ook van plan om een Europees dossier op te maken om de juridische en ethische kwesties te onderzoeken in verschillende Europese contexten.

Ondertussen staat het project ‘on hold’. “Wél zijn we aan het onderzoeken hoe we dit project kunnen organiseren op een wettelijke manier. Van zodra dit project opnieuw vorm krijgt, zullen we een GEB opmaken en opnieuw advies vragen aan de VTC”, reageert het kabinet.

Als er dan groen licht volgt, wil de stad ook software trainen in het herkennen van emoties. “Bij deze software is er een menselijke verificatie vereist. Er moet bevestigd worden of een bericht effectief haatdragend, polariserend of net verbindend is. (…) Het is vooral deze mogelijkheid die we verder zouden willen ontginnen, van zodra we dit als lokale overheid kunnen aansturen.”

Stad Mechelen kreeg voor 2018 en 2019 een toelage van 790.000 euro van toenmalig federaal minister van Binnenlandse Zaken Jan Jambon (N-VA) voor het pilootproject ‘inzake online detectie en interventie van de strijd tegen gewelddadige radicalisering’ – waar dit verhaal een onderdeel van is. De Mechelse gemeenteraad keurde in februari vorig jaar de overeenkomst hierover met de minister goed.

Lees hier het integrale advies (over online detectie van extremisme door een stad) van de Vlaamse Toezichtscommissie voor de verwerking van persoonsgegevens.


Update 19.06.2020

De collega’s van het IT-magazine DataNews gaven ons bericht een zetje…

Steun ons

en bouw mee aan een transparantere stad