Gemeente moet waken voor risico’s bij gebruik data en algoritmes

De Haagse begroting staat er vol mee: voorspellende modellen en preventie door het gebruik van big data. Journalistenplatform Follow The Money besteedde onlangs in het artikel ‘Alle kinderen nauwgezet in beeld door big data’ uitgebreid aandacht aan data science in de jeugdzorg en het consultatiebureau. In Nederland werken gemeenten steeds vaker met lerende algoritmes om het personeel te helpen bepalen waar en wanneer er zorg nodig is en of er bijvoorbeeld risico is voor kindermishandeling. Deze methoden grijpen diep in de leefwereld van kinderen en ouders. Soms wordt zelfs al van mensen zonder kinderen bepaald of zij in een bepaalde risicogroep vallen.

Privacy van en melding van onderzoek aan de betrokkenen gebeurt meestal niet. De groep is volgens onderzoekers en bedrijven te groot. Raadslid Fatima Faïd: “De aanbieders en gemeenten maken het zich zo wel erg gemakkelijk.” Fractievertegenwoordiger Tim de Boer: “Het opgeven van privacy mag nooit een voorwaarde zijn voor hulp.”

Het artikel van Follow The Money gaat verder in op de toegepaste waarden en grondslag van deze methoden. Die is er vaak niet. De lerende algoritmes krijgen vaak beperkt voeding – soms slechts 40 dossiers – maar dienen wel ter ondersteuning van experts bij moeilijke beslissingen zoals “is er sprake van kindermishandeling? ” of “moet een kind uit huis worden geplaatst?”. De methoden zijn bovendien gevoelig voor ingebouwde vooroordelen die in de toepassing van data kunnen zitten.

De Haagse Stadspartij wil daarom weten welke methoden precies in Den Haag worden gebruikt en hoe die worden beoordeeld. Uiteraard moet streng worden toegezien dat de stad gewoon voldoet aan de geldende wetgeving op het gebied van privacy. Tot slot doet de lokale partij een oproep om dit soort methoden voortaan altijd tegen het licht te houden door een lokaal adviescollege dat bestaat uit experts op het gebied van data science, big data en privacy. Fatima Faïd: “De gemeente moet haar profiel als internationale stad van recht en vrede ook op het gebied van data science en privacy waarmaken!”

Schriftelijke vragen: nodeloos gebruik data science en privacy in de jeugdzorg
Indiener: Fatima Faïd

Datum: 29-01-2020

Aan de voorzitter van de gemeenteraad,

Op 28-01-2020 verscheen op de website Follow The Money een uitgebreid artikel over de toepassing van data science binnen het domein van de jeugdzorg. (zie bijlage). Hierover stel ik overeenkomstig artikel 30 van het Reglement van orde de volgende schriftelijke vragen:

1. Maakt de gemeente Den Haag gebruik van data science, algoritmen of pakketten die worden aangeboden door de markt binnen het domein van de jeugdzorg, Consultatiebureau en Centrum Jeugd en Gezin? Zo ja, welke methoden en producten worden ingezet? Graag een overzicht van de middelen en betrokken partijen.

2. Doet de Jeugd Gezondsheidzorg in Den Haag mee aan de digitale databank Jeugd in Beeld (JIB) van het ministerie van VWS?

3. Doen de gemeente Den Haag of in Den Haag werkzame instanties mee aan het onderzoeksproject Kansen in de Kindertijd?

4. Lopen er in Den Haag proeven, pilots of onderzoeken waarbij big data wordt ingezet in samenwerking met scholen? Zo ja, welke scholen zijn dat?

5. Deelt de Jeugd Gezondsheidszorg data met bedrijven? Zo ja, op welke wijze is hier toestemming gevraagd aan de betrokkenen? En hoe wordt anonimiteit gegarandeerd?

6. Is het college van plan big data, algoritmen en data science in te zetten binnen de jeugdzorg, zorg en welzijn domeinen? Zo ja, waaraan denkt men dan? Graag een overzicht van de plannen en de partners.

7. Is het college het met ons eens dat kinderen en ouders recht hebben op privacy? Hoe wordt de privacy binnen de jeugdzorg gewaarborgd? En worden ouders en kinderen actief gevraagd om hun gegevens te delen voor onderzoek? En wat is de consequentie als men geen toestemming geeft om gegevens te delen?

8. Maakt het Centrum Jeugd en Gezin en het Consultatiebureau gebruik van de door het bedrijf Ynformed ontwikkelde detectietool om hen te helpen vermoedens van kindermishandeling te signaleren?

9. Hanteren de Haagse instellingen in de jeugdzorg en het Consultatiebureau een target voor het vinden van kindermishandeling? Of is er op andere wijze een doelstelling vastgelegd?

Uit het artikel blijkt dat er bij veel partijen te weinig kennis is over toepassing van data science. Ook blijkt men de bezwaren op het vlak van privacy te makkelijk opzij te schuiven.

10. Is het college het met ons eens dat zomaar toepassen van big data en het opzij zetten van privacy niet kan?

Den Haag is internationale stad van Vrede en Recht. Daarnaast zet de gemeente in op security- en informatietechnologie als nieuwe economische pijler.

11. Is het college het met ons eens dat dit bijzondere verplichtingen stelt aan de toepassing van big data in Den Haag?

12. Is het college bereid te onderzoeken of er een lokaal adviescollege kan worden ingesteld die alle projecten en samenwerkingen op het gebied van big data, data science en algoritmen beoordeelt op nut en privacy?

Fatima Faïd
Haagse Stadspartij

————————————————————————————————————————————————————-

 

Leave a Reply

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.