In dit programma onderzoeken we het gebruik van big data en algoritmes door de overheid. Aan de ene kant helpt het om processen te versnellen en meer hulp op maat aan te bieden, aan de andere kant komen mensenrechten onder druk te staan. Denk bijvoorbeeld aan etnisch profileren en de toeslagenaffaire. Hoe richten we de digitale overheid zo in dat we wel de voordelen behouden, maar niet de nadelen?
Over de sprekers
Berend van der Kolk is de auteur van het boek ‘De meetmaatschappij’, waar deze programmareeks op gebaseerd is. In dit boek onderzoekt hij waarom we alles meten en wat dat met ons doet. Verder is hij universitair hoofddocent aan de Vrije Universiteit Amsterdam.
Quirine Eijkman is ondervoorzitter van het College voor de Rechten van de Mens en is daar o.a. gespecialiseerd in digitalisering & mensenrechten. Het College voor de Rechten van de Mens is hét mensenrechten instituut van Nederland en beschermt en bevordert de mensenrechten in Nederland en brengt deze onder de aandacht. Ze buigen zich o.a. over het gebruik van algoritmes van de overheid. Het College ontwikkelde een mensenrechtelijk toetsingskader voor risicoprofielen en roept op tot een bindende discriminatietoets voor het gebruik van – bestaande én nieuwe – algoritmische systemen die de overheid wil inzetten.
Aik van Eemeren is verantwoordlijk voor de ontwikkeling en sturing op de digitale Stad bij de gemeente Amsterdam. Hij is lead Public Tech bij Chief Technology Office.
Berend Alberts-de Gier is senior beleidsmedewerker data bij de VNG (Vereniging voor Nederlandse Gemeente) waar hij zich bezighoudt met datagedreven werken en AI. Hij is IT innovatie expert en altijd bezig met data en ethiek in de praktijk.
Miriam Rasch is filosoof, essayist en onderzoekscoördinator op de Willem de Koning Academie in Rotterdam. Ze bracht onlangs het boek ‘Autonomie: een zelfhulpgids’ uit waarin ze op zoek gaat naar autonomie in een datageregeerde wereld. Kunnen we anno 2022 nog wel autonoom handelen? Eerder schreef ze als het boek ‘Frictie: ethiek in tijden van dataïsme’.
In ‘De meetmaatschappij’ neemt Berend van der Kolk onze collectieve meetobsessie onder de loep, het boek waar deze programmareeks op gebaseerd is. Kijkcijfers, bestsellerlijsten, kpi’s, stappen en Cito-scores: wat meten we eigenlijk niet? Een scholier is zo goed als zijn gemiddelde, een werknemer moet SMART-doelen halen en teams moeten resultaatgericht werken. We vergelijken onze prestaties met die van anderen en stellen ranglijsten op van de productiefste collega’s, beste universiteiten en sportiefste vrienden. Maar waarom? En is dat wel zo’n goed idee? Van der Kolk laat zien wat meten met ons doet. We leggen de meetlat alsmaar hoger, de druk om te presteren neemt toe, en ondertussen verliezen we de werkelijke doelen uit het oog. Wanneer doen metingen meer kwaad dan goed? En hoe kan het anders? >>
Een verantwoorde inzet van algoritmes door uitvoeringsorganisaties van de rijksoverheid is mogelijk, maar in de praktijk niet altijd het geval. De Algemene Rekenkamer heeft in een onderzoek bij 3 algoritmes vastgesteld dat deze voldoen aan alle basisvereisten. Bij 6 andere bestaan uiteenlopende risico’s, variërend van gebrekkige controle op prestaties of effecten, tot vooringenomenheid, datalek of ongeautoriseerde toegang.>>
