In onze democratie controleert de burger de overheid. Maar in de praktijk worden overheidsinstanties meer gesloten, terwijl de burger steeds een stukje transparanter wordt. Gegevens uit overheidssystemen over burgers worden gedeeld en risico’s berekend. Algoritmes die per burger de kans op bijvoorbeeld fraude bepalen spelen hier een belangrijke rol in. Waarbij achteraf vaak blijkt dat de scheidingslijn tussen risicoberekening en discriminatie te dun is om te bewandelen. Een voorbeeld is een algoritme waarmee de gemeente Rotterdam jarenlang bijstandsfraude voorspelde, en jonge moeders en mensen die slecht Nederlands spreken tot de hoogste risicogroepen bleek te rekenen. Of het geheimzinnige fraudeprofileringssysteem SyRI, dat in 2020 door de rechter in de ban werd gedaan. Maar ook terroristenlijsten waar mensen op staan die nooit verdachte waren en van niets weten, maar die waarschijnlijk toch met het internationaal gedeeld worden. Met alle gevolgen van dien. We praten met deskundigen over de vraag in hoeverre we op computers en lijsten moeten leunen om te beoordelen of mensen een risico vormen. Wat betekent dit voor de samenleving en de rechtsstaat? Moet de oplossing worden gezocht in ‘ethisch slimmer’ ontwikkelde systemen en datamodellen, of is het fundamenteler? En wat heeft ú eigenlijk te verbergen?
Over Follow the Money
Bij Follow the Money proberen wij te achterhalen hoe deze doorgaans ondoorzichtige systemen en gegevensdelingen werken en wat de gevolgen kunnen zijn. Follow the Money werkt hierin samen met andere onderzoeksjournalistieke organisaties, zoals Lighthouse Reports.
