Wie krijgt gelijk als het algoritme het fout heeft? En hoe weten we überhaupt dat er iets fout kán zijn? Neem de parkeercontrole. De scanauto herkent kentekens met een nauwkeurigheid van 99,8 procent. Dat klinkt geruststellend, tot je het vermenigvuldigt met 375 miljoen scans per jaar. Dan blijven er honderdduizenden onterechte boetes over. Allemaal keurig per post bezorgd, met een betaaltermijn die gewoon doorloopt. Het is een bekend patroon, van de Belastingdienst tot je bank, ze gebruiken allemaal algoritmen om efficiënter te werken. En met een goede reden, het bestrijden van misdaad, fraude, misbruik. Maar wat zijn de gevolgen voor de mensen die onterecht worden beschuldigd? Hoe komen we hieruit? En hoe winnen we de menselijke maat terug?
Als een overheid of een bedrijf algoritmische besluitvorming inzet, laat zij de computer besluiten nemen of voorbereiden. Vaak kijkt daarbij een mens mee. De computer volgt regels, en de mens ziet alleen wat de computer laat zien, vaak alleen de uitkomst.
Deze avond maken we naar aanleiding van de themastudie van de Autoriteit Persoonsgegevens ‘Inzet van scanauto’s voor parkeerhandhaving’ (zie leeslijst). Dit is slechts één voorbeeld van vele. In de leeslijst hieronder staan nieuwsberichten over computers die foute beslissingen nemen en mensen die niet ingrijpen, van het toeslagenschandaal tot een verkeerd afgestelde flitspaal in 2017. We bespreken de bevindingen uit de studie, de gevolgen voor mensen en waarom dit geen uniek voorbeeld is.
In het eerste panel verkennen we hoe algoritmische besluitvorming werkt, op basis van welke instructies en van wie, waar de mens in de keten zit, en wie het raakt als het misgaat. Daarna bespreken we wat we hier eigenlijk van vinden, welke keuzes we kunnen en moeten maken, en hoe we onze samenleving weerbaar maken en onze fundamentele rechten beschermen. Het publiek kan de hele avond meepraten.
Dit programma is gemaakt door Servaz van Berkum voor |DTAM| in samenwerking met Autoriteit Persoonsgegevens en Pakhuis de Zwijger.
10-11-2019
12-5-2017
15-5-2017
10-11-2019
5-2-2020
26-6-2020
2-7-2024
