We maken meer gebruik van Artificial Intelligence (AI) dan ooit tevoren, soms zelfs zonder dat we dit doorhebben. Chatbots bij de klantenservice, algoritmen die overheidsbesluiten maken of zoals de makers van de VPRO-aflevering ‘De prijs van AI’ deden, het maken van AI-gegenereerde video’s van skylines en personen. Maar wat schuilt er aan de achterkant van deze moderne technologieën? En wat is de werkelijke prijs van AI?
Regisseur Marije Meerman en onderzoeker Arnout Arens vertellen dat de aflevering ‘De prijs van AI’ niet alleen over het onderwerp AI gaat, maar ook voor een groot deel gemaakt is met behulp van AI. Wanneer een AI-systeem gevraagd wordt foto’s en video’s van mijnwerkers die de materialen voor AI-chips opgraven te genereren kan deze dat direct. De muziek in de aflevering is daarbij volledig AI-gegenereerd, wat vragen doet oproepen over de toekomst van makers. Zo vragen Marije en Arnout zich af in hoeverre zij vervangbaar zijn door AI, hoe juridisch om te gaan met de rechten van AI-gegenereerde muziek en of de menselijke maat volledig weg te denken is uit het creatieve proces van het maken van documentaires en tv-shows.
Hoewel AI voor veel personen een blackbox lijkt waarbij je een vraag invoert en ChatGPT bijvoorbeeld een volledig essay voor je schrijft, lichten Oumaima Hajri (Lecturer Responsible Applied AI) en Maurits Martijn (Correspondent Beter Internet bij de De Correspondent) uit dat niet vergeten moet worden dat AI gevoed wordt door de input van mensen. Zo zijn er in Syrië, Kenia en ook in Europa, Portugal, vele content moderators die dagelijks voor een zeer minimaal loon duizenden afbeeldingen en filmpjes ‘labelen’. Hierbij hebben zij geen controle over de schadelijke beelden -van bijvoorbeeld extreem geweld, zelfmutilatie of kinderporno- die voorbij komen. De psychologische hulp en begeleiding voor deze belastende werkzaamheden is minimaal of afwezig, wat ethische vraagstukken doet rijzen over de technologie. Hoe zorg je dat grote techbedrijven en BPO’s beter omgaan met hun werknemers? En, hoe creëer je bewustzijn van dit aspect van AI, wat bedrijven graag buiten het zicht laten?
In het laatste panel gaan Oumaima en Maurits in gesprek met Lucas Evers (Head of Make Programme & Lead Open Wetlab at Waag) en Marcel van der Kuil (Data / AI implementatie expert). Ter discussie staat wat de toekomst van AI is. De experts stellen dat als AI zijn eigen input is, wat steeds vaker gebeurt, je een wereld van middelmatigheden creëert waarin nuances en moraliteit ontbreken. Dit doet afbreuk aan de kwaliteit van de techniek. Een belangrijke pauze in dit proces is de AI-act die het Europees Parlement recentelijk aangenomen heeft, die ervoor zorgt dat systemen eerst goedgekeurd moeten worden voordat ze op de markt komen. Met de wijziging wil het Europees Parlement ervoor zorgen dat AI-systemen veilig, traceerbaar en niet-discriminerend zijn. Ondanks dat dit programma de keer- en achterzijde van AI aantoont, kennen sommige toepassingen van AI veel potentieel. Zo kan het leiden tot grote verbeteringen in de gezondheidszorg, wat een hoopvolle eindnoot van de avond is.
Wil je hier meer over weten? Meld je dan aan voor de For a Collective Internet-conferentie op 27 en 28 juni en houd onze agenda in de gaten voor de ‘Tech for Society’ programmering die in de herfst van start gaat.
