Ze worden vaak killer drones genoemd, maar in jargon heten ze LAWS (Lethal Autonomous Weapons System). Of in klare taal: dodelijke autonome wapensystemen die zonder tussenkomst van een mens een doelwit aanvallen en zelfstandig de beslissing nemen om de trekker over te halen. Is het een kwestie van tijd voordat het eerste slachtoffer door een autonome AI-moorddrone valt? De inzet van deze moorddrones wordt door velen gezien als een point of no return voor de mensheid, die de wereld voor altijd zal veranderen. Vergelijkbaar met de komst van de eerste atoombom. Wat betekent het wanneer we machines zo’n grote rol geven in beslissingen over leven en dood? Kunnen we ervoor zorgen dat deze technologie beperkt blijft tot het slagveld en niet doordringt in de bredere samenleving? En is deze verregaande technologisering en autonomisering van wapensystemen überhaupt nog tot een halt te roepen?
Game of Drones wordt op zondag 6 april om 23.09 uitgezonden op NPO 2
Over de sprekers
Arnout Arens is researcher en regisseur bij VPRO Tegenlicht. Hij is voormalig eindredacteur bij de VPRO-serie Metropolis en werkte mee aan verschillende VPRO-programma’s.
Jonathan Kwik is onderzoeker in het internationaal recht bij het Asser Insitute. Zijn technologisch-juridisch onderzoek richt zich op kunstmatige intelligentie en het humanitair oorlogsrecht, in het bijzonder het militair gebruik van autonome wapens.
Maurits Korthals Altes is mede-oprichter en CEO van Avalor AI. Avalor AI maakt autonome wapensystemen.
Ivana Ivkovic is politiek filosoof. Met haar bureau No Wishful Thinking zet zij filosofie in om de hedendaagse politieke en maatschappelijke ontwikkelingen te duiden. Ze is onder andere deel van het Filosofisch Elftal van Trouw.
Frank Slijper is projectleider bij PAX. Hier houdt hij zich bezig met het programma wapenhandel.
Kunstmatige intelligentie zou ervoor zorgen dat er tijdens oorlogen minder burgerdoden vallen. In realiteit vallen er juist meer. Want waar mensen worden gereduceerd tot datapunten, voelt vuren al snel als objectief en correct.
Tijdens de Tweede Wereldoorlog betekende een kamikaze-aanval dat zowel een gevechtsvliegtuig als een piloot werd opgeofferd. Tegenwoordig kunnen drones zulke aanvallen uitvoeren voor een paar honderd euro, terwijl de bestuurder op veilige afstand blijft. Wat betekent deze ontwikkeling voor de oorlog in Oekraïne?
Wapens die van kunstmatige intelligentie zijn voorzien, kiezen zelf hun slachtoffers, zonder een ‘mens-in-de-loop’ die verantwoordelijk is. Oorlogsrechtjurist Jonathan Kwik onderzocht de gevolgen.
De drone heeft het slagveld in razend tempo wezenlijk veranderd. En de weg geopend voor nieuwe militaire technologie: want een autonome drone, is een bijzonder effectieve drone, luidt de filosofie van dronetechbedrijf Avalor AI.
