Angstaanjagende wereldprimeur: «Drone heeft voor het eerst zelfstandig mens aangevallen»
De angst voor een opstand van machines en robots tegen de mensheid is voor velen een echte nachtmerrie. Wie nog niet overtuigd is van de dystopische toekomstbeelden die artificiële intelligentie met zich meebrengt, krijgt nu echter een nieuw argument voorgeschoteld. Volgens een rapport van de Verenigde Naties is er namelijk voor het eerst een gevechtsdrone zelfstandig overgegaan tot een aanval op een mens. Dat wil zeggen dat er geen verbinding was tussen de drone en een bestuurder.
Het VN-rapport stelt dat het incident voorviel tijdens de Libische burgeroorlog in maart 2020. Een gevechtsdrone van het type ‘Kargu-2’ zou door de Libische regering ingezet zijn om logistieke konvooien en terugkerende troepen van de rebellen op te sporen. De drone, die door het rapport beschreven wordt als een «autonoom dodelijk wapen», zou overgegaan zijn tot de aanval op een afgescheiden fractie onder leiding van Khalifa Haftar, de bevelhebber van het zelfverklaarde Libische Nationale Leger. En dat deed het zelfstandig, wat een wereldprimeur zou zijn. «De dodelijke autonome wapensystemen waren geprogrammeerd om doelen aan te vallen zonder dat er een dataverbinding tussen de bestuurder en de munitie [de drone] nodig was», leest het rapport.
Volgens de Turkse Fabrikant van de Kargu-2-drone, STM, kan het vliegende wapen «doeltreffend worden gebruikt tegen stilstaande en bewegende doelwitten, met behulp van real-time beeldverwerking en machine learning-algoritmes». De drone heeft een actieradius van vijf kilometer en kan een halfuur lang in de lucht blijven. Eens het wapen een doelwit heeft opgespoord, valt het aan door ernaartoe te vliegen en te ontploffen.
Reden tot zorgen
«Dit is waarschijnlijk de eerste keer dat drones mensen hebben aangevallen zonder daarvoor instructies gekregen te hebben», aldus Zak Kellenborn, een van de auteurs van het rapport. De technologie baart hem zorgen: «Hoe kwetsbaar is het objectherkenningssysteem? Hoe vaak worden doelen verkeerd geïdentificeerd?»
Ook Max Tegman, een machine learning-specialist van het prestigieuze MIT, vindt het incident beangstigend. «De verspreiding van killer robots is begonnen», tweette hij. «Het is niet in het belang van de mensheid dat goedkope ‘slachtbots’ massaal worden geproduceerd en op grote schaal beschikbaar zijn voor iedereen. Het is de hoogste tijd voor wereldleiders om op te treden en een standpunt in te nemen.»
Tot dat laatste werden wel al verschillende pogingen ondernomen, maar wetgeving om zelfstandige wapens aan banden te leggen botst telkens op tegenstand. Zo begon de VN in 2018 aan een verdrag over het verbod op autonome wapens, maar blokkeerden enkele landen het proces, onthulde Politico destijds. Onder meer Rusland, de Verenigde Staten, Zuid-Korea, Israël en Australië spartelden toen tegen. Human Rights Watch voert al sinds 2013 campagne tegen de verspreiding van zelfstandige wapens.