155 SAMENVATTING Autonome Wapen Systemen zijn wapensystemen die met Kunstmatige Intelligentie (KI) zijn uitgerust. Ze worden steeds vaker ingezet op het slagveld. Autonome systemen kunnen veel voordelen hebben in het militaire domein, maar de aard van Autonome Wapen Systemen kan ook leiden tot veiligheidsrisico’s en onvoorspelbare activiteiten. Tevens wordt het gebrek aan menselijke waardigheid, dat verband houdt met besluitvorming over leven of dood, genoemd als een punt van zorg bij het gebruik van Autonome Wapen Systemen. Daarnaast zijn veel wetenschappers bezorgd dat Autonome Wapen Systemen zullen leiden tot een “verantwoordelijkheidshiaat”; omstandigheden waarin geen mens verantwoordelijk kan worden gehouden en aansprakelijk kan worden gesteld voor de beslissingen, acties en effecten van Autonome Wapen Systemen. De bovengenoemde zorgen tonen aan dat verantwoordelijkheid, verantwoording en menselijke controle waarden zijn die vaak worden genoemd in het maatschappelijke en academische debat over Autonome Wapen Systemen. Voor zover wij weten, ontbreken empirische studies over de mate waarin verantwoordelijkheid en verantwoording voor de inzet van autonome wapensystemen door gewone mensen en experts worden ervaren. Het begrip “Betekenisvolle Menselijke Controle” wordt vaak genoemd als voorwaarde in het debat over Autonome Wapen Systemen om verantwoording en verantwoordelijkheid over dit soort wapensystemen te waarborgen. Naar onze mening is om verschillende redenen alleen Betekenisvolle Menselijke Controle niet voldoende als vereiste om onbedoelde gevolgen van Autonome Wapen Systemen te minimaliseren. Ten eerste is het concept van Betekenisvolle Menselijke Controle potentieel controversieel en verwarrend, aangezien menselijke controle in verschillende literatuurdomeinen verschillend wordt gedefinieerd en geintrepeteerd. Ten tweede houden standaardconcepten van controle in het technische en het militaire domein een vermogen in om direct een uitkomst te veroorzaken of te voorkomen die niet mogelijk is met een Autonome Wapen Systeem, omdat als een autonoom wapen eenmaal is gelanceerd, je niet kunt ingrijpen door menselijk handelen. En tot slot biedt de literatuur over Betekenisvolle Menselijke Controle over Autonome Wapen Systemen geen consistent bruikbaar concept. Wij zijn van mening dat er een andere aanpak nodig is om de onbedoelde gevolgen van Autonome Wapen Systemen tot een minimum te beperken. Daarom leggen we de focus op menselijk toezicht in plaats van op Betekenisvolle Menselijke Controle. Dit leidt tot het volgende onderzoeksdoel: Het verbeteren van het afleggen van verantwoording en toewijzen van verantwoordelijkheid door een raamwerk en implementatieconcept te ontwerpen waarin criteria voor menselijk toezicht worden geïdentificeerd, weergegeven en gevalideerd om onbedoelde gevolgen bij de inzet van SAMENVATTING
RkJQdWJsaXNoZXIy MjY0ODMw