Proefschrift

156 SAMENVATTING Autonome Wapen Systemen tot een minimum te beperken. We hebben de Value-Sensitive Design (VSD) methode als onderzoeksaanpak toegepast om dit onderzoeksdoel te bereiken. Het VSD is een drieledige benadering die het mogelijk maakt om tijdens het hele ontwerpproces van technologie rekening te houden met menselijke waarden. Het is een iteratief proces voor het conceptuele, empirische en technologische onderzoek van menselijke waarden die betrekking hebben op het ontwerp van een artefact. In de conceptuele onderzoeksfase stellen we een alomvattend menselijk toezichtskader - het Comprehensive Human Oversight Framework - voor Autonome Wapen Systemen voor. Dit raamwerk bestaat uit drie lagen die de technische, socio-technische en bestuurlijke controle perspectieven met elkaar verbinden. Deze lagen koppelen de controleperspectieven aan een tijdsperspectief dat laat zien wanneer een proces plaatsvindt: (1) voor inzet van een wapen, (2) tijdens inzet van een wapen en (3) na inzet van een wapen. Dit resulteert in een raamwerk van negen blokken dat verschillende controlemechanismen bevat. Onze belangrijkste bewering is dat het combineren van de controlemechanismen in de technische, sociaal-technische en bestuurlijke laag zal leiden tot alomvattend menselijk toezicht op Autonome Wapen Systemen, wat kan zorgen voor solide beheersbaarheid en het afleggen van verantwoording voor het gedrag van Autonome Wapen Systemen. Wanneer het Comprehensive Human Oversight Framework wordt toegepast Autonome Wapen Systemen, onthult het twee hiaten in controle, één hiaat in de bestuurslaag en één in de sociotechnische laag tijdens de inzet van een Autonome Wapen Systeem. De toepassing van het Glass Box framework op het Comprehensive Human Oversight Framework zou deze hiaten in de controle kunnen verkleinen. Het Glass Box framework is gebouwd rond de black box (in de socio-technische laag tijdens de inzet van een Autonoom Wapen Systeem) met een interpretatie- en observatiefase die een transparant menselijk toezichtproces mogelijk maakt. Een feedbackproces kan de lus sluiten na inzet van een wapen van het verantwoordingsproces terug naar de interpretatiefase voor een volgende inzet van een wapen. Als onderdeel van de empirische onderzoeksfase bouwen we voort op ons conceptuele werk met kwalitatief onderzoek door middel van interviews, een discussie over waarden in expertpanels en een enquête. We voerden waarde-elicitatie uit door middel van het Value Deliberation Process als eerste stap van de interpretatiefase van het Glass Box framework. We hebben een online Value Deliberation Process ontworpen dat bestaat uit een tweeledige enquête en een virtuele sessie voor de expertpaneldiscussie. De waardendiscussie is uitgevoerd met 14 deelnemers verdeeld over twee groepen. De deelnemers bestonden uit een mix van militairen en burgers werkzaam bij het Ministerie van Defensie, een NGO, onderzoekers, beleidsmakers en het bedrijfsleven.

RkJQdWJsaXNoZXIy MjY0ODMw