157 SAMENVATTING De waarde-elicitatie die met behulp van het Value Deliberation Process is uitgevoerd, laat niet alleen zien dat waardendiscussie leidt tot veranderingen in de perceptie van de aanvaardbaarheid van alternatieven in een scenario van inzet van Autonome Wapen Systeem, het geeft ook inzicht in welke waarden belangrijk worden geacht en benadrukt dat vertrouwen bij de besluitvorming over een Autonoom Wapen Systeem cruciaal is. Tijdens de technische onderzoeksfase hebben we het Glass Box framework geoperationaliseerd door het maken van een implementatieconcept als voorbeeld om aan te tonen dat het raamwerk bruikbaar is. Na waarde-elicitatie is het afleiden van normen en eisen de volgende stap in de interpretatiefase van het Glass Box framework. Deze vereisten zullen in de observatiefase worden ingevoerd als waarneembare elementen (criteria) om te monitoren en te verifiëren. We hebben een implementatie van een pre- en post-flight procedure van een autonome drone als voorbeeld gemaakt middels de modelleertaal Coloured Petri Nets (CPN’s). Het implementatieconcept laat zien dat het mogelijk is om criteria op te stellen in het pre-flight proces en deze criteria na de vlucht te evalueren. Tijdens de vlucht wordt de drone zelf behandeld als een black box waarvan de interne logica niet toegankelijk is. Op deze manier hebben de gebruikers geen technische kennis en vaardigheden nodig om de interne werking van een autonome drone te begrijpen, maar kunnen ze toch het gebruik van het autonome systeem monitoren en overzien op basis van waarneembare normen. Na de implementatie is een beoordelingsfase vereist als verantwoordingsproces waarvan de bevindingen moeten worden teruggekoppeld naar de interpretatiefase voor een volgende inzet van een autonoom systeem en daarmee de lus tussen de fasen moet sluiten. Ten slotte zijn we naar onze conceptuele onderzoeksfase teruggekeerd en hebben we een voorbeeld uitgewerkt waarin we de vijfpuntssystemen-feedbacklus toepasten Autonome Wapen Systemen. Het doel van het feedbacksysteem is ervoor te zorgen dat de lessen en aanbevelingen uit de beoordelingsfase worden opgenomen in de interpretatiefase voordat een Autonoom Wapen Systeem wordt ingezet in een volgende iteratie. De resultaten van dit onderzoek zijn de afbakening van concepten van verantwoording, verantwoordelijkheid en menselijk toezicht, wat bijdraagt aan de huidige stand van wetenschappelijke literatuur. Ook laten het Comprehensive Human Oversight Framework en het implementatieconcept van het Glass Box framework zien dat criteria voor menselijk toezicht kunnen worden geïdentificeerd, weergegeven en gevalideerd. Dit leidt tot een betere toewijzing van verantwoording bij de besluitvorming over de inzet van een Autonoom Wapen Systeem en het maakt het mogelijk om de verantwoordelijkheid voor de acties van het wapensysteem toe te kennen door de supervisor van deze acties te identificeren. Dit draagt daarmee bij aan het verkleinen van de kans op onbedoelde gevolgen bij de inzet van Autonome Wapen Systemen.
RkJQdWJsaXNoZXIy MjY0ODMw