Brief regering; Resultaten en vervolg Responsible AI in the military domain (REAIM) Summit over verantwoorde AI in het militaire domein - Internationale Veiligheidsstrategie - Hoofdinhoud

Deze brief is onder nr. 68 toegevoegd aan dossier 33694 - Internationale Veiligheidsstrategie.

Officiële titel	Internationale Veiligheidsstrategie; Brief regering; Resultaten en vervolg Responsible AI in the military domain (REAIM) Summit over verantwoorde AI in het militaire domein
Document­datum	23-06-2023
Publicatie­datum	23-06-2023
Nummer	KST3369468
Kenmerk	33694, nr. 68
Externe link	origineel bericht
Originele document in PDF

Tweede Kamer der Staten-Generaal

Vergaderjaar 2022-

2023

33 694

Internationale Veiligheidsstrategie

Nr. 68

BRIEF VAN DE MINISTERS VAN BUITENLANDSE ZAKEN EN VAN DEFENSIE

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal Den Haag, 23 juni 2023

Op 15 en 16 februari 2023 vond de internationale conferentie over Responsible AI in the military domain (hierna: REAIM) plaats in Den Haag. Met REAIM is uitvoering gegeven aan de motie van het lid Koopmans c.s. uit april 2019 (Kamerstuk 33 694, nr. 43). Zoals in onze brief van 26 januari 2023 aan uw Kamer toegezegd (Kamerstuk 33 694, nr. 67) en in navolging van het verzoek als gedaan in de Vaste Commissie Defensie (hierna VCD) van 9 maart, informeren wij u over de behaalde resultaten van REAIM en over de vervolgstappen die genomen worden na de Summit. Mede op verzoek van de VCD wordt in deze brief ook ingegaan op het onderwerp autonome wapens.

REAIM - Onderdelen en scope

REAIM richt zich op een verantwoorde toepassing van kunstmatige intelligentie (hierna: AI) in het militaire domein. AI wordt breed beschouwd als één van de meest invloedrijke en mogelijk disruptieve technologieën en kent vele militaire toepassingen. Daarmee is AI een sleutelonderwerp in de discussies over kansen en bedreigingen van nieuwe technologie in het militaire veiligheidsdomein. REAIM voorzag in een tijdige en noodzakelijke start van een mondiale dialoog over de verantwoorde militaire inzet van deze technologie.

De REAIM Summit werd gezamenlijk georganiseerd door de Ministers van Buitenlandse Zaken en Defensie, waarbij de Minister van Buitenlandse Zaken van Zuid-Korea als co-host optrad. Aan het tweedaags programma van REAIM deden rond de 2.000 deelnemers uit meer dan 100 landen mee. Met de aanwezigheid van 80 landendelegaties en deelnemers vanuit industrie, academische instellingen, internationale organisaties en ngo's heeft Nederland een groot publiek kunnen bereiken en de verantwoorde toepassing van AI in het militaire domein hoger op de politieke agenda gezet.

kst-33694-68 ISSN 0921 - 7371 's-Gravenhage 2023

De brede deelname aan REAIM laat zien dat het onderwerp aan betekenis groeit en dat betrokken partijen, waaronder landen vanuit alle regio's, de urgentie onderkennen van het aangaan van een gebalanceerde dialoog over de volle breedte van verantwoorde toepassing van AI in het militaire domein. De conferentie heeft het begrip tussen verschillende stakeholders over zowel de mogelijkheden als de risico's van het gebruik van AI binnen het militaire domein vergroot.

De rode draad in het programma van REAIM werd gevormd door drie thema's:

• 1. 

  de ontwikkeling en technische kenmerken van AI (over o.a. uitleg-baarheid en data bias),

• 2. 

  de verantwoorde militaire inzet en gebruik van AI (case studies, voordelen en dilemma's)

• 3. 

  de stappen die betrokken partijen kunnen zetten om verantwoorde inzet van AI in militaire operaties te garanderen (governance tools).

Op basis van bovenstaande thema's zijn verschillende deelonderwerpen uitgelicht in meer dan 45 break-out sessies. Het ging daarbij om onderwerpen zoals AI in autonome wapensystemen, interactie tussen mens en machine (human-machine-teaming), (gender)bias en AI, de AI en Space nexus, AI in cyber-defence, AI in nuclear command and control en dronezwermen en AI. De break-out sessies werden grotendeels uitgevoerd door externe partijen, wat een inclusieve discussie en uitwisseling tussen verschillende groepen stakeholders heeft bewerkstelligd.

De Minister van Buitenlandse Zaken onderstreepte in zijn openingsspeech van de conferentie, dat (potentiële) toepassingen van AI in het militaire domein legio zijn. Het voorbeeld van AI in besturingssystemen ten behoeve van data-analyse of Intelligence, Surveillance en Reconnaissance (ISR)-activiteiten werd gebruikt in een fictief filmscenario dat tijdens de plenaire onderdelen op een groot scherm werd getoond. Dit filmscenario maakte de dilemma's, kansen en risico's, en daaruit voortkomende vraagstukken van AI in het militaire domein tastbaar en concreet. Het scenario verbond de verschillende onderdelen van REAIM en vormde de inleiding voor de plenaire paneldiscussies met vooraanstaande vertegenwoordigers uit alle stakeholdergroepen. Het filmscenario vormde tevens de omlijsting van de overige onderdelen van de conferentie.

Voor de mensen die niet in staat waren naar Den Haag te komen waren alle plenaire sessies, een aantal live talkshows en een deel van de break-out sessies en presentaties integraal op YouTube te volgen en deze zijn daar ook nu nog terug te zien.

REAIM - Resultaten

REAIM heeft een aantal concrete resultaten opgeleverd. Allereerst hebben meer dan 50 regionaal diverse landen¹ zich aangesloten bij de REAIM Call to Action, waaronder de twee belangrijkste spelers op dit terrein, de VS en China. Daarmee is het doel een brede mondiale dialoog te starten bereikt. Om uiteindelijk te komen tot effectieve internationale regulering is die brede dialoog essentieel. De Call to Action is tot stand gekomen op basis van de consultaties met een groep landen uit alle regio's die de afgelopen anderhalf jaar betrokken zijn bij de voorbereiding van REAIM. Ook weerspiegelt de Call to Action de opbrengsten van gesprekken met het bedrijfsleven, academici en het maatschappelijk middenveld. De Call to

Action roept onder andere op de dialoog over verantwoorde militaire AI op inclusieve wijze en met inbegrip van alle betrokken stakeholders voort te zetten en roept die stakeholders op verantwoordelijkheid te nemen en bij te dragen aan internationale veiligheid en stabiliteit in lijn met internationaal recht. Ook worden staten opgeroepen om te werken aan een algehele kennisopbouw van AI in het militaire domein door onder andere het steunen van onderzoek en het trainen van medewerkers. Tevens worden staten uitgenodigd eigen nationale strategieën te ontwikkelen over verantwoord militair gebruik van AI. Een brede groep landen heeft zich hiermee gecommitteerd aan een proces dat ervoor moet zorgen dat de inzet van AI in het militaire domein op een verantwoorde manier plaatsvindt. De Minister van Defensie onderschreef het positieve resultaat van de breed gesteunde Call to Action tijdens de plenaire sluiting van REAIM en benadrukte het belang van AI voor een slagkrachtige en relevante defensieorganisatie. Het kabinet beschouwt de Call to Action als een belangrijke eerste stap om zo veel mogelijk landen en andere stakeholders te betrekken bij de internationale agendavorming op dit thema en als brede basis voor verdergaande gesprekken over internationale kaders voor verantwoorde toepassing van AI in het militaire domein.

Daarnaast is tijdens REAIM een Global Commission on Responsible AI in the Military Domain aangekondigd die aan een strategisch advies zal werken dat ziet op het formuleren van kaders en regulering van AI in het militaire domein. De Commissie zal bestaan uit een internationale groep van vooraanstaande personen die kennis en ervaring vanuit verschillende sectoren (politiek, beleid, academisch, bedrijfsleven, maatschappelijke organisaties) en regio's, ondersteund door een groep van academische experts. In overleg met Zuid-Korea wordt de samenstelling en de opdracht van de Global Commission verder gespecificeerd.

Co-host Zuid-Korea kondigde aan het einde van het politieke segment aan de volgende REAIM Summit te organiseren. Nederland is met Zuid-Korea in overleg over de exacte datum en de vervolgstappen richting de volgende conferentie. Dat Zuid-Korea de volgende REAIM zal organiseren zorgt ervoor dat verantwoorde AI in het militaire domein op de politieke agenda blijft staan en is een stimulans voor regionale betrokkenheid en de mondiale dialoog op dit belangrijke thema.

Binnen het Academische Forum van REAIM hebben verschillende internationale universiteiten, in samenwerking met de Technische Universiteit Delft, het belang benadrukt van de ontwikkel- en ontwerpfase van AI-toepassingen. Aandacht moet uitgaan naar de ontwerp en ontwikkelfase van AI om ook bij te dragen aan regulering achteraf. Een transdisciplinaire aanpak is cruciaal. Validatie, verificatie en testen van AI in allerlei omgevingen en use cases is noodzakelijk omdat context, ook voor wat betreft begrippen als verantwoordelijkheid en aansprakelijkheid, een belangrijke factor is. Een Call for Papers heeft geleid tot een zgn. topical collection waarin diverse zienswijzen en oplossingsrichtingen naar voren worden gebracht. Na editorial review is in maart 2023 een selectie van wetenschappelijke artikelen gepubliceerd in het tijdschrift Ethics and Information Technology. Daarnaast zal begin 2024 een boek verschijnen met als titel Responsible Use of AI in Military Systems. De hoofdstukken in dit boek zijn geschreven door experts die aanwezig waren op een expert workshop die Defensie in aanloop naar REAIM heeft georganiseerd.

In de zogenaamde Responsible Innovation Hub demonstreerden bedrijven en onderzoeksinstellingen hoe zij omgaan met verantwoorde innovatieprocessen en maakten militaire toepassingen van AI tastbaar. De «Serious

AI Game» die gericht was op masterstudenten trok veel aandacht van beleidsmakers en militairen. De simulatie heeft het begrip van militair gebruik van AI vergroot en bijgedragen aan een gezamenlijk beeld van de uitdagingen bij militaire inzet van AI.

REAIM - Vervolgacties

Met REAIM heeft het kabinet met een diverse groep landen en andere stakeholders zoals kennisinstellingen, maatschappelijk middenveld en industrie, een concrete stap gezet op dit thema. Het uiteindelijke doel is te komen tot internationale afspraken over normatieve kaders op militaire toepassingen van AI op basis van het bestaande internationaal recht. Met dit als overkoepelende doelstelling, zet het kabinet het komende jaar in op concretisering van de Call to Action en de inrichting van de Global Commission.

Op basis van de Call to Action zal Nederland verschillende regionale trainingen door het Centre for Humanitarian Dialogue over militair gebruik van AI financieren. Deze train-the-trainer workshops zijn gericht op overheidsmedewerkers in de regio werkzaam op AI in het veiligheids-domein. De trainingen dragen enerzijds bij aan het begrip over de mogelijkheden en de risico's van AI in het militaire domein en welke internationale regels en wetten op dit moment gelden. Anderzijds helpen deze trainingen bij de internationale capaciteitsopbouw op dit onderwerp.

Het kabinet acht het van groot belang om het momentum van REAIM vast te houden en uit te bouwen. Nederland zal daarom de landen die, op basis van verschillende afwegingen, nog niet in staat waren zich bij de REAIM Call to Action aan te sluiten, blijven betrekken bij verder te zetten stappen.

Door de organisatie van verschillende regionale bijeenkomsten met andere landen wil het kabinet het komende jaar bij blijven dragen aan het vergroten van het begrip en de kennis van de dilemma's, kansen en risico's van de toepassing van AI in het militaire domein, en het gesprek voeren over het belang van internationale afspraken hieromtrent. Deze regionale consultaties dragen ook weer bij aan de verdere uitwerking van de agenda voor de tweede REAIM Summit in Zuid-Korea.

De Call to Action roept landen op een nationale militaire AI-strategie op te stellen. Defensie heeft een eigen nationale Data Science en AI Strategie en zal komend jaar blijven werken aan de verdere uitwerking van beleid op algoritmes. Nederland zal ook andere landen blijven aanmoedigen een dergelijke strategie op het gebruik van AI en data in het militaire domein op te stellen.

Diverse betrokken partijen en deelnemers hebben het belang van de multi-stakeholder aanpak benadrukt. Met deze aanpak heeft REAIM bijgedragen aan het delen van kennis, het vergroten van contacten tussen verschillende typen stakeholdergroepen en het creëren van een gedeeld beeld van de mogelijkheden en uitdagingen die AI met zich meebrengt in het militaire domein. Nederland blijft daarom ook in de vervolgstappen inzetten op actieve betrokkenheid van bedrijven, universiteiten, denktanks, maatschappelijke organisaties en internationale organisaties uit landen wereldwijd.

REAIM - relatie autonome wapensystemen

Met REAIM heeft het kabinet het initiatief genomen een internationale dialoog op gang te brengen over de brede toepassing van AI in het militaire domein. Bij AI in het militaire domein gaat het om meer dan alleen de eventuele toepassing van AI in autonome wapensystemen, zoals de eerdergenoemde toepassing van AI in onder andere data-analyse, beslisondersteuning en Intelligence, Surveillance, en Reconnaissance (ISR) activiteiten ten behoeve van militaire operaties. Daarmee is REAIM breder dan het mandaat van de Group of Governmental Experts van de VN over autonome wapensystemen (hierna: CCW/GGE LAWS) en biedt REAIM geen alternatief platform voor formeel overleg of besluitvorming op dat onderwerp. Wel zijn de resultaten van REAIM goed verenigbaar met de inzet van Nederland in de CCW/GGE LAWS.

Het kabinet heeft in zijn reactie op het AIV/CAVV advies² een standpunt ingenomen ten aanzien van autonome wapensystemen. Uitgangspunt is dat wapensystemen met autonome kenmerken te allen tijde conform het internationaal recht moeten worden gebruikt en dat daartoe het oordeelsvermogen van de mens bij de inzet van deze wapensystemen behouden moet blijven.³ Het kabinet blijft zich inzetten voor een internationaal verbod op autonome wapensystemen die niet in lijn met het internationaal recht kunnen worden ingezet en op regulering van overige wapensystemen met autonome kenmerken in VN-verband.

De Minister van Buitenlandse Zaken,

W.B. Hoekstra

De Minister van Defensie,

K.H. Ollongren

Tweede Kamer, vergaderjaar 2022-2023, 33 694, nr. 68 5

¹

Actuele lijst met landen die de Call to Action ondersteunen; https://www.government.nl/ ministries/ministry-of-foreign-affairs/documents/publications/2023/02/16/reaim-2023-endorsing-countries

²

   AIV-advies 119, CAVV-advies 38 van 3 december 2021 - Autonome wapensystemen, het belang van reguleren en investeren, Kamerstuk 35 925-X, nr. 90.

³

   Zoals verwoord in Aanhangsel Handelingen II 2022/23, nr. 2214