Verslag van een commissiedebat, gehouden op 5 oktober 2022, over Autonome Wapens - Internationale Veiligheidsstrategie - Hoofdinhoud

Dit verslag van een commissiedebat is onder nr. 65 toegevoegd aan dossier 33694 - Internationale Veiligheidsstrategie en wetsvoorstel 35925 X - Vaststelling begroting Defensie 2022 i.

Officiële titel	Internationale Veiligheidsstrategie; Verslag van een commissiedebat; Verslag van een commissiedebat, gehouden op 5 oktober 2022, over Autonome Wapens
Document­datum	05-10-2022
Publicatie­datum	10-10-2022
Nummer	KST3369465
Kenmerk	33694, nr. 65
Externe link	origineel bericht
Originele document in PDF

Tweede Kamer der Staten-Generaal

Vergaderjaar 2022-

2023

33 694

Internationale Veiligheidsstrategie

Nr. 65

VERSLAG VAN EEN COMMISSIEDEBAT

Vastgesteld 20 oktober 2022

De vaste commissie voor Defensie en de vaste commissie voor Buitenlandse Zaken hebben op 5 oktober 2022 overleg gevoerd met de heer Hoekstra, Minister van Buitenlandse Zaken, en mevrouw Ollongren, Minister van Defensie, over:

• - 

  de brief van de Minister van Buitenlandse Zaken d.d. 17 juni 2022 inzake kabinetsreactie op het AIV/CAVV-advies Autonome wapensystemen. Het belang van reguleren en investeren (Kamerstuk 35 925 X, nr. 90);

• - 

  de brief van de Minister van Buitenlandse Zaken d.d. 8 juli 2022 inzake stand van zaken uitvoering van de motie van het lid Koopmans c.s. over beheersing van de productie, plaatsing, verspreiding en inzet van nieuwe potentiële massavernietigingswapens (Kamerstuk 33 694, nr. 43) (Kamerstuk 33 694, nr. 64).

Van dit overleg brengen de commissies bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de vaste commissie voor Defensie,

De Roon

De voorzitter van de vaste commissie voor Buitenlandse Zaken,

Rudmer Heerema

De griffier van de vaste commissie voor Defensie,

De Lange

kst-33694-65 ISSN 0921 - 7371 's-Gravenhage 2022

Voorzitter: Valstar Griffier: De Lange

Aanwezig zijn vier leden der Kamer, te weten: Belhaj, Boswijk, Jasper van Dijk en Valstar,

en de heer Hoekstra, Minister van Buitenlandse Zaken, en mevrouw Ollongren, Minister van Defensie.

Aanvang 16.00 uur.

De voorzitter:

Ik open deze vergadering en heet u allen van harte welkom bij het commissiedebat Autonome wapens. Ik verkeer in de bijzondere hoedanigheid dat ik twee griffiers aan mijn zijde heb. Normaal gesproken is dat er één. Ik heet de heer Maduro, plaatsvervangend Griffier van de Staten van Curagao, welkom. Hij is hier om te kijken hoe wij het doen. Wij doen het natuurlijk altijd heel netjes in de Tweede Kamer. Ik kijk dus naar mijn collega-Kamerleden met de verwachting om dat vandaag ook weer te doen. Wij hebben officieel vier minuten spreektijd, maar vandaag ben ik coulant. We zijn namelijk in een klein gezelschap. Ik ben bereid om daar één minuut aan toe te voegen. Ik heb begrepen dat mevrouw Belhaj daar in ieder geval gebruik van gaat maken.

Ik zou dan eigenlijk willen voorstellen om de heer Van Dijk als eerste het woord te geven.

De heer Jasper van Dijk (SP):

Dank u wel, voorzitter. Bij hoge uitzondering spreek ik mijn inbreng ook uit namens de Partij van de Arbeid. U bent dus gewaarschuwd. Ik had een spreektekst klaar, maar ik heb hem helemaal moeten verbouwen toen ik dit ging doen.

Voorzitter. We spreken over autonome wapens. Laten we allereerst vaststellen dat dat natuurlijk enorm tot de verbeelding spreekt. Ik zie allerlei films voorbijkomen zoals Terminator en vele andere die daarna zijn gekomen. Als je spreekt over autonome wapens, wapens die zonder mensen bediend kunnen worden, dan denk je aan sciencefiction et cetera. Dat is de ene kant van het verhaal. De andere kant van het verhaal is dat het natuurlijk reden tot zorg geeft, en reden tot regulering. Het is daarom heel goed dat we hier vanmiddag over spreken.

Er staat een prachtige opinie in de Volkskrant vandaag, van Daan Kayser en Jip van Dort. Ik citeer: «De trend is duidelijk: legers passen almaar meer autonomie toe in wapensystemen. Een nieuw, angstaanjagend tijdperk - waarbij we het selecteren en aanvallen van doelen overlaten aan sensoren en algoritmen, zonder menselijke tussenkomst - staat voor de deur. We moeten haast maken grenzen te stellen en zaken goed te regelen nu het nog kan.» Dat is de strekking van hun artikel en ik sluit me daar volledig bij aan. Ik vraag aan de regering om daarop te reageren.

Een heel belangrijk punt daaromtrent is dat er eigenlijk een verdrag gemaakt zou moeten worden, een internationaal verdrag waarin je regels vaststelt rondom het gebruik van dit soort wapens. Daarin zou eigenlijk het verbod op volledig autonome wapens moeten staan. De regulering van gedeeltelijk autonome wapens zou daarin ook geregeld moeten worden. Ik vraag de regering of ze dat met mij eens is. Je zou dat met een groep van landen kunnen bepleiten, bijvoorbeeld België, Zwitserland, Brazilië en Mexico. Zij delen dit standpunt.

Je zou dat dan kunnen doen in de Conventie over bepaalde conventionele wapens, de zogenaamde CCW. Het zou heel mooi zijn als dat lukt, maar dat kan heel gemakkelijk gevetood worden. Dat zeggen de auteurs in het opiniestuk terecht. Een land als Rusland zou zomaar kunnen zeggen: «Wij hebben helemaal geen behoefte aan regulering van autonome wapens.

Dat gaat dus niet gebeuren.» Ik zou de regering willen vragen of ze het met mij eens is dat het heel zonde zou zijn als daarmee regulering wordt stopgezet. Zou je dan niet een initiatief buiten de zogenaamde CCW om moeten nemen? Graag een reactie.

Voorzitter. Het Rode Kruis roept ook op tot een verdrag. Zij wijzen terecht op ethische redenen, namelijk dat mensen geen doelwit mogen zijn van autonome wapens. Nederland moet op z'n minst terughoudend en zorgvuldig zijn bij investeringen in autonome wapensystemen. Ik vraag of de regering dat standpunt deelt.

De SP heeft de afgelopen jaren al meerdere malen debatten over de deelname van de Nederlandse luchtmacht, in de vorm van F-16's en de Reaperdrone, aangegrepen om te spreken over het verschijnsel «langeaf-standsoorlog». Ik wijs u ook op het boek «Hawija: De verwoestende werkelijkheid van onze langeafstandsoorlog tegen IS». Het is geschreven door onze oud-beleidsmedewerker Jip van Dort. Hij is thans werkzaam bij PAX. Het is een uitstekend boek. Ik kan het de Minister van harte aanbevelen. Van Dort beschrijft ook dat proces van de langeafstandsoorlog. Het heeft natuurlijk ongekende voordelen; dat snap ik direct. Je bent natuurlijk zelf in grote veiligheid op het moment dat je vanaf je thuisbasis een wapen, een drone, kan besturen. Aan de andere kant brengt het ook nieuwe risico's met zich mee. Ziet de regering die nieuwe risico's ook? Het wordt afstandelijk oorlog voeren. U kent de buitengerechtelijke executies zoals die door de Verenigde Staten, maar ook door Israël, worden uitgevoerd met behulp van drones. Hoe kijkt de regering daarnaar? Ziet ze de risico's, namelijk het gebrek aan democratische controle en de lagere drempel om geweld te gebruiken?

Voorzitter. De kern van mijn pleidooi is dus: ga aan de slag met juridische kaders; ga aan de slag met een internationaal verdrag.

Tot slot zou ik nog het volgende willen vragen. Is er wellicht een kans om dit onderwerp, autonome wapens, toe te voegen aan de agenda van de conferentie over kunstmatige intelligentie die Nederland in februari volgend jaar organiseert? En kunnen we dan aan de slag gaan met een mooi verdrag?

Dank u wel.

De voorzitter:

Dank u wel, meneer Van Dijk. Ik geef het woord aan mevrouw Belhaj. Mevrouw Belhaj (D66):

Voorzitter, dank. Fijn om weer op bezoek te mogen zijn bij de commissie Defensie en bezig te mogen zijn met de inhoud daarvan. En wat voor een inhoud! Op 4 juni 2021 brachten we als D66 de initiatiefnota Autonome wapensystemen uit, ondanks dat de AIV nog moet komen met z'n advies. Twee jaar daarvoor waren we daar eigenlijk al mee aan de slag gegaan.

De urgentie is er dus zeker. Ik ben heel blij dat we daar vandaag verder over kunnen spreken.

We spreken op dit moment veel over wapensystemen, door de Russische aanvalsoorlog in Oekraïne. Nederland draagt daar ook aan bij, bijvoorbeeld met de pantserhouwitsers, ons zwaarste artilleriesysteem. Terwijl de Oekraïners vechten tegen een monsterlijk regime en voor onze vrijheid en waarden, voltrekt zich op de achtergrond een stille revolutie: de derde revolutie in oorlogsvoering. De mens krijgt daarbij steeds minder zeggenschap over de inzet van wapens en over het gebruik van geweld. Wat D66 betreft maken de oorlog in Oekraïne, de Russische agressie en de snel verslechterende geopolitieke situatie in de wereld de nood van actie op wapenbeheersing alleen maar urgenter. Een zwerm van twintig drones die doelen identificeren, selecteren, eropaf vliegen met 70 kilometer per uur en ontploffen, is niet langer sciencefiction. Dit gebeurt al. Na het verschijnen van het AIV-rapport sloot het kabinet zich op vele punten aan bij de beslispunten van mijn initiatiefnota die we vorig jaar bespraken.

Grote winstpunten zijn dat het kabinet zich gaat inspannen voor een verbod op volledig autonome wapens en een concretisering van regels voor de inzet op gedeeltelijk autonome wapens. Het kabinet gaat de door de AIV/CAVV opgestelde criteria hanteren voor het inkleden van betekenisvolle, menselijke controle in het doelontwikkelingsproces. Dat zijn mooie ambities en mooie woorden. Als Rotterdammer zeg ik: nu nog de daden. Daarom heb ik een aantal aansporingen, opmerkingen en vragen. Voorzitter. Ik vind het een mooie stap dat Nederland volledig autonome wapensystemen globaal wil verbieden. Nu is het wel zo - dat gaf mijn collega Van Dijk al aan - dat de internationale gemeenschap al jaren wacht op de CCW, de Convention on Certain Conventional Weapons, maar daar gebeurt niets. Er worden geen knopen doorgehakt en dat gaat binnenkort ook niet gebeuren. De tijd tikt echter door. Die tijd hebben we helemaal niet. En dat terwijl de industrie jaren geleden zelf al riep: reguleer ons, alsjeblieft, want dit gaat helemaal fout! Daarom stelt D66 dat Nederland een parallel proces moet starten met welwillende landen om zo snel mogelijk tot een verdrag te komen. We zien dat Nederland daar vaker heel succesvol in is geweest. Mijn vraag aan de Minister van Buitenlandse Zaken is of hij bereid is om dit te initiëren. Ik heb hem daar ook uitspraken over horen doen. Ik hoop echt dat hij vandaag zegt dat hij persoonlijk gemotiveerd is om hier de lead in te nemen. Dit gaat namelijk echt over iets. Dit gaat niet alleen over een mogelijke prijs voor wereldvrede. Dit gaat gewoon over honderdduizenden mensenlevens die gevaar lopen als we niet optreden.

Ik las dat de Minister van BZ binnenkort, in samenwerking met de Minister van Defensie, een conferentie over kunstmatige intelligentie organiseert. Autonome wapens staan echter niet geagendeerd. Is deze conferentie niet bij uitstek hét moment voor deze Minister om grote stappen te zetten richting een verdrag? D66 drukt de Minister op het hart: laat deze kans niet liggen.

Voorzitter. Het kabinet vindt het belangrijk om betekenisvolle menselijke controle te houden bij de inzet van autonome wapens. Dat klinkt goed. Het klinkt ook alsof Nederland dat al kan. Zoals het AIV-rapport ons leert, is er helemaal geen consensus over betekenisvolle menselijke controle, laat staan dat onze militairen, militaire protocollen en autonome systemen al volledig zijn afgestemd op de inkleding van dit concept. Op dit moment lijkt het nog een beetje nattevingerwerk. Is de Minister het met ons eens dat autonome gewapende systemen pas ingezet kunnen worden als betekenisvolle menselijke controle is uitgewerkt en geïmplementeerd in de defensieorganisatie?

Voorzitter. Het derde punt dat ik wil aanstippen, is investeren. Zowel Nederland als de NAVO willen een technological edge behouden in hoogtechnologische oorlogsvoering. Het budget gaat flink omhoog. Tegelijkertijd is dat dan ook het moment om vooruit te denken en verantwoordelijkheid te nemen. Zorg ervoor dat de principes van betekenisvolle menselijke controle direct in het ontwikkelingsproces van nieuwe autonome systemen worden meegenomen. Geef de industrie duidelijke richtlijnen en kaders voor de ontwikkeling van autonomie in nieuwe wapensystemen. Doen we dat niet, dan ontwikkelen we vormen van kunstmatige intelligentie die we niet kunnen controleren, robots die zelf besluiten wanneer ze geweld inzetten. Dat moeten we koste wat het kost zien te voorkomen. Is het kabinet dit met D66 eens? Zo ja, hoe gaat het dit doen, zowel voor de Nederlandse industrie als in NAVO-verband? Voorzitter, concluderend. De geopolitieke realiteit maakt niet dat we minder moeten normeren. Het maakt dat we juist meer moeten doen om de internationale rechtsorde in stand te houden, ook wat het beperken en beheersen van dit soort wapens betreft. Nederland heeft daar een verantwoordelijkheid in. Ik doe vandaag ook een expliciet appel op de verantwoordelijkheid van deze Ministers. Ik vraag hun niet te onderschatten welke mogelijkheden ze hebben om van betekenis te zijn als het gaat om deze nieuwe vormen van oorlogsvoering.

Dank u wel.

De voorzitter:

Dank. Dan geef ik het woord aan de heer Boswijk.

De heer Boswijk (CDA):

Dank u wel, voorzitter. Oorlogsvoering is sinds haar uitvinding aan verandering onderhevig, dus dat er nieuwe wapensystemen bij komen, is niet iets nieuws. Maar de snelheid waarop veranderingen nu plaatsvinden, is wel nieuw. In Oekraïne zien we vandaag de dag hoe consumen-tendrones door middel van crowdfunding worden gefinancierd en na kleine aanpassingen worden gebruikt om Russische loopgraven te bombarderen, waarbij deze zelfde acties worden gefilmd en via livestreams worden uitgezonden, waarna men vervolgens met nieuwe crowdfundingsacties nieuwe drones kan kopen.

Daarbij zien we nog een verandering. De wereldgeschiedenis toont aan dat het land dat vooroploopt op technologisch gebied vaak ook als winnaar uit de oorlog komt. Echter, doordat de drempel voor hoogtechnologische technologie nu wordt verlaagd, neemt het gevaar op diverse dreigingen toe. Terwijl kortgeleden statelijke actoren nog een grote voorsprong hadden op technologische gebieden, zien we nu dat non-statelijke actoren zoals drugsbendes en terroristische organisaties steeds meer over vergelijkbare technieken of vergelijkbare alternatieven beschikken. Dat is een enorm groot risico.

De AIV en de CAVV hebben een uitstekend advies uitgebracht, waarvoor dank. Kunstmatige intelligentie gaat een steeds grotere rol spelen, in de economie, in de samenleving en op het slagveld. China heeft de ambitie om wereldleider te worden op het gebied van kunstmatige intelligentie.

De ontwikkelingen gaan razendsnel, vooral binnen het civiele domein. Het vereist ambitie en investeringen, maar het roept ook vragen en dilemma's op. Hoe gaan we om met China? Hoe voorkomen we dat China civiel- en militair-technologisch het Westen voorbijstreeft? Hoe moet het militaire domein omgaan met de ontwikkeling van kunstmatige intelligentie in vooral het civiele domein en het grijze gebied tussen civiel en militair, zoals hybride oorlogsvoering, en met het vervagende onderscheid tussen in- en externe veiligheid en cyber?

De keuze om autonome wapensystemen wel of niet in te zetten is een dilemma, zoals vaak het geval is bij ethische kwesties. Het kan misschien heel ethisch verantwoord zijn om autonome wapens af te zweren, maar hoe ethisch is het om een land kwetsbaar te maken als andere landen wel investeren in autonome wapens? Hoe ethisch is het als we militairen het strijdtoneel op sturen als ook autonome systemen het zouden kunnen doen? Wat het CDA betreft moet dit een afweging zijn in NAVO-verband, omdat we niet willen dat wij ons als westerse landen misschien op achterstand zetten ten opzichte van landen als China, Rusland, Noord-Korea en Iran.

De voorzitter:

Dat lijkt me een mooi moment voor mevrouw Belhaj om te interrumperen. Mevrouw Belhaj (D66):

Ik hoor heel goed wat de heer Boswijk zegt. Hij vertegenwoordigt daarmee denk ik ook een bepaalde stroming die zegt: pas op, als die anderen het hebben en wij niet, zijn we misschien de grootste sukkels die er rondlopen. In de formele terminologie heet dat natuurlijk een wapenwedloop. Er zijn genoeg voorbeelden waaruit is gebleken dat je, als je wel vooroploopt maar er ook naar streeft om verdragen te realiseren, in staat bent om andere mensen - andere landen, waar dus mensen achter zitten -te verleiden om mee te doen. Ik merk zelf dat je uiteindelijk een keuze moet maken voor de beste route om dit te stoppen, de route waar je het meest in gelooft of waarop je het meest vertrouwt. Mijn vraag is: heeft de heer Boswijk daar ook over nagedacht? Wat hoopt hij of gelooft hij? Want uiteindelijk moet je gewoon een keuze maken. Ik snap het dilemma. En je moet natuurlijk helemaal niets van D66, maar ik stel me voor dat u een keuze künt maken.

De voorzitter:

Dit was een prachtig è-deux'tje, waarbij jullie elkaar goed in de ogen keken, dus ik ben benieuwd naar de reactie van de heer Boswijk.

De heer Boswijk (CDA):

D66 legt altijd wel een beetje zijn wil op aan een ander. Dat mag ik wel tegen Salima zeggen.

Mevrouw Belhaj (D66):

Zeker, maar hij komt dan wel terug, hè.

De heer Boswijk (CDA):

Ik zeg niet dat we niet een verdrag moeten sluiten. Ik schets alleen het dilemma. We hebben in het verleden natuurlijk vaker verdragen gesloten, bijvoorbeeld over clusterbommen en mijnen. Denk ook aan het INF-verdrag, dat uiteindelijk is gesneuveld omdat een van de landen zich er niet aan hield. Dan vraag ik me wel het volgende af. Als dat moment opeens daar is - sommige partijen blijken toch niet zo betrouwbaar te zijn als wij zelf denken dat wij zijn - dan is het wel een heel gevaarlijk dilemma waar je mee speelt. Als het moment opeens daar is, het verdrag eenzijdig wordt opgezegd en wij roomser zijn dan de paus, dan kunnen de gevolgen desastreus zijn, zeker met autonome wapensystemen, meer nog dan met mijnen of clusterbommen. Dat is het dilemma waarmee ik worstel. Als je normerend bent op een domein, wat Europa voor de mobiele telefoon was, dan bepaal je de standaard. Alleen, ik moet bekennen dat ik mij heel erg afvraag of wij op dit gebied normgevend zijn. Ik denk namelijk van niet. Ik denk dat China inmiddels normgevend is. Dat is de situatie op dit moment, of we dat nou leuk vinden of niet. Ik zeg er meteen bij dat ik niet op voorhand tegen een verdrag ben, maar ik vind wel dat we dit binnen NAVO-verband moeten doen en niet als Nederland alleen.

Mevrouw Belhaj (D66):

Dat biedt perspectief, want Nederland zit in de NAVO. Je kunt dus ook zeggen: wat als Nederland in NAVO-verband via deze Minister de conferentie aangrijpt om daar wel de lead in te nemen? Dan heb je die zekerheid ook en kom je uiteindelijk ook goed terecht. Mijn vraag is dus of dat interessant is.

U zegt: de Chinezen zijn al verder. Normeren betekent ook dat je op je eigen manier de situatie creëert waarin jij weer dominant kunt zijn. Je kunt het gevecht aangaan met de Chinezen over welke normen zij hanteren en de wijze waarop, maar dat ga je altijd verliezen. Je kunt het alleen winnen als je blijft bij je eigen normen en daar zo veel mogelijk landen in organiseert. Wat vindt u van dat idee, vraag ik vrijblijvend als D66'er.

De heer Boswijk (CDA):

Het is natuurlijk mooi als je een verdrag hebt. Dan ben je misschien normgevend op papier, maar uiteindelijk kun je in de praktijk buitengewoon kwetsbaar zijn - denk bijvoorbeeld aan China - als het een keer escaleert of uit de hand loopt. Dat is mijn angst. Maar nogmaals, ik gooi de deur niet meteen dicht. Ik schets alleen het dilemma. Ik zal verderop in mijn bijdrage laten zien dat je misschien wel onderscheid kunt maken tussen bepaalde autonome systemen. Misschien heb je het dan niet over alle autonome wapens, maar maak je daar toch een onderscheid in.

De heer Jasper van Dijk (SP):

Mag ik de heer Boswijk zo begrijpen dat hij zegt: autonome wapens zijn echt riskant; daar zou je goede regels voor moeten maken? Maar er is nu het gevaar dat andere landen dat aan hun laars lappen, dus hij is wat geduldig. Ik ben het toch wel zeer eens met mevrouw Belhaj. Het is toch aan beschaafde landen, om het zo maar te zeggen, om een norm te stellen en te zeggen: deze wapens vinden wij zo pervers dat wij afspraken willen maken om die te verbieden? Dat hebben we gedaan met clusterwapens, landmijnen en kernwapens. U wilt die verdragen toch ook niet opzeggen als iemand anders in de wereld zegt: ik wil ze wel gebruiken?

De heer Boswijk (CDA):

Nee. Ik ga nu eigenlijk alvast verder met mijn bijdrage. Het beeld dat wij van autonome wapens hebben, is dat van een soort halve terminator. Als jij die de grens over stuurt en Rusland dat richting Oekraïne zou doen, dan hebben we daar allemaal een hele stevige mening over. Maar ik vind het anders als ik bijvoorbeeld naar Israël kijk. Collega Belhaj noemde net het voorbeeld van de zwerm drones. Zulk soort aanvallen kun je als mens eigenlijk niet meer afslaan. Dan is het aantal doelen te groot, en de snelheid ook. Dan heb je hulp nodig van autonome wapens om die drones, die grote hoeveelheid drones, te kunnen onderscheppen. Wat betreft luchtverdediging op vaste plekken of op schepen kan ik mij prima voorstellen dat je zegt: daar staan wij wel bepaalde typen autonome wapens toe. Ik heb altijd een beetje een hekel aan het verschil tussen defensieve en offensieve wapens, want het is maar hoe je ze inzet. Maar ik begrijp dat je van wapens die je wat mobieler kan verrijden of verplaatsen, zegt: daar moeten we toch andere afspraken over maken. Ik kan mij zomaar voorstellen dat je daar ook nog een knip in kunt gaan maken.

De heer Jasper van Dijk (SP):

Maar begrijp ik u dan goed dat u zegt: ja, het zou heel goed zijn als afspraken op papier worden gezet over het gebruik van deze wapens? Het Rode Kruis zegt bijvoorbeeld: ze mogen nooit op menselijke doelen ingezet worden. Dat zou je ook als regel kunnen stellen. Zouden we daar dan niet een poging toe moeten doen? Ik bedoel dat Nederland met andere welwillende landen, zoals Brazilië, Mexico, België en Zwitserland, zegt: wij willen graag het initiatief nemen om goede afspraken te maken over deze wapens, die echt van deze tijd zijn.

De heer Boswijk (CDA):

Ik vind het goed dat we hier een debat over voeren, want het is echt een duidelijk dilemma wat betreft pragmatisme en principes. Waar leg je de balans? Ik vind het goed dat er een conferentie komt. Ik ben daar helemaal geen tegenstander van. Maar ik plaats daar de volgende kanttekening bij. Niks ten nadele van bijvoorbeeld Zwitserland, maar ik zie dat niet als een land dat op het wereldtoneel ... Het is sowieso geen NAVO-partner, dus ik hecht daar iets minder waarde aan. Als wij een stap zetten, een definitieve stap, of een handtekening onder een verdrag zetten, dan kan dat wat mij betreft alleen in NAVO-verband. Wij gaan binnen de NAVO het gesprek voeren. Nogmaals, ik hou een slag om de arm wat betreft met name defensieve autonome wapens. Ik vind het goed dat we daar het gesprek over voeren, maar ik wil echt nog steeds mijn handen vrijhouden. Ik vind dat we dit in NAVO-verband moeten doen. We moeten niet uiteindelijk zeggen: we hebben een conferentie georganiseerd; de NAVO vond het niks, maar Nederland vindt het geweldig.

De voorzitter:

Dank. U vervolgt uw betoog, meneer Boswijk.

De heer Boswijk (CDA):

Voorzitter. Regulering is nodig. Dat bepleiten AIV en CAVV. Waar Minister Kamp nog terughoudend was, zal het kabinet zich in internationaal verband inspannen voor een verbod en een concretisering van de regels die van toepassing zijn op het inzetten van autonome wapensystemen. Nederland pakt daarin een actieve rol. Wij vinden het goed dat we de dialoog voeren en dat het gesprek loopt, maar wij vinden het echt van belang dat we dit binnen NAVO-verband doen en dat wij als Nederland niet opeens voorop gaan lopen en de rest van de NAVO afhaakt.

Dat is mijn betoog, voorzitter. Mijn collega's hebben alles al gevraagd.

De voorzitter:

Hartstikke goed. Dank u wel. Dan ga ik kortstondig het voorzitterschap overdragen aan collega Van Dijk, zodat ik mijn betoog kan afdraaien.

Voorzitter: Jasper van Dijk

De voorzitter:

Daarmee geef ik het woord aan de heer Valstar van de VVD.

De heer Valstar (VVD):

Dank, waarde voorzitter. Dank aan de collega's van D66, die dit debat hebben aangevraagd. Het voelt tegelijkertijd wel wat surreëel om vandaag de dag te spreken over autonome wapens, terwijl de nucleaire dreiging aan de oostgrens met de dag toeneemt. Over nucleaire wapens heeft de wereld in het verleden geprobeerd afspraken te maken, die later overigens met een pennenstreek van tafel werden geveegd door militaire grootmachten zoals de VS en Rusland.

Laat ik mij vandaag beperken tot de autonome wapens. Wat de VVD betreft dient Nederland het oorlogsrecht te volgen en waar nodig de ontwikkeling te stimuleren. Zo zijn semiautonome wapens in sommige gevallen noodzakelijk voor effectieve verdediging van ons land. Waar het om veiligheid van onszelf en onze bondgenoten gaat, dient reguleren en stimuleren op een verstandige wijze te gebeuren. Zo zouden wij terughoudend moeten zijn met het creëren van wet- en regelgeving die niet breed gedragen wordt door onze bondgenoten en die niet op een verifieerbare wijze geldt voor mogelijke tegenstanders. Dit komt ook overeen met hoe wij bijvoorbeeld aankijken tegen nucleaire ontwapening. Voorzitter. Ik kom op de internationale samenwerking. Ik wil het kabinet vragen wat er is gebeurd met de motie-Van Wijngaarden die wij eind vorig jaar aannamen. Ik zie in de kabinetsreactie op het AIV-advies weinig terug van de gevraagde nauwe samenwerking met de NAVO-partners. Ik wil weten hoe het kabinetsstandpunt zich verhoudt tot dat van andere NAVO-landen. Ik wil ook de toezegging dat Nederland geen standpunten gaat innemen in internationale gremia, met name rond de CCW, die niet breed gedragen zijn binnen de NAVO. Dat is niet in de laatste plaats omdat de CCW nu vooral gaat om beperkte categorieën van duidelijk te identificeren wapens, terwijl autonomie en kunstmatige intelligente een veel breder gebruik hebben, ook dual-use. Graag een reactie van het kabinet.

Daarnaast wil ik graag duidelijkheid over hoeveel licht er zit tussen enerzijds het kabinetsstandpunt dat er voor een verbod vooral bestaande rechtsregels geconcretiseerd moeten worden en anderzijds het standpunt van enkele ngo's en een coalitie van enkele tientallen landen die zich al hebben uitgesproken voor een verbod. Bij die laatste groep zitten overigens bar weinig NAVO- of EU-partners, dus ik wil van het kabinet de toezegging dat het zich niet uitspreekt voor een verbod voordat er nader overleg met de Kamer heeft plaatsgevonden en voordat duidelijk is welke wapensystemen of ontwikkelingen, zoals verdediging tegen hypersone raketten en in de toekomst wellicht ook andere wapensystemen, zoals verdediging van onderzee-infrastructuur via onderwaterdrones, onder een dergelijk verbod zouden kunnen gaan vallen. Het kan niet zo zijn dat wij vanuit vermeende morele superioriteit bepaalde wapens gaan verbieden en dan bijvoorbeeld wel van de Amerikanen verwachten dat zij ons met die wapens tegen de Russen of Chinezen gaan beschermen. Graag een reactie van het kabinet.

Tot slot, voorzitter. Ik wil het belang benadrukken van verificatie, want het heeft weinig zin om onszelf allerlei beperkingen op te leggen als we niet weten of anderen zich daar ook aan gaan houden. Daarom wil ik de toezegging van het kabinet dat de regels verdergaan dan een verduidelijking van de bestaande regels ter voorkoming van de ontwikkeling, gereedheid en inzet van wapens die naar hun aard niet kunnen voldoen aan humanitair oorlogsrecht. Binnen de afspraken moet worden voorzien in verificatiemechanismes, waar ook mogelijke tegenstanders zich aan onderwerpen. Graag een reactie van het kabinet.

Daarmee ben ik aan het einde gekomen van mijn betoog.

Mevrouw Belhaj (D66):

Voordat ik naar dit debat ging, dacht ik: honing, honing. Ik bedoel daarmee dat ik niet zozeer mensen wil overtuigen, maar ze wel wil verleiden om een stap verder te zetten. Ik begrijp de voorzichtigheid van zowel het CDA als de VVD. Ik snap dat ideologisch gezien ook, maar bij de heer Valstar proef ik zo veel voorzichtigheid dat ik denk: wil de VVD dit überhaupt wel? Laat ik het anders formuleren: is er, los van alle mitsen en maren, wel de wens om iets te doen? Is die wens er überhaupt? Laat ik het zo formuleren.

De heer Valstar (VVD):

Dat zit 'm in de geschiedenis en in alle lessen die we uit de geschiedenis, ook de recente geschiedenis, kunnen trekken. Ik heb het dan bijvoorbeeld over de nucleaire wapenwedloop die momenteel aan de gang is. Ik vind dat we niet te naïef kunnen zijn op dat vlak. Er zijn momenteel landen op de wereld die hun handtekening niet hebben gezet onder de CCW. Een opvallend voorbeeld is China. Dat heeft wel zijn handtekening eronder gezet, maar het heeft er ook bij gezet dat dat alleen geldt voor het gebruik ervan. Ja, dank je de koekoek! Dan kunnen zij natuurlijk van alles gaan ontwerpen en moeten wij het gebruik daarvan in de praktijk afwachten. Ik vind niet dat we zo naïef kunnen zijn en dat we daarop vooruit kunnen gaan lopen.

Mevrouw Belhaj (D66):

Ik vind het altijd naïef als je niet uitgaat van de situatie die je zelf kunt creëren om hele erge dingen te voorkomen. Clustermunitie is ook een prachtig voorbeeld. Daarover zeggen we ook met elkaar: we gaan er gewoon voor; we gaan alles op alles zetten om andere landen hiervan te overtuigen. We hebben uiteindelijk heel veel mogelijkheden om landen te dwingen om zulke wapens niet te produceren of te gebruiken. Onze buitenlandwoordvoerders doen niet anders dan allerlei instrumenten bespreken, zoals persoonlijke sancties, bredere sancties en het niet sluiten of anders sluiten van handelsakkoorden. Je hebt een veel groter instrumentarium om grote landen op hun knieën te brengen dan alleen te zeggen: als zij zich er niet aan houden, doen wij het ook niet. Of heeft u er geen vertrouwen in dat andere instrumenten ook heel functioneel kunnen zijn?

De heer Valstar (VVD):

Ik gaf net al aan dat ik vind dat we daar niet naïef in moeten zijn. Ik hoorde u net zeggen dat we met elkaar hebben afgesproken dat we geen clustermunitie of nucleaire wapens meer zullen produceren, maar volgens mij hebben we die nooit geproduceerd. We produceren momenteel ook nog geen autonome wapens. Ik vind het prima als de NAVO in gezamenlijkheid besluit om daar regels over af te spreken, maar dan moet ook de NAVO bij zichzelf te rade gaan en zich afvragen of ze dat wil in de huidige tijdsgeest. We kunnen als NAVO wel met elkaar besluiten om allerlei regels af te spreken over autonome wapens, maar als we vervolgens links en rechts worden ingehaald door onze vijanden, dan is dat niet de toekomst die ik wil meemaken.

Mevrouw Belhaj (D66):

Voorzitter, ik begrijp dat u wilt dat ik het voorzitterschap even overneem. Voor de duidelijkheid: we hebben het over volledig autonome wapensystemen, want semiautonome wapensystemen worden wel geproduceerd in Nederland en daar zijn we ook heel trots op. Ik noem de Goalkeeper. Het gaat hier over volledig autonoom. Ik hoor de heer Valstar «zeker» zeggen. Ik begrijp dat de heer Van Dijk het voorzitterschap aan mij wil overdragen en ervan uitgaat dat hij dan ook het woord krijgt.

De voorzitter:

Ik wil inderdaad graag een vraag stellen, als u dat goedvindt.

Voorzitter: Belhaj

De heer Jasper van Dijk (SP):

Hoe kijkt de heer Valstar naar het oorlogsrecht en naar de twee adviescommissies die zeggen dat volledig autonome wapens niet in overeenstemming zijn met het oorlogsrecht? Volgens mij is de VVD ook een staatsrechtelijke partij, die aan dat soort zaken waarde hecht. We zijn geen Rusland, we zijn geen Poetin en we zijn geen China. Hoe gaat u zich onderscheiden?

De heer Valstar (VVD):

Als de heer Van Dijk goed naar mijn betoog had geluisterd, dan had hij een van mijn eerste zinnen gehoord, namelijk dat de VVD van mening is dat Nederland het oorlogsrecht dient te volgen. Maar tegelijkertijd moeten we ook de ontwikkelingen nauwgezet volgen. We moeten niet naïever zijn dan landen als China en Rusland. Ik heb ook het voorbeeld aangehaald van de nucleaire oorlog ... Nou, laat ik nog niet spreken van een nucleaire oorlog. Maar de nucleaire dreiging neemt wel met de dag toe. Dus ja, het oorlogsrecht is leidend, maar we moeten tegelijkertijd ook oog hebben voor de realiteit.

De heer Jasper van Dijk (SP):

Maar dat gaat natuurlijk niet samen. Als het oorlogsrecht leidend is in het debat van vandaag, zou u moeten zeggen: volledig autonome wapens zouden verboden moeten worden en daarover zouden we een verdrag moeten maken. Dan zou u ons moeten steunen.

De heer Valstar (VVD):

Ja, in een ideale wereld, waar er overal ter wereld vrede is en waar geen nucleaire wapens, geen clustermunitie en geen autonome wapens zijn.

Dat zou fantastisch zijn. Waar kan ik mijn handtekening zetten? Maar dat is momenteel niet de wereld waarin we leven.

De heer Jasper van Dijk (SP):

Ik zeg helemaal niet dat we in een ideale wereld leven. Dat komt ooit nog weleens. Maar we hebben toch een verdrag over clusterwapens, over landmijnen en over kernwapens? Er zijn inderdaad landen die zich daar niet altijd aan houden, maar waar staat de VVD? Staat u voor het oorlogsrecht of zegt u: nee, dat hoeft niet, want andere landen doen dat ook niet?

De voorzitter:

Tot slot, meneer Valstar.

De heer Valstar (VVD):

Ik sta zeker voor het oorlogsrecht. Ik begrijp niet zo goed wat ik nog een keer moet herhalen uit mijn vorige betoog. De realiteit is momenteel anders. De nucleaire dreiging neemt toe, dus de NAVO heeft niet de luxe om zich volledig terug te trekken in haar schulp en hier eigenstandig afspraken over te maken, terwijl de rest van de wereld ons links en rechts inhaalt.

De voorzitter:

Ik proef hoop. Ik geef het voorzitterschap terug aan de heer Valstar. Tenminste, als hij klaar was met zijn betoog.

Voorzitter: Valstar

De voorzitter:

Dank. Daarmee komt een einde aan de eerste termijn van de zijde van de Tweede Kamer. Ik kijk even naar mijn rechterzijde. Hoeveel tijd denken de bewindslieden nodig te hebben? Of hebben zij geen tijd nodig en kunnen zij gelijk door?

Minister Hoekstra:

Bij voorkeur doen we altijd dat laatste, maar omdat er ook nog mensen naar beneden moeten lopen, doe ik het verzoek om een kwartiertje te schorsen.

De voorzitter:

Ik gun u bij dezen een kwartier de tijd. We komen terug om 16.45 uur.

De vergadering wordt van 16.32 uur tot 16.44 uur geschorst.

De voorzitter:

Ik zou het woord aan de Minister van Buitenlandse Zaken willen geven voor de beantwoording van het kabinet in eerste termijn.

Minister Hoekstra:

Voorzitter, veel dank. Het is staatsrechtelijk niet aan mij om mensen hier welkom te heten, maar ik zou toch willen zeggen dat ik het bijzonder vind dat de heer Maduro hier bij ons is, niet alleen omdat dat de sterke band tussen de verschillende onderdelen van het Koninkrijk laat zien, maar ook omdat iedereen die de geschiedenis van Curagao en Nederland een beetje kent, en die ook de geschiedenis van het verzet kent, niet anders kan dan deze naam met het grootst mogelijke respect uitspreken. Ik ben verguld dat hij hier bij ons is.

Voorzitter. Ik wil de leden van de Kamer - dat doe ik ten volle ook mede namens de Minister van Defensie - bedanken voor de gelegenheid om juist over dit onderwerp van gedachten te wisselen. Ik realiseer me zeer dat er allerlei onderwerpen zijn die zich politiek nog meer lenen voor de actualiteit, voor de korte termijn en voor andere dingen die in de politiek nou eenmaal van belang zijn. Maar dit gaat niet over een kleinigheid. Dit gaat over een groot en potentieel zeer ontwrichtend onderwerp dat nog heel erg lang bij ons zal blijven, is mijn inschatting. Dat rechtvaardigt de aandacht vanuit de Kamer en het kabinet. Het is ook vergeven van dilemma's; volgens mij zeiden vrijwel alle woordvoerders dat ook. Ik ga de vragen uiteraard beantwoorden, maar ik zal bij een aantal onderwerpen ook gewoon aangeven dat het een dilemma is waaraan we in de toekomst nog werk zullen hebben. Ik zal me met name op het internatio-naalpolitieke richten. De Minister van Defensie zal zich vanzelfsprekend vooral richten op wat bij haar portefeuille hoort. We denken dat we daarmee het hele veld kaal kunnen grazen. Lukt dat niet, dan doen we dat alsnog in tweede termijn.

Voorzitter. Ik begin met het namens het kabinet uitspreken van een dilemma. Dat dilemma is ook onderkend en ligt eigenlijk ten grondslag aan deze discussie, namelijk: wat waar is voor technologie, is nog veel meer waar voor dit type technologie in het militaire domein. Ik ben nog steeds een beetje onder de indruk van wat ik bij de Radboud Universiteit eerder deze week allemaal heb gehoord over artificial intelligence in het militaire domein. Ja, de technologie biedt ons, de mensheid, enorme mogelijkheden, maar van oudsher horen bij vernieuwing en technologische mogelijkheden ook altijd risico's. Net als bij eerdere dossiers op het gebied van wapens gelden die risico's en potentiële ontwrichting hier ook. Ik moet er wel aan toevoegen dat er nog heel veel onduidelijk is, ook voor de experts. Er kwamen een aantal voorbeelden langs, bijvoorbeeld van onderwaterdrones. Gevraagd werd hoe dit er in de toekomst uit zal zien. Ik zou de volgende stelling wel aandurven: meer nog dan op sommige van die eerdere dossiers, zoals het nucleaire dossier, is het op dit moment best moeilijk te voorspellen hoe dit precies gaat eindigen en welke varianten we hierbij allemaal te zien krijgen. Dat is dus een enorm dilemma.

Een volgende vraag van een deel van de leden was wat je dan moet doen. Moet je dan helemaal kiezen voor de kant van het verbod? Of moet je alles maar op zijn beloop laten omdat je er toch geen invloed op hebt? Volgens mij zou het en-en moeten zijn. Het moet realistisch zijn over de wereld waarin wij leven. We moeten accepteren dat de wereld niet is zoals we zouden willen dat die is. We moeten dus accepteren dat de wereld is zoals we die aantreffen. De wereld is een onveilige plaats. Er wordt gedreigd, ook met de meest afschrikwekkende wapens, en een heleboel landen op de wereld zien er geen been in om ook hierin een verdere voorsprong te nemen. Reken maar dat ze dan de bereidheid zullen hebben om daar in ieder geval mee te dreigen en mogelijk ook om dat in te zetten. Daar moet je gewoon realistisch over zijn. Dat bepaalt ook in belangrijke mate de koers van het kabinet. Ik kom zo meteen nog terug op een aantal specifieke vragen.

De andere kant is ook waar. Als je dit ziet als een potentieel belangrijke bedreiging, als iets wat heel ontwrichtend is, dan ben je het ook aan je stand verplicht om daar werk van te maken. Vervolgens is natuurlijk de vraag hoe je dat op een effectieve manier doet. Dat was ook een volgende vraag van een aantal leden. Het kabinet is van mening dat dat met afstand het meest effectief kan met gelijkgezinde landen, juist in VN/CCW-verband. Waarom? Omdat, hoe moeilijk ook, dat uiteindelijk toch de plek is waar je het eens zou moeten worden. Je kan daar een theologische discussie over voeren. Ben je voor of tegen een verbod? Je zou graag willen dat hier uiteindelijk regulering op plaatsvindt en dat er een verbod is op totaal autonome wapens die ingaan tegen het internationaal recht. Daarbij moet je overigens wel aantekenen - daar moet je ook reëel in zijn - dat dat alleen maar zin heeft als vrijwel alles en iedereen op de wereld dat wil onderschrijven en als je dat bovendien niet alleen op de tekentafel hebt gerealiseerd, maar het ook in de praktijk verifieerbaar en nakoombaar is. Dat ben ik met sommige van de woordvoerders eens. Dat wordt natuurlijk snel ingewikkeld. Dat betekent dat je een heel palet aan uitdagingen hebt. Maar ik ben het wel zeer eens met degenen die zeiden

• - 

  dat zei volgens mij bijna iedereen - dat het feit dat het moeilijk is, je niet van de plicht ontslaat om ermee te beginnen en om het wel degelijk te proberen. Daar ben ik het zeer mee eens.

Mevrouw Belhaj (D66):

Ik voer niet vaak een debat met Minister Hoekstra, dus ik merk dat ik heel erg moet opletten op wat de Minister zegt. Ik was in de veronderstelling

• - 

  misschien kan hij dat bevestigen - dat het kabinet zich gaat inspannen voor een verbod op volledig autonome wapens en voor een concretisering van de regels voor de inzet van gedeeltelijk autonome wapens. Dat is natuurlijk wat anders dan de vraag over het hoe en over wat het meest effectief is. De Minister verandert hier toch niet het standpunt van het kabinet?

Minister Hoekstra:

Nee. Overigens hebben ook de leden die vaak met mij in gesprek zijn, dat gevoel. Laat hierover dus geen enkel misverstand bestaan. Dat is vanzelfsprekend niet zo, maar ik vind wel dat we alle onderdelen van het dilemma in alle eerlijkheid moeten benoemen. Dat moet u mij vergeven. Tegen degenen die zich zien als de realistische school zeg ik: ik ga toch aan de andere kant hangen; het is wel degelijk nodig om te proberen om hier voortgang op te maken. En aan degenen die zeggen «laten we alsjeblieft voor een verbod gaan, ook al is het met een klein gremium», zal ik uitleggen waarom ik denk dat dat niet effectief is. Ik wil het hele palet aan dilemma's schetsen. Waarom? Omdat het niet goed voorstelbaar is dat je tot overeenstemming komt in de VN als een aantal lidstaten daar niet aan mee wil doen of als je geen afspraken maakt over hoe je het in de praktijk gaat controleren.

Mevrouw Belhaj (D66):

Ik ben altijd gevoelig voor dilemma's, maar op een gegeven moment moet je uit je twijfelmodus komen, omdat de urgentie al jarenlang evident is. De Minister zegt: wat is effectief? De CCW heeft aangetoond niet effectief te kunnen zijn. Op een gegeven moment moet je het afwegen. Stel dat je nog niks had geprobeerd. Dan had ik de Minister helemaal gelijk gegeven en gezegd: «Bewandel die route. Dat is heel logisch. Probeer eruit te komen.» Maar we zijn inmiddels jaren verder en het gaat gewoon door, dus waar baseert de Minister zijn uitspraak op dat we nog op zoek moeten naar een effectieve manier? Deze manier is niet effectief gebleken. Als je zegt dat je je ervoor gaat inzetten - dat is iets anders dan proberen, want proberen is eigenlijk niks - dan is het toch een logische route om dat samen met de NAVO-landen te doen en om daar als Nederland in voorop te lopen? Daarom deed ik een persoonlijk appel aan u. Dat kunt u toch gewoon doen?

Minister Hoekstra:

Er zijn een paar nuances. Je probeert nooit iets zonder inspanning, dus Nederland spant zich daar vanzelfsprekend voor in. Ik ben het er ook helemaal mee eens dat dit geen makkelijke wedstrijd is. Het is niet makkelijk om dit binnen VN-verband voor elkaar te krijgen, maar ik ben het zeer eens met iedereen die zegt: dit is potentieel zo ontwrichtend dat je het toch moet proberen. Het kabinet, de Minister van Defensie en ik in het bijzonder, heeft de verplichting om dat te proberen. Maar ik wil ook realistisch zijn over wat wij op dit moment aan respons hebben gekregen. Het klinkt misschien paradoxaal, maar het zou kunnen dat de verschrikkingen van de afgelopen maanden een impuls geven aan de internationale gemeenschap om wél dit type gesprek aan te gaan. We zien nu allemaal dat veel van de dreigingen uit het verleden niet meer tot het verleden behoren.

De voorzitter:

Een laatste interruptie op dit punt van mevrouw Belhaj.

Mevrouw Belhaj (D66):

Ik zie dit niet echt als een interruptie, want ik vroeg: loop nou voorop binnen NAVO-verband. U heeft het over de VN, maar ik heb het over de NAVO. Dat is een beetje de consensus in deze Kamer. Daar kan iedereen zich in vinden. Vooroplopen betekent: een conferentie organiseren, landen verleiden, proberen om een of twee landen in je kamp te krijgen en wheelen en dealen op andere onderdelen. Dat hoor ik niet, maar dat is wel mijn vraag. Wilt u alstublieft binnen NAVO-verband actiegericht te werk gaan om te proberen om die landen te overtuigen?

Minister Hoekstra:

Maar het onderscheid is, als ik heel eerlijk ben, bijna theoretisch, omdat het in belangrijke mate om dezelfde landen gaat. Want met wie trekken we in de VN het meeste op? Met Frankrijk, met Duitsland, met Spanje, en ik meen met Finland. En dat probleem is, als het om de NAVO gaat, binnenkort hopelijk ook opgelost. Ik ben het hierover graag eens met mevrouw Belhaj. Als er een misverstand is over de behoefte van het kabinet om zich hiervoor in te spannen, dan zou ik dat misverstand echt willen wegnemen. Ik, het ministerie, de Minister van Defensie, wij allemaal zijn zeer, zeer doordrongen van de noodzaak om hier wat aan te doen, hoewel het zeer ingewikkeld is. Dat bleek ook deze week weer, maar ook toen we er in de afgelopen weken en maanden met elkaar over hebben gesproken. Ik vind het echter ook mijn taak om hier in de Kamer te schetsen wat ik denk dat realistisch is. Ik kom zo meteen nog op die conferentie, maar luisterend naar de Kamer dacht ik bijna dat het idee zou bestaan dat Nederland het op die conferentie in februari wel half zal hebben opgelost. We gaan niet een heel klein beetje, niet een ietsiepietsie daarbij in de buurt komen. Dat is de realiteit. Ik vind het ook mijn taak om dat te schetsen, hoezeer ik het ook eens ben met de grondhouding van mevrouw Belhaj.

De heer Jasper van Dijk (SP):

Ik probeer wel te begrijpen welke inspanning de Minister precies gaat leveren. Hij zegt: proberen is inspannen. Daar ben ik het mee eens. Waar kunnen we de Minister op afrekenen? Dat is eigenlijk mijn vraag. Gaat hij binnen of buiten die CCW een poging doen om tot afspraken te komen?

Op welke termijn kunnen we iets van hem horen?

Minister Hoekstra:

Ik vind het een levensgevaarlijke vraag. Dat is ook echt aan de heer Van Dijk, want daar heeft hij mijn inschatting niet voor nodig. We hebben natuurlijk niet voor niks gezegd: laten we een conferentie organiseren over AI in the military, kunstmatige intelligentie in het militaire domein.

Dat leefde al breder in het ministerie voordat ik begon, is mijn sterke indruk. Waarom? Het is niet exact hetzelfde als dit, maar het heeft heel veel met elkaar te maken. Er is een belangrijke overlap. Natuurlijk hebben we ook het gesprek met elkaar gehad over de vraag of mensen hier überhaupt nog in geïnteresseerd zijn, gegeven de oorlog in Oekraïne.

Onze gedachte is dat we dit onderwerp, juist nu we ons weer bewust zijn van de verschrikkingen van oorlog en ook van nucleaire dreigementen, wel bij de hoorns moeten pakken. Daarom gaan we die conferentie organiseren. Daarom ga ik ook door met dit thema. Ook als ik het niet zou beloven, gaat de Kamer mij er ongetwijfeld bij herhaling op bevragen. Zo ken ik de Kamer ook. Ik zal het ook onderdeel maken van veel van de gesprekken die ik voer, én - niet «maar» - ik wil realistisch zijn over het enthousiasme, of het gebrek daaraan, bij veel gesprekspartners.

De voorzitter:

Een verzoek om geen levensgevaarlijke vragen meer te stellen, want dan ...

De heer Jasper van Dijk (SP):

Als de Minister nou toezegt dat hij zich hard gaat maken voor zo'n mooi verdrag, ga ik geen gevaarlijke vragen meer stellen. Het is mij niet helemaal duidelijk of dit hieruit blijkt. Ik zit er echt even op te broeden: moeten we hier een motie over indienen, of kan de Minister mij geruststellen en zeggen dat hij zich echt tot het uiterste gaat inspannen om tot goede afspraken te komen?

Minister Hoekstra:

Moties zijn überhaupt zelden nodig, maar helemaal niet om de Minister van Defensie en mij nog tot meer enthousiasme aan te sporen. Maar dat is aan de heer Van Dijk. Laat ik echt één ding zeggen: ik zei net niet toevallig dat wij het belangrijk vinden dat wij dit debat hebben. Hoeveel internationale conferenties organiseer je in een jaar? Dit jaar doen we er één, en ik denk dat we er volgend jaar ook één doen. Die doen we over dit onderwerp. Die doen we over dit onderwerp, omdat we ons daar grote zorgen over maken, omdat het onder de radar zit, maar potentieel heel grote gevolgen heeft voor de vrede en veiligheid in de wereld, en omdat we daar als Nederland ook een leidende rol in willen spelen. Anders organiseer je het niet, of organiseer je het over wat anders. Dus ik hoop ook echt dat daar het commitment van het kabinet uit spreekt. We zullen dat uiteraard in bilaterale gesprekken en andere gremia onder de aandacht blijven brengen.

De voorzitter:

De Minister vervolgt zijn betoog.

Minister Hoekstra:

Voorzitter, ik heb wel de interrupties gebruikt om nog een aantal andere vragen te beantwoorden. De vraag van de heer Boswijk en de heer Valstar over de NAVO en die groep landen heb ik net beantwoord. Ik had daar overigens nog Noorwegen, Zweden en Italië aan moeten toevoegen, zie ik hier. Dat sluit ook weer aan bij het betoog van mevrouw Belhaj over de overlap tussen NAVO en VN.

Hoe kijken we dan naar zo'n verbod en naar regulering? Ik zei net al dat het dan gaat om volledig autonome wapens die ook in strijd zijn met het internationale recht. Zoals ik het begrijp, gaat het ook om systemen waar geen menselijk oordeelsvermogen meer aan te pas komt. Daarom heb je hier ook experts bij nodig. Er zijn heel veel discussies tussen experts over de vraag op welk moment in de keten dat er zou moeten zijn. Bij welke casuïstiek moet het aan de voorkant, waar moet het vlak voor een echte gevechtshandeling, waar moet het beide? Ik zou van die casuïstiek weg willen blijven, maar ik vind wel dat we dit gesprek echt met meer experts, ethici en anderen, te voeren hebben. Er is nog heel veel wat we niet precies weten. Dit is in veel opzichten gewoon terra incognita.

Voorzitter. De heer Van Dijk zei nog dat een mens nooit het doelwit mag zijn. Volgens mij ligt het net anders. We moeten ook hier aansluiten bij het oorlogsrecht. Daarin is specifiek het onderscheid tussen combattanten en niet-combattanten geregeld. Het gaat ook over proportionaliteit. Ik vind dat we daarbij moeten aansluiten. Dat lijkt mij de meest logische weg.

De heer Boswijk onderschreef nog het grote belang van in breder verband optrekken. Ik hoop dat ik voldoende aannemelijk heb gemaakt dat dit ook precies is wat we willen doen. Ik ben het ook zeer eens met de nadruk die hij en de heer Valstar legden bij de noodzaak om je te verdedigen. Analogieën gaan altijd mank. Maar neem toch even het nucleaire domein. Het kabinet is zeer voorstander van een kernwapenvrije wereld. Maar stel nou eens dat de NAVO geen kernwapens had gehad en andere partijen wel. Had dat dan geleid tot militaire chantage? Ja, ik denk dat we allemaal bijna zeker weten wat daarop het antwoord was geweest. Die kant zit er dus ook aan.

De heer Valstar vroeg nog hoe het kabinet kijkt naar de stellingname van ngo's. Wij waarderen zeer de waardevolle bijdrage van PAX, het Rode Kruis en anderen. We willen uiteindelijk ook hetzelfde doel bereiken. Ik heb net al iets gezegd over een verbod, maar dat geldt ook voor afspraken en regulering. Wij kiezen wel een andere weg, want wij kiezen nadrukkelijk voor de weg via CCW en VN, om de redenen die ik net uiteen heb gezet. Ben ik het met mevrouw Belhaj eens dat de oorlog de nood voor actie alleen maar urgenter maakt? Ja, daar ben ik het zeer mee eens. Nu gaat het er weer heel nadrukkelijk over. We zien nu hoe verschrikkelijk een oorlog is. Ik kijk even de tafel rond: zeker onze generatie zou dat bijna vergeten. Maar dat is wat je hoort van mensen die het wel hebben meegemaakt, of het nou civilisten of militairen zijn. Zij weten altijd weer uit te leggen hoe verschrikkelijk het is voor degenen die het meemaken. Ik heb er natuurlijk geen enkele garantie voor, maar ik zou hopen dat het inspireert tot afspraken. Het motiveert ons in ieder geval om dat te doen. Dan een vraag van mevrouw Belhaj en de heer Van Dijk: hoe kan je dit nou wel of niet vervlechten in de conferentie? Het zijn namelijk dingen die erg op elkaar lijken en tegelijkertijd voor een deel ook weer anders zijn. Er werd mij nog even ingefluisterd dat hier ook op andere plekken al over geconfereerd wordt. Laat ik het als volgt formuleren. Ik heb een positieve grondhouding, maar ik wil even kijken naar het hoe, ook omdat zo'n conferentie, zeker als we die uiteindelijk voor politici zouden gaan organiseren, meestal maar een dag is. Ik wil er dus nog even naar kijken hoe we er precies vorm aan zullen geven, wat wel en niet kan en hoe je het op een verstandige manier doet. Ik snap heel goed dat er een link gelegd wordt. Ik zal ook zorgen dat de Kamer bijtijds geïnformeerd wordt over die conferentie, over wat we van plan zijn, over hoe we dat willen aanpakken en over wat we hopen te bereiken. Ik zeg het nogmaals: overigens zonder enigszins de illusie te hebben dat die conferentie alleen een doorbraak zal zijn. Het is wel een nadrukkelijk signaal van Nederland dat wij dit belangrijk vinden en het op de agenda willen houden. Hopelijk kunnen we er een paar vervolgstappen over afspreken.

Mevrouw Belhaj (D66):

Een kleine praktische vraag, voorzitter.

De voorzitter:

Een praktische vraag van mevrouw Belhaj.

Mevrouw Belhaj (D66):

Een toezegging of belofte aan de Kamer wordt niet opgeschreven als er geen datum aan verbonden is. Ik heb het niet verzonnen, maar het is wel zo. Ik kan zeggen dat ik u gewoon op uw woord geloof, maar als u een willekeurige datum roept, vergeten we het niet. Ik kan me dat overigens niet voorstellen, maar toch.

De voorzitter:

De Minister kan allicht de datum van de conferentie noemen.

Minister Hoekstra:

Ja, zeker. De conferentie is medio februari. Het is de dag voor de Münchner Sicherheitskonferenz. Dat betekent dat het mij redelijk lijkt dat ik bij wijze van spreken zes weken van tevoren nog een keer aan de Kamer laat weten hoe en wat. Dan heeft men ook nog gelegenheid mij daarover te tuchtigen, zou dat niet bevallen.

De voorzitter:

Wij gaan hier een mooie toezegging uit extraheren.

Minister Hoekstra:

Ik moet wel wennen aan dat mooie goudgerande zinnetje van mevrouw Belhaj over dat D66 nooit iemand iets zou willen opleggen, want tot nu toe voelt het toch anders. Minister Ollongren en ik zijn het merkwaardig vaak eens, maar zouden we het ooit nog oneens geraken, dan ga ik dat zinnetje onmiddellijk van stal halen.

De voorzitter:

De ervaring van de heer Boswijk en ondergetekende is soms anders. Vervolgt u uw betoog.

Minister Hoekstra:

Ik heb een heleboel vragen behandeld. We waren gebleven bij het gebruiken van de conferentie. Het punt over een zelfstandig verbods-verdrag hebben we denk ik voldoende besproken, ook gegeven de risico's. De vraag van de heer Boswijk over de NAVO hebben we beantwoord.

Voorzitter. Dan ben ik, denk ik, een heel eind. Ik kijk nog even wat ik hier heb. Misschien nog het volgende. Ik heb mevrouw Belhaj zo begrepen dat zij nu vast nog breder wil horen waar die conferentie over gaat. Daar gaat het thans over de bredere risico's en kansen van AI op het militaire terrein. Ook hier ligt weer een kans, maar er zijn ook grote risico's. Die dialoog kan bouwstenen opleveren. Ik zorg dat uiterlijk zes weken van tevoren duidelijkheid is over wat we precies op die conferentie gaan bespreken.

De voorzitter:

Dank. Ik begrijp dat u nog meer heeft?

Minister Hoekstra:

Ik ben er volgens mij doorheen, voorzitter. Dank u wel.

De voorzitter:

Uitstekend. Dan geef ik het woord aan de Minister van Defensie.

Minister Ollongren:

Dank u wel, voorzitter. Ook ik wil graag de Kamer en de commissie bedanken voor het agenderen van dit belangrijke onderwerp. Ik denk dat het heel goed is dat we, zoals collega Hoekstra net zei, daarbij stilstaan. Juist ook in de hectiek van het hier en nu, de geopolitieke ontwikkelingen en de machtsverhoudingen die zo aan het veranderen zijn. Die hebben ons zo met de neus op de feiten gedrukt dat we ook onszelf daaraan moeten aanpassen. Nederland en Europa moeten zich echt toerusten op die nieuwe werkelijkheid.

Ik vind het ook mooi, als ik dat mag zeggen, dat mevrouw Belhaj haar oude portefeuille heeft opgepakt, of beter gezegd: die heeft ze denk ik nooit losgelaten. De rest van de portefeuille is, geloof ik, naar een collega gegaan, maar ze is in ons midden omdat het haar aan het hart gaat. Dat weten we, omdat ze ook een initiatiefnota hierover had ingediend, waarover inderdaad al in de demissionaire periode, meen ik, met mijn voorganger is gesproken.

Waardering dus voor alle aanwezigen en ook niet-aanwezigen, want de heer Van Dijk heeft zijn inbreng ook namens de Partij van de Arbeid gehouden. Ik heb echt niets kunnen ontwaren in zijn inbreng wat een enorme afzwakking was ten opzichte van hoe ik hem normaal gesproken hoor. Blijkbaar zitten de SP en de Partij van de Arbeid op dit punt dus redelijk op één lijn. Ik dacht even dat het slechts het pacifistisch deel van de Partij van de Arbeid was, maar volgens mij is dat goed gelukt. Voorzitter. Ik zei al dat het een belangrijk onderwerp is. Ik ga dingen zeggen die u ook hebt gezegd. Ik wil toch even gemarkeerd hebben dat we zien dat de overzichtelijkheid van de marine, de luchtmacht en de landmacht niet meer bestaat. Dat zien we ook in de oorlog die nu gaande is en in alle dreigingen die we in de wereld op ons af zien komen. Die oorlog is ook hybride. Die wordt ook in het cyberdomein gevoerd en speelt zich ook af in de ruimte. We hebben al langer te maken met desinformatie. De wijze van ontwikkeling van conflicten en ook van oorlog is gewoon anders. Wetenschap en technologie kunnen steeds meer het verschil maken, ook tussen winnen en verliezen.

Bovendien schrijden de wetenschap, de techniek en de wetenschappelijke en technologische inzichten ook voort. Dat gebeurt gewoon, of wij het willen of niet. We moeten dus heel goed weten wat de ontwikkelingen zijn en wat andere landen, statelijke actoren, daarmee kunnen doen. Het gaat dan met name om de landen die wij assertief noemen en die zich soms agressief ontpoppen. Daartegen moeten we ons tenslotte verdedigen. We moeten dus heel goed weten wat er gebeurt. Een van de investeringen die het Ministerie van Defensie gaat doen, is de volgende. We innoveren en investeren op het gebied van technologische kennis en zorgen dat wij ook als technologisch hoogwaardige organisatie die kennis in huis hebben, zodat we kunnen inspelen op die ontwikkelingen. Als je niet weet wat er gebeurt, dan kun je er ook niet op inspelen. Ik loop even een aantal punten langs.

De heer Van Dijk had het over de langeafstandsoorlog. Hij noemde een aantal wapensystemen die helemaal niet in het autonome veld vallen, zoals de F-16 en de Reaper. Dat zijn geen autonome en ook geen semiautonome systemen; ze worden gewoon door de mens bestuurd, in het geval van de Reaper op afstand. Hij noemde het als een risico, omdat het dan makkelijker zou zijn om oorlog te voeren. Ik wil dit één keer zeggen: we hebben natuurlijk geen andere ethische of juridische kaders voor langeafstandsoorlogvoering. Dat valt onder precies dezelfde ethische en juridische kaders en waarborgen. Dat is echt niet anders dan de systemen die een wat kortere dracht en een wat directere impact hebben. Het is natuurlijk wel een goed voorbeeld van het volgende. Als zo'n systeem wordt ingezet, gaat dat met een hele hoge snelheid. De verdediging daartegen kan eigenlijk alleen maar semiautonoom, want het gaat sneller dan een mens kan handelen. Dat wilde ik nog zeggen in reactie op de opmerking van de heer Van Dijk.

Er was net een discussie tussen de woordvoerders over voor- en nadelen. Het moet altijd binnen de kaders van het internationaal recht - ik sluit wat dat betreft aan bij uw collega - maar daarbinnen moeten we heel goed kijken wat tegenstanders aan het doen zijn zodat we hen vóór kunnen zijn, zowel qua kennis als qua systemen. Daar hebben we dan inderdaad soms gedeeltelijk autonome systemen voor nodig, nu al. Tegen bijvoorbeeld die hypersone raketten kun je je alleen op die manier verdedigen. Ik denk ook dat nieuwe technologieën in robotica, sensoren, kwantumtechnologie en artificial intelligence ook een bepaald deel van wat je militair moet doen, veiliger en ook wel makkelijker maken. Inderdaad kan artificial intelligence soms ook helpen door het letterlijk beter en veiliger te maken, omdat je preciezer kunt worden. Tegelijkertijd brengt het ook gewoon risico's met zich mee. Dat moeten we ook onder ogen zien. Er zijn disruptieve technologieën. Er zijn autonome wapensystemen denkbaar - ze zijn er misschien nog niet maar ze zijn heel goed denkbaar - die grote risico's met zich meebrengen, bijvoorbeeld omdat systemen ook kunnen worden gehackt en dus toch iets anders gaan doen dan misschien de bedoeling was of omdat ze technisch kunnen falen. In theorie kun je inderdaad uitdenken dat systemen zelfdenkend worden en niet meer onder controle van de mens staan, en daarmee zelf kunnen gaan beslissen over het te kiezen doel en dan ook de keuze maken of het doel wel of niet moet worden aangevallen. Dan heb je het echt over autonome systemen. Technologisch is dat er nog niet op die manier, maar we weten wel dat eraan wordt gewerkt en dat het kan. Dat is die kennisontwikkeling, waarin we echt goed moeten meegaan. Dit soort risico's en dit soort zorgen moeten we goed in kaart brengen. We zien die urgentie. Daarom hebben we in de kabinetsreactie ook gemarkeerd dat wij vinden dat er een betekenisvolle menselijke controle moet zijn. Dat is het uitgangspunt van het kabinetsstandpunt.

De voorzitter:

Er is een interruptie van de heer Van Dijk namens de Socialistische Partij. De heer Jasper van Dijk (SP):

Daar ben ik het dus volledig mee eens. Is dat voor de Minister een aanmoediging of een aansporing om te zeggen dat er afspraken moeten worden gemaakt over dat soort wapensystemen en dat we volledige autonome wapens niet moeten accepteren, omdat ze in strijd zijn met het oorlogsrecht?

De voorzitter:

Ik meen dat die vraag ook aan de Minister van Buitenlandse Zaken is gesteld, maar ik geef u nog één kans om de vraag aan de Minister van Defensie te stellen. Zij gaat er heel kort op antwoorden.

Minister Ollongren:

Heel spontaan wilde ik inderdaad reageren, maar volgens mij heeft collega Hoekstra die vraag zonet beantwoord. Daar sluit ik me volledig bij aan.

De voorzitter:

Dat is duidelijk. De heer Van Dijk, tot slot.

De heer Jasper van Dijk (SP):

Mijn vervolgvraag is of de Minister het advies van de AIRCW kent. Die commissie zegt dat autonome wapens geen onderscheid kunnen maken tussen burgers en militairen of tussen militairen en uitgeschakelde militairen. Is dat niet ook een reden om hier goede regels voor te maken?

Minister Ollongren:

Dat is een eigen commissie van Defensie, die heel goed naar dat soort dingen kijkt. Zij heeft inderdaad ook een aantal te onderscheiden systemen geschetst en heeft ook de risico's bij die systemen geschetst. Ik wil wel zeggen dat Nederland eigenlijk geen systemen of wapens heeft die vallen onder de definitie «autonome systemen». Een definitie is altijd lastig. Dat is ook een van de internationale discussies: welke definitie moet je nu hanteren? Maar autonome, zelfdenkende systemen gaan veel verder dan systemen die wel automatisch zijn en waarover we wel beschikken. De Goalkeeper is zo'n systeem. De Patriot is een verdedigend systeem dat snel moet kunnen reageren. Maar daar is altijd menselijke controle over, ook bij de Goalkeeper. Je bepaalt waar je hem op richt, je bepaalt of hij automatisch mag reageren en je kunt hem ook weer stoppen. Onze eigen commissie waarschuwt daar ook voor. Welke spanningen kunnen er ontstaan? Aan welke keuzes moet altijd een menselijke handeling te pas komen? Nogmaals, we hebben dat soort systemen niet, maar die vragen kunnen wel aan de orde zijn bij deze systemen. We moeten dat goed in beeld hebben, samen met die commissie, de AIV en andere deskundigen.

De voorzitter:

De Minister vervolgt haar betoog.

Minister Ollongren:

Ja. Ik denk dat collega Hoekstra al voldoende heeft gezegd over het Volkskrantstuk.

Dan ga ik naar een aantal vragen, waarvan de meeste zijn gesteld door de heer Boswijk en mevrouw Belhaj, over de afweging tussen pragmatisme en principes. In de adviezen die we hebben, bijvoorbeeld van de AIV, staat dat we moeten investeren in kennis en in het reguleren; op dat punt verwijs ik naar het antwoord van de heer Hoekstra. Om het werkbaar te laten zijn voor Defensie en voor de bondgenoten en partners waarmee we samenwerken, is duidelijk dat het oorlogsrecht de grens is. Het moet dan een zo breed mogelijk gedragen verbod zijn. Dan wordt het natuurlijk werkbaar. Dat is dus een van de belangrijke doelen die we moeten hebben: dat daar veel landen bij aangesloten zijn. Ook moeten we duidelijkheid hebben dat bepaalde wapensystemen waarover we nu al beschikken, niet onder die definitie kunnen vallen. Ik noemde de Patriot al, omdat ik denk dat u het met me eens bent dat dat een belangrijk verdedigend systeem is dat we moeten kunnen blijven inzetten. Daar moeten we dus goed naar blijven kijken. Er wordt natuurlijk ook heel veel onderzoek naar gedaan. Er zit misschien ook nog een grijs gebied tussen civiel en militair. Dat hebben we in beeld en daar wordt door deskundige mensen en instellingen goed naar gekeken.

Mevrouw Belhaj vroeg naar de menselijke controle. Daar heb ik eigenlijk al op geantwoord. Iets dieper gaat de vraag wanneer er dan eigenlijk menselijke controle is in de toepassing van de systemen. Ik denk dat je daar al bij de ontwikkeling rekening mee moet houden. In de fase van R&D, dus voor de aankoop van een systeem, moet menselijke controle al het uitgangspunt zijn. Bij de aanschaf van een nieuw wapensysteem moet dat ook getoetst worden aan het internationaal recht. Daarna zou het pas kunnen worden goedgekeurd voor inzet door de krijgsmacht. Je moet natuurlijk ook je eigen mensen daar goed in meenemen. Training en opleiding van militairen bij het gebruik van dat soort systemen is dus een belangrijk element.

De voorzitter:

Ik hoor aan mijn linkerzijde dat er een interruptie is van mevrouw Belhaj. Mevrouw Belhaj (D66):

Ik ben vergeten om iets in de eerste termijn te vragen en zie nu een bruggetje om die vraag alsnog te stellen. In de tussentijd, waarin er nog veel onduidelijkheid is, gebeurt er natuurlijk een hoop. Mijn vraag is of het mogelijk is om de controlerende taak van de Kamer goed te waarborgen.

Is het mogelijk om bij artikel 100-procedures apart aandacht te besteden aan het gebruik of niet-gebruik van autonome wapensystemen bij militaire missies? Het kan ook zijn dat we in een gezamenlijke missie zitten waarin we zelf nog niets doen, maar de ander wel. Het lijkt me goed dat we dat opnemen, zodat het inzichtelijk is. Daarmee ben je transparant, maar je voorkomt ook dat er later discussie over komt. Ik zie nu al aankomen dat als het misgaat, de Kamer zal zeggen: waarom wisten we het niet? Is het mogelijk dat hiernaar gekeken wordt?

De voorzitter:

Mag ik, alvorens de Minister deze vraag beantwoordt, de suggestie doen om deze vraag ook mee te nemen in het commissiedebat Evaluatie missies, dat wij volgens mij nog hebben? Dat wil ik in ieder geval ter overweging meegeven. Dan heeft de Kamer wat uitgebreider de tijd om daar ook zelf over na te denken.

Mevrouw Belhaj (D66):

Nou, voorzitter, ik ga over mijn eigen vragen.

De voorzitter:

Daar gaat u zeker over. Dit was slechts een suggestie mijnerzijds.

Mevrouw Belhaj (D66):

Dat is superlief, maar dit is onderdeel van mijn initiatiefnota van anderhalf jaar geleden. Daar stond dit ook in. Ik snap het, maar tegelijkertijd wil ik voorkomen dat er weer een nieuwe discussie wordt gestart terwijl ik toch wel vind dat ik weet waar ik het over heb. Daarom stel ik juist op dit moment de vraag om daar wel over na te denken en om de Kamer te informeren hoe dit op een goede wijze kan worden geïmplementeerd.

De voorzitter:

Discussies in de Tweede Kamer willen we niet hebben. Mevrouw Ollongren, de Minister van Defensie.

Minister Ollongren:

Ik zal daar heel goed naar kijken, overigens met een welwillende grondhouding, want ik denk dat het altijd verstandig is om bij artikel 100-brieven de Kamer zo volledig mogelijk te informeren. Een vraag die we natuurlijk wel aan de voorkant moeten beantwoorden, is die naar de definitiekwestie. Zoals ik net al betoogde, leidt de definitie van autonome wapensystemen zoals wij die hebben gehanteerd, ook in onze kabinetsreactie, ertoe dat we vinden dat er een verbod op moet komen. Die zullen we dus zelf ook niet inzetten, want die hebben we niet. Maar daar moet dus nog wel een hele discussie over worden gevoerd. We moeten het eens worden over die definitie. Er is nog geen internationaal verbod. Ik snap dat u wil weten hoe we samenwerken met bondgenoten met wie wij samen missies doen. Hoe werken die precies? Het is nu nog te vroeg om toe te zeggen dat we dat in de volle breedte op deze manier kunnen doen, maar we gaan er wel met een positieve grondhouding naar kijken.

Wellicht dat we daar in een volgend debat, zoals de voorzitter zei, een keer op kunnen terugkomen.

Mevrouw Belhaj (D66):

Ik snap de verwarring, want ik zei het zelf ook weer fout. Als je het woord «autonoom» gebruikt, ben je niet secuur. Dit gaat dus niet over de volledig autonome systemen. Maar zelfs binnen die gedeeltelijk autonome wapensystemen kun je dingen zo schuiven dat je heel erg in de buurt komt van volledig autonoom. Als je de menselijke controle altijd wilt behouden en je dat knopje niet aanzet dat er altijd menselijke controle moet plaatsvinden - los van dat de definitie nog geformuleerd moet worden - dan kan het een keer misgaan, zelfs in de huidige situatie. Vandaar dat ik vroeg om daar goed naar te kijken. Met alle missies en oorlogen moeten we goed bekijken of we dit niet ook kunnen doen bij semiautonome wapens.

Minister Ollongren:

Ik ben wel heel blij dat dit misverstand is opgehelderd. We hebben het over semiautonome wapensystemen. In de gradatie van wapensystemen gaat het om systemen waarvan we denken dat we ze in de toekomst nodig zouden kunnen hebben en kunnen inzetten. In reactie op de vraag van mevrouw Belhaj om dat in de artikel 100-brieven wat explicieter te maken, zeg ik dat ik daar welwillend naar wil kijken. Ik kan me die informatiebehoefte van de Kamer goed voorstellen. Wij willen de Kamer altijd volledig informeren. Maar het vergt nog wel even wat uitzoekwerk. Het is dus geen toezegging dat we dit nu direct gaan toepassen.

Mevrouw Belhaj (D66):

Het is dus wel een toezegging dat ernaar gekeken zal worden en dat erop teruggekomen wordt. Als u er een willekeurige datum aan verbindt, wordt het ook opgeschreven.

De voorzitter:

Wacht even. Sorry, even tussendoor. Ik hoorde de Minister volgens mij aangeven dat het geen toezegging was en ik hoorde mevrouw Belhaj zeggen dat het wel een toezegging was. Ik hoorde de Minister ook heel duidelijk zeggen dat ze hier nog naar moet kijken en dat ze er op een later moment op zou moeten terugkomen. Is het een tussenweg dat daar in het debat dat ik net aanstipte, opnieuw op terug wordt gekomen? Ik meen dat dat ergens in november plaatsvindt.

Mevrouw Belhaj (D66):

De toezegging van de Minister is niet: dat gaan we doen. De toezegging is: we gaan ernaar kijken. Ik wil graag een datum hebben wanneer we er een eerste check op kunnen hebben. Dat mag van mij ook over zes maanden zijn. Dan horen wij over zes maanden misschien: we hebben ernaar gekeken, maar we zijn nog geen stap verder. Het liefst hoor ik natuurlijk: we zijn een enorme stap verder. Als ik er geen datum aan verbind, dan verdwijnt het weer. Dat is de vraag.

De voorzitter:

Oké, helder. Volgens mij zijn we eruit. Dan ga ik het kabinet nog iets meer tijd geven om daar helemaal uit te komen. Ik heb één toezegging geregistreerd. Dat is de brief die wij begin januari ontvangen. Allicht is er de mogelijkheid om in die brief hierop terug te komen. Mogelijk wenst het kabinet langer de tijd te hebben.

Minister Ollongren:

Great minds think alike.

De voorzitter:

Uitstekend.

Minister Ollongren:

Collega Hoekstra stelde het net voor en u zegt het ook. Laten we het zo doen.

De voorzitter:

Het is genoteerd. De Minister vervolgt haar betoog.

Minister Ollongren:

Voorzitter. De heer Boswijk was goed in het benoemen van mogelijkheden die het biedt. Hij gaf het belang aan van snelheid en een bepaalde mate van gedeeltelijke autonomie om je überhaupt te kunnen verdedigen. Het is menselijkerwijs soms niet mogelijk, omdat de tijd gewoon te kort is voor een reactie. Dat zien we bij die hypersone en ballistische raketten.

Een andere kant die aandacht verdient, zijn de kansen die worden geboden. Denk aan zeemijnenbestrijding. Een mijn is een behoorlijk autonoom ding. Hij denkt helemaal niet na, maar hij doet wel iets zonder dat er een mens aan te pas komt. Als je dat kunt bestrijden met een semiautomatisch systeem, heeft dat grote voordelen. Ik denk aan onderwatersystemen, boten, gevechtsvoertuigen, logistieke robots. Een heel andere toepassing, die ook militair is, is die van chirurgische robots die gewonde militairen kunnen helpen. Er zijn dus heel veel toepassingen waarvan we denk ik allemaal zeggen: dat is heel goed, daar moeten we vooral mee verdergaan. Ik zie tal van mogelijkheden. De heer Boswijk noemde de luchtverdediging. Dat is inderdaad een heel goed voorbeeld, maar er zijn er dus meer.

Dan de industrie. Als je tot internationale afspraken komt, geeft dat natuurlijk sowieso duidelijke kaders voor de industrie, maar het uitgangspunt is nu al, bij de gezamenlijke R&D die we bijvoorbeeld doen in NAVO-verband, dat menselijke controle gegarandeerd moet zijn. Dat is dus al de huidige praktijk. De bestaande financieringsinstrumenten stellen dit ook als voorwaarde als je die toepast. We hebben zelf ook gezegd dat we het inrichten van de juiste randvoorwaarden voor de inzet van datascience en artificial intelligence echt centraal stellen in onze eigen aanpak en in onze eigen strategie en notities daarover. Nationaal werken we ook samen met de kennisinstellingen die hier heel veel verstand van hebben, namelijk TNO, NLR en MARIN. Die hebben samen een onderzoeksprogramma naar onderwerpen als mens-machinetiming, transparantie, uitlegbaarheid en maatschappelijke acceptatie van artificial intelligence. Er is dus eigenlijk al een hele set vanwaaruit er verder gewerkt kan worden.

Voorzitter. Ik kijk nog heel even in mijn aantekeningen of ik een vraag niet heb beantwoord die wel gesteld is, maar ik heb de indruk dat ik hiermee alle vragen heb beantwoord.

De voorzitter:

Helder. Dan dank ik u voor deze beantwoording en kijk ik of er aan mijn linkerzijde behoefte is aan een tweede termijn. Er is een hele korte behoefte bij de heer Van Dijk, zie ik, dus ik geef hem als eerste het woord.

De heer Jasper van Dijk (SP):

Voorzitter. Dank voor de antwoorden. Ik zou niettemin wel een tweeminu-tendebat aan willen vragen, om de regering nog een steuntje in de rug te geven op dit dossier.

Ik zou de regering ook willen vragen om nog te reageren op wat in het artikel van PAX staat. Het Rode Kruis geeft aan dat de mens geen doelwit mag zijn van autonome wapens. Het oorlogsrecht zegt dat burgers nooit doelwit mogen zijn bij oorlogshandelingen. En de eigen adviescommissie van Defensie zegt nota bene dat autonome wapens geen onderscheid kunnen maken tussen burgers en militairen. Dat moet u toch aansporen om daarop een wat steviger reactie te geven? Mag ik die aan u vragen?

De voorzitter:

Dank. Mevrouw Belhaj.

Mevrouw Belhaj (D66):

Voorzitter. Ik dank de beide bewindspersonen voor de beantwoording. Ik heb nog twee dingen op te merken. Er wordt vaak gezegd dat we manieren moeten vinden om om te gaan met technologische ontwikkelingen. Het interessante is dat Europa in de negentiende eeuw met de opkomst van de drukkunst en allerlei transportmogelijkheden ontzettend werd overvallen door het zwart anarchisme, en allerlei securityorgani-saties eigenlijk achter de feiten aanliepen. En in de twintigste en de eenentwintigste eeuw was er technologie zoals internet, wat we een interessante ontwikkeling vonden maar waarbij we in zekere zin eigenlijk ook te laat hebben gehandeld. Dat was vanuit eenzelfde soort gedachte: het biedt kansen, maar hoe kunnen we voorkomen dat het als wapen wordt gebruikt? Datzelfde gevoel heb ik nu. Dat heeft er niet alleen mee te maken dat ik een ongeduldig mens ben, maar er is genoeg. Er liggen genoeg verzoeken van organisaties, bedrijven, ngo's en landen die dit heel graag willen. Er zijn knappe koppen bij TNO, Defensie en Buitenlandse Zaken. Er ligt zo veel, dus laten we alsjeblieft niet te lang wachten met het maken van een keuze. Die keuze zal wellicht nooit helemaal perfect zijn, maar we kunnen beter een keuze maken en een route in gang helpen dan wachten totdat we overvallen worden.

Voorzitter. Ik rond af. Er zat hier zonet een schoolklas op de publieke tribune.

De voorzitter:

Die gelijk ook weer vertrokken is.

Mevrouw Belhaj (D66):

Die zijn inderdaad gelijk weer vertrokken. Ik had ze graag willen vertellen dat waar wij hier mee bezig zijn, over hun toekomst gaat. Ik meen dat oprecht. Ik hoop van harte dat we op dit onderwerp niet te veel politiek en traag handelen. Ik snap diplomatie en ik snap het belang van verbinden. Ik zie alle inzet, maar dit gaat echt ergens over. Ik hoop van harte dat we over tien jaar terugkijken op dit moment en op verschillende andere momenten, en dan weten dat deze Minister en de andere Ministers die erbij betrokken waren het lef hebben gehad om leiderschap te tonen, zodat deze kinderen over tien jaar niet in een wereld leven waarin wij zelf ook niet willen leven. Dit is mijn persoonlijke appel: loop de wedstrijd om hem te winnen en niet om te zeggen dat er zo veel barrières zijn.

De voorzitter:

Dank. De heer Boswijk.

De heer Boswijk (CDA):

Voorzitter. De vloek van onze mensheid is dat het lijntje tussen vooruitgang en verderf altijd heel dun is. Ik snap het appel van mevrouw Belhaj. Ik moet alleen tijdens dit debat vaak terugdenken aan een brief die mijn overgrootopa schreef in 1914 of 1915, toen de Eerste Wereldoorlog net was uitgebroken. Hij zag in de vliegtuigen het einde van de wereld, want in de Bijbel staat dat er aan het einde van de tijd wordt gevochten in de lucht. Ik ben heel erg blij dat we niet naar mijn opa hebben geluisterd, want dan hadden de verkeerde landen vliegtuigen gehad en de westerse wereld niet. Dat is dan weer een andere inkleuring, namelijk dat we altijd nuchter en realistisch na moeten denken. Ik doe daarmee niet af aan de zorgen van collega Belhaj, maar dat is altijd het spanningsveld waar je in zoekt. Uit de antwoorden van de Ministers haal ik dat daar wel serieus naar wordt gekeken en dat die belangenafweging ook zorgvuldig wordt gedaan.

De voorzitter:

Dank. Dan wil ik het voorzitterschap zeer kortstondig aan de heer Van Dijk geven.

Voorzitter: Jasper van Dijk De voorzitter:

En ik geef het woord aan u, meneer Valstar.

De heer Valstar (VVD):

Dank, voorzitter. In navolging van mevrouw Belhaj wil ik eigenlijk ook het CLAS aanhalen. Waar mevrouw Belhaj vooral de uitdaging ziet om vrede te stichten over tien jaar, omdat wij dan afspraken over autonome of semiautonome wapens hebben gemaakt, wil ik dat we deze generatie niet uit naïviteit ... Ik vind dat we hen moeten beschermen tegen vijandelijke mogendheden. Ik zou de Minister van Buitenlandse Zaken willen vragen hoe hij kijkt naar bijvoorbeeld een land als China dat wel een handtekening onder de CCW heeft gezet, maar daar wel de kanttekening bij heeft gemaakt dat het alleen een handtekening zet voor het gebruik van de desbetreffende wapens. Nogmaals, en ik heb dit in de eerste termijn ook al een paar keer gezegd: ik vind dat wij ons in het huidige tijdsgewricht geen naïviteit kunnen veroorloven en ik vind ook dat Nederland, toch niet de grootste speler op het militaire wereldtoneel, niet ernstig voorop hoeft te lopen op dit vlak.

Dank.

De voorzitter:

En daarmee bent u weer voorzitter.

Voorzitter: Valstar De voorzitter:

Dank. Dan kijk ik naar mijn rechterzijde. Kunnen we direct overgaan tot de beantwoording? Dat is het geval. Dan geef ik de Minister van Buitenlandse Zaken het woord.

Minister Hoekstra:

Voorzitter, dank. Ik ben het zeer eens met de bespiegeling en de verwijzing naar de schoolklas van mevrouw Belhaj en van uzelf. Ik ben het er overigens ook mee eens dat het voor beide pilaren geldt. Dat is precies wat het kabinet heeft proberen aan te geven. We zijn gevoelig voor de argumentatie langs beide lijnen.

In reactie op uw vraag ten aanzien van China zou ik willen verwijzen naar wat ik daar eerder over heb gezegd. Het wordt natuurlijk de kunst om het ten eerste niet alleen eens te worden met een grote groep landen, ook met landen die nu nog helemaal niet geporteerd zijn van zo'n VN-route, en om dat ten tweede ook expliciet te maken. Naar mijn overtuiging is het dan ook noodzakelijk dat je afspraken maakt over de handhaving, want anders heb je niks. Dan koop je wel een goed gevoel op de ene as, maar ben je naïef op de tweede, en je wilt op allebei zaken kunnen doen. Dat zou ik nog willen zeggen over China.

De heer Van Dijk had geen vraag, maar wil de beraadslaging graag voortzetten. Dat laat ik aan hem. Ik had gehoopt dat we de Kamer van voldoende antwoorden hadden voorzien, maar dat is uiteraard aan hem.

De voorzitter:

Ik kijk even naar de heer Van Dijk of hij ingaat op deze uitnodiging om af te zien van het tweeminutendebat.

De heer Jasper van Dijk (SP):

Nee, ik heb ook geen nieuwe standpunten gehoord.

De voorzitter:

Waarvan akte. Dan geef ik het woord aan de Minister van Defensie. Minister Ollongren:

Dan ga ik toch nog een poging doen, want ik had natuurlijk dezelfde hoop. Misschien kan ik in aanvulling op wat ik net heb gezegd en in reactie op het stuk van PAX, dat de heer Van Dijk aanhaalt, zeggen dat burgers op grond van het humanitair oorlogsrecht bescherming genieten. Dat is belangrijk. Burgers, personen die niets met het gevecht te maken hebben, moeten beschermd worden. De gedeeltelijk autonome wapensystemen waar Nederland in de toekomst mogelijk over beschikt, zijn er om dat te doen in oorlogssituaties, op grond van hoe wij zelf natuurlijk wel gebonden zijn aan het humanitaire oorlogsrecht. Daarvoor moeten ze worden ingezet. Daar zijn wel mensen bij betrokken, maar niet burgers en mensen die dus niks met het militaire deel te maken hebben. U weet dat ik mij ervoor inzet om zo veel mogelijk te voorkomen dat er ongewild toch burgerslachtoffers vallen. Dat betekent dus dat dit bij het nadenken over nieuwe wapensystemen, ook semiautonome wapensystemen, zorgvuldig moet worden getoetst aan internationaal recht en dus aan de toetssteen van betekenisvolle, menselijke controle. Ik schetste dat net al in antwoord op vragen van mevrouw Belhaj. Dat zou mijn reactie zijn op de vragen van de heer Van Dijk en op het stuk van PAX.

Ik wil er nog aan toevoegen dat het niet investeren in dat soort technologische ontwikkelingen juist een risico is voor de veiligheid. Ons veiligheidsbelang is dat we mensen en burgers kunnen beschermen in Nederland en in de NAVO, met onze bondgenoten, en daar in de wereld waar wij op grond van eigen keuzes en op onze eigen juridische basis ervoor kiezen om mensen te beschermen. We moeten ons er wel bewust van zijn dat die technologie voortschrijdt, ook zonder ons. We moeten het niet per se allemaal willen toepassen, maar we moeten het wel begrijpen. We moeten ons wel kunnen verdedigen en ook mensen kunnen verdedigen. Dus we doen dat terwijl we ons bewust zijn van de risico's op een, in mijn ogen, verantwoorde manier.

De heer Van Dijk vroeg naar onze eigen adviescommissie. Ten eerste is het goed dat we een kritische adviescommissie hebben, maar het advies waar hij naar verwijst, is een zogenaamd kaderstellend advies inzake loitering munitions. Dat is een heel specifiek type wapens. Dat zijn wapens die in staat zijn om boven een gebied aanwezig te zijn om een heel specifiek doel aan te vallen of juist niet, als het doel daar bijvoorbeeld niet blijkt te zijn. Daarin is de gedachte meegegeven dat je drie types hebt. Je hebt wapens die pas overgaan tot de aanval na opdracht van een mens.

Je hebt wapens die zelfstandig een doel selecteren en aanvallen volgens de wijze waarop ze zijn voorgeprogrammeerd, volgens een voorgeprogrammeerde parameter. Mogelijkerwijs kan een mens de aanval dan nog stoppen als je het toch anders wilt zien. En je hebt wapens die zelfstandig een doel selecteren en aanvallen aan de hand van voorgeprogrammeerde parameters. Dat zijn allemaal stappen in het type loitering munitions, zoals dat heet, die je je zou kunnen voorstellen. De adviescommissie heeft daarbij meegegeven dat type één op minder grote bezwaren stuit dan type twee en drie, vanuit juridisch en ethisch oogpunt. Het is heel nuttig dat dat advies er ligt, want dan kunnen we daar rekening mee houden en het meewegen.

Voorzitter. Voor het overige heb ik goed geluisterd. En ik denk dat de opa van de heer Boswijk inmiddels hetzelfde vindt. Dank u wel.

De voorzitter:

Als de opa er nog steeds is, natuurlijk. Nou, al even niet meer, zie ik. Wij zijn bijna aangekomen bij het einde van het debat. Ik verzoek u nog even aan mijn lippen te blijven hangen, want ik ga nog een toezegging voorlezen.

• - 

  De Minister van Buitenlandse Zaken zegt toe de Kamer uiterlijk 15 januari 2023 te zullen informeren over de inzet van Nederland tijdens de in Nederland te organiseren conferentie inzake artificial intelligence in het militaire domein, die plaatsvindt op 15 en 16 januari 2023.

• - 

  De Minister van Defensie zegt daarbij toe de Kamer in voorgenoemde brief ook te informeren over het al dan niet opnemen van gebruik van semiautonome wapensystemen in artikel 100-procedures.

Ik zie instemmend geknik aan mijn rechter- en linkerzijde. Dat is uitstekend. Als laatste wens ik nog aan te tekenen dat de heer Van Dijk een tweeminutendebat over autonome wapens heeft aangevraagd, dus wij zien elkaar terug in de plenaire zaal. Ik wens u allen een fijne avond.

Sluiting 17.38 uur.

Tweede Kamer, vergaderjaar 2022-2023, 33 694, nr. 65 26