KI in oorlogvoering: te veel scepsis kunnen we ons niet veroorloven
De Oekraïense president maakte onlangs een militaire primeur bekend: voor het eerst in de geschiedenis van de Russische invasie hebben Oekraïense troepen een vijandelijk stellinkje uitsluitend met onbemande wapensystemen, grondrobots en vliegdrohnes ingenomen. De reacties waren gemengd: lof voor moderne oorlogstechnologie en Oekraïense innovatiekracht enerzijds, waarschuwingen voor dehumanisering van oorlogvoering anderzijds.
Het geval laat zien hoe diep de meningen verdeeld zijn over het inzetten van autonome wapensystemen en kunstmatige intelligentie (KI) in oorlogvoering. Terwijl landen als Oekraïne en de Verenigde Staten het gebruik van KI offensief uitproberen, dringen anderen aan op strengere regelgeving of zelfs verboden op autonome wapensystemen. Al jaren vechten landen in Genève bij de Verenigde Naties om gemeenschappelijke regels voor autonome wapensystemen – zonder resultaat.
In Duitsland wordt het beeld van KI in oorlogvoering bepaald door dystopische verhalen. Het motief van de 'moordende robot', beroemd geworden door de 'Terminator'-films sinds 1984, wordt tot vandaag door voorstanders van verboden en strengere regelgeving op autonome wapensystemen en KI aangehaald. Soms dient het ook als strijdbegrip. Maar dit schrikbeeld raakt de werkelijke geschilpunten niet. Het versperrt eerder het zicht op de nuchter realiteit van moderne krijgsmachten.
KI is daar al lang een veelgebruikt werkmiddel. Het wordt onder meer gebruikt bij het opstellen van situatieschetsen en hun realtime actualisering. KI zit ook in vliegsturingings- en assistentiesystemen, zonder welke moderne gevechtsvliegtuigen nauwelijks beheersbaar zijn. En het ondersteunt het samenstellen van vliegoperatiebevelen. De lijst met KI-toepassingen van krijgsmachten is lang, hun nut voor het leger enorm.
Dat met deze KI-toepassingen ook risico's gepaard gaan, blijkt uit voorbeelden van huidige conflicten. Het meest voorkomende probleem zijn verouderde gegevens, op basis waarvan systemen aanbevelingen doen. De Verenigde Staten bombardeerden op de eerste dag van hun aanvallen in Iran een meisjesschool; meer dan 170 mensen kwamen om. Volgens eerste resultaten van intern onderzoek zouden verouderde doelgegevens hebben bijgedragen aan de fout bij doelkeuze; het schoolcomplex was voorheen militair gebruikt.
De gevolgtrekking ligt voor de hand: regeringen moeten de risico's van militaire KI-inzet zorgvuldig beoordelen. Besluitvormingsprocessen moeten nauwkeurig worden gedocumenteerd. Verantwoordelijkheden moeten langs de hele bevelsstructuur duidelijk worden bepaald. Het humanitaire volkenrecht geldt – ongeacht welke technologie in oorlogvoering wordt ingezet.
Een algemeen verbod op autonome wapens deugt echter niet: want het zou ook systemen kunnen treffen die zich hebben bewezen zonder dat tot nu toe onbeheersbare risico's aan het licht zijn gekomen. Definieer je 'autonoom' zo dat een systeem doelen zelfstandig kan opsporen en bestrijden, dan vallen daar ook luchtverdedigingssystemen onder zoals Patriot. Tussen opsporing en afweer blijft hier zo weinig tijd dat de mens op de machine is aangewezen.
Het VN-wapenverdrag verbiedt bepaalde conventionele wapens die buitensporig lijden veroorzaken – bijvoorbeeld verblindingswapens die slachtoffers permanent blind maken. Op autonome wapensystemen laat dit algemene verbodsprincipe zich echter nauwelijks toepassen: want er is niet 'het' ene wapen, maar een heel scala aan toepassingen en automatiseringsgraden. Regelgeving of zelfs verboden zouden daarom zeer specifiek moeten worden geformuleerd.
Het wapenwedloop op het gebied van KI is volop aan de gang. Technische vooruitgang wordt door grootmachten gezien als een beslissende hefboom om zich geopolitiek te handhaven. Wie zich dit inzicht te lang ontzegt, verliest macht en invloed.
