Steeds vaker AI ingezet bij oorlogen, maar dat gaat vaak mis

De inzet van kunstmatige intelligentie bij oorlogsvoering zou moeten zorgen voor minder burgerslachtoffers, maar in werkelijkheid gebeurt het tegenovergestelde. Lauren Gould (universitair hoofddocent Conflict Studies aan de Universiteit Utrecht) en journalist Elif Isitman bespreken in de nieuwe podcast van Stand van Nederland de impact van AI op het slagveld.

De geschiedenis van kunstmatige intelligentie in oorlogsvoering gaat terug naar de invasie van Irak en de interventie van Afghanistan, begin 21e eeuw. "Daarbij vielen relatief veel militaire doden", vertelt Gould. "De steun onder burgers nam af. Waarom sturen we zoveel mannen en vrouwen naar deze gebieden?"

Luister nu naar de podcast van Stand van Nederland:

In reactie op de onvrede gingen beleidsmakers zich meer richten op surveillancetechnologie, vervolgt de hoogleraar. "Als je troepen terugtrekt, moet je nog wel weten wat er gaande is. Daarom werden op grote schaal satellieten en drones ingezet. Wie belt met wie? Analisten analyseerden deze data en identificeerden patronen."

Eerst werden vooral kopstukken op basis van analyses gelokaliseerd en aangevallen. "Daarna werden het karakteraanvallen. Ze weten niet precies wie de persoon is, maar door bepaald gedrag kunnen ze voorspellen dat deze persoon zich heeft aangesloten bij een organisatie waar we tegen vechten. Daarmee wordt het als een legitiem doelwit gezien."

Tussen 2010 en 2015 was het analyseren van alle data voor professionals geen doen meer. "Grote commerciële partijen stonden op: wij hebben de software."

'Betaling vertaald als kernwapens'

Het gaat echter geregeld mis. Bijvoorbeeld in het conflict tussen Israël en Gaza. "Uit goede onderzoeksjournalistiek blijkt dat allerlei gebruikerservaringen de problematische kant bevestigen. Israëlische soldaten zijn allemaal fouten tegengekomen. Bijvoorbeeld verkeerde vertalingen. Een afgeluisterd telefoongesprek moet van het Arabisch naar het Hebreeuws vertaald worden. Daarvoor werd een OpenAI-functie ingezet. Die kan heel goed van en naar het Engels vertalen, maar het wordt een stuk moeilijker als je twee andere talen instelt. Het woord 'betalen' werd vertaald als 'handgranaat'. Het verschil is groot bij het inschatten van een risicoprofiel: praat je met je buren over een betaling of over een handgranaat. "

Er moet veel meer onderzoek gedaan worden naar de categorisatie, aldus Gould. "Zodat mensen die proberen te overleven niet een nog hoger risico lopen om nog een keer gebombardeerd te worden."