AI beslist al wie leeft en wie sterft

Een korte versie van een langere analyse — deel 1 in een reeks over de echte impact van AI

In dezelfde weken dat AI-modellen wiskundeproblemen oplossen waar wetenschappers decennia op vastliepen, bepalen diezelfde technologieën ook wie in een oorlog wordt aangevallen. Niet in de toekomst. Nu.

Voor de volledige analyse ben ik zes actieve conflicten nagegaan: Gaza, de West Bank, Libanon, Venezuela, Iran, Oekraïne. Deze korte versie neemt je mee langs drie van de scherpste voorbeelden — Gaza, Iran en Oekraïne. Wie de volledige analyse met alle zes gebieden en alle bronnen wil, vindt die aan het eind.

Gaza: van analist naar algoritme

Unit 8200, de Israëlische inlichtingeneenheid, bouwde Lavender: een systeem dat elke inwoner van Gaza een score tussen 1 en 100 gaf — de geschatte kans dat iemand tot Hamas of Islamitische Jihad behoorde. Op het hoogtepunt stonden er 37.000 namen op die lijst. De makers claimden zelf 90% nauwkeurigheid. Dat betekent: tot 3.700 mensen mogelijk ten onrechte gemarkeerd.

Een tweede systeem, Habsora ("Gospel"), identificeerde honderd doelen per dag — waar dat vroeger, met honderden analisten, ongeveer vijftig per jaar was. De menselijke controle op zo'n markering? Volgens de betrokken officieren zelf vaak een kwestie van seconden. Een check of het doelwit een man was. De machine had al beslist.

Een derde systeem, Where's Daddy?, laat zien hoe ver dat doorschiet: het volgt een gemarkeerd persoon tot hij een huis binnengaat, en waarschuwt dan pas — zodat de aanval hem thuis treft, meestal samen met zijn gezin. Volgens de officieren die ermee werkten was dat geen ongelukkige bijkomstigheid. Een huis is nu eenmaal een vast, al gekarteerd adres; iemand volgen tijdens militaire activiteit is lastiger. De burgerslachtoffers die daarbij vielen, waren al in de rekensom meegenomen voordat de aanval werd goedgekeurd.

Iran: het frontiermodel neemt het stuur over

Bij de Israëlisch-Amerikaanse aanval op Iran, eind februari dit jaar, liep het tempo nog verder op: ongeveer duizend doelen per dag, met een doorlooptijd van minder dan vier uur van identificatie tot aanval. Het systeem erachter — Palantir's Maven, draaiend op Claude van Anthropic — genereert de opties; een mens keurt goed. Bij dat tempo is de vraag gerechtvaardigd hoeveel van die goedkeuring nog een echte afweging is.

De aanslag op Ayatollah Khamenei zelf, op de openingsdag van die oorlog, was het resultaat van een jarenlange, geduldige voorbereiding: Israël had het verkeerscameranetwerk van Teheran gehackt om een bewegingsprofiel op te bouwen van zijn beveiligingsteam, niet van hemzelf. Precies dat soort geduldige surveillance, die vroeger onbetaalbaar veel mensuren kostte, is nu een kwestie van rekenkracht.

Diezelfde oorlog leverde ook het tegenvoorbeeld. Op de eerste dag werd een basisschool in Minab geraakt: 150 tot 175 doden, vooral meisjes. Vermoedelijk verouderde inlichtingen, uitgevoerd op een snelheid die geen ruimte liet voor een tweede check.

Oekraïne: van advies naar uitvoering

Oekraïne laat de volgende stap zien: AI die niet alleen adviseert, maar fysiek uitvoert. Een sturingschip van 18 dollar verdubbelt de trefkans van een drone — van 40% naar 80% — door het doelwit te blijven volgen, zelfs zonder radioverbinding. In de laatste seconden is geen mens meer nodig.

De schaal groeit navenant: van ongeveer 800.000 drones in 2023 naar een geplande 7 miljoen dit jaar. Elke aanval levert bovendien trainingsdata op voor de volgende generatie — meer dan honderd Oekraïense bedrijven trainen inmiddels tachtig-plus AI-modellen op live gevechtsbeelden.

Wat er feitelijk is veranderd

Drie dingen, onafhankelijk van elkaar gemeten in elk van deze drie gebieden:

• Snelheid — van honderden analisten en jaren werk naar een doorlooptijd van uren, met menselijke checks die vaak nog maar seconden duren.
• Schaal — van uitzonderlijke besluiten naar massaproductie.
• Autonomie — van beslissingsondersteuning naar fysieke uitvoering.

Waarom dit me meer bezighoudt dan de techniek

Simone Weil schreef in 1939 dat geweld een mens tot een ding maakt. Lavender doet dat nu automatisch: een score in plaats van een naam. Zygmunt Bauman liet zien hoe bureaucratie verantwoordelijkheid in zulke kleine stukjes knipt dat niemand hem nog draagt — precies wat er gebeurt als "de mens keurt goed" een kwestie van seconden wordt, bij duizend doelen per dag.

Het gevaar zit niet in machine tegen mens. Het zit in het verdwijnen van het moment waarop een mens de ander nog als mens zag, en dus kón weigeren. Dat moment wordt in elk van deze drie gebieden kleiner, in hetzelfde tempo waarin de modellen zelf krachtiger worden.

Deel 2 van deze reeks gaat over iets dichter bij huis: algorithmic wage discrimination — hoe algoritmes bepalen wat jij verdient.

Dit is een verkorte versie. De volledige analyse — met alle zes gebieden, bronnen, cijfers en de realpolitieke logica erachter — staat op https://www.jeroenteunisse.nl/de-impact-van-ai-op-oorlogsvoering/