Volgens Klonowska is een van de meest opvallende ontwikkelingen van het afgelopen decennium het gebruik van algoritmen om objecten te identificeren, zoals militaire complexen, tanks en oorlogsschepen, maar ook scholen en ziekenhuizen. Daarnaast worden AI-systemen ingezet om het gedrag van individuen en hun sociale relaties te voorspellen op basis van gegevens uit sociale media en afgeluisterde gesprekken. Inmiddels wordt AI zelfs gebruikt voor het ontwikkelen van aanvalsstrategieën. Klonowska benadrukt dat deze systemen, ondanks de indrukwekkende ambities, technisch nog lang niet zo geavanceerd zijn als wordt gesuggereerd.
Een belangrijk probleem is dat sommige legers zoveel waarde hechten aan snelheid dat ze de tekortkomingen van AI over het hoofd zien. Dit wordt versterkt door de hype die commerciële bedrijven creëren, waardoor te hoge verwachtingen ontstaan over wat de technologie in de praktijk vermag. Veel AI-toepassingen worden ingezet voordat ze adequaat zijn getest, of worden gebruikt voor taken waarvoor ze niet specifiek zijn ontworpen. Het gevolg is dat nauwkeurigheid naar de achtergrond verdwijnt, met een groter risico op burgerslachtoffers als direct gevolg. Waar mensen fouten maken op individueel niveau, kan AI dat op een veel grotere schaal doen vanwege de snelheid waarmee het doelen kan genereren.
Klonowska wijst ook op de moeizame verhouding tussen menselijk toezicht en AI-systemen. Mensen worden sterk beïnvloed door de uitkomsten van AI, waardoor het in de praktijk bijzonder lastig is om precies op het juiste moment in te grijpen wanneer een systeem faalt. Dit wordt bemoeilijkt door de zogenoemde “tinkering”: het voortdurend aanpassen van interfaces, data en modellen door ingenieurs in samenwerking met militaire commandanten. Elke kleine wijziging in de code kan grote gevolgen hebben, en bijgewerkte systemen kunnen zelden adequaat worden getest voordat ze opnieuw worden ingezet.
De bestaande juridische kaders bieden beperkt soelaas. Veel regelgeving vereist het nemen van voorzorgsmaatregelen, maar bij operaties op hoge snelheid is daar in de praktijk weinig ruimte voor. Klonowska stelt dat het begrijpen van wanneer AI faalt, bijvoorbeeld onder bepaalde weersomstandigheden, een van de grootste uitdagingen is waarmee de sector nu wordt geconfronteerd. Zolang die vraag onbeantwoord blijft, blijft de inzet van AI in militaire contexten een juridisch en ethisch vraagstuk van grote omvang.
