Menselijke besluitvorming en menselijke controle staan altijd centraal bij Defensie. Dat verandert niet met de introductie van AI. Ook in bedreigende situaties moet de mens de eindcontrole hebben. Daarbij moeten we wel een antwoord hebben als er aanvallen plaatsvinden waarbij de tegenpartij bijvoorbeeld in autonome wapens gebruikmaakt van AI-technologie. Cyberweerbaarheid speelt hierin een steeds grotere rol, aangezien aanvallen zich steeds vaker in de digitale wereld afspelen. De inzet van AI-systemen is daarmee een onderwerp dat binnen Defensie alle aandacht heeft.

Open discussie

Tegelijkertijd is de inzet van AI-systemen een onderwerp dat om de nodige discussie vraagt. Een discussie die Defensie graag met de samenleving aangaat en waar ELSA Labs een belangrijke rol bij spelen. Naast overheid, kennisinstituten en het bedrijfsleven, krijgen ook maatschappelijke organisaties en burgers gelegenheid om aan te geven wat zij belangrijke aandachtspunten vinden bij het ontwikkelen van AI-systemen voor defensiedoeleinden, en hoe je dat op een verantwoorde wijze doet.

Innovatiekansen

Defensie werkt nauw samen met bedrijven die AI-systemen ontwikkelen en andere partijen die bij de ontwikkeling, productie en ingebruikname van die systemen betrokken zijn. Aangezien het technologie betreft die een belangrijke bijdrage levert aan onze veiligheid, kun je de ontwikkeling van AI-systemen voor specifieke defensiedoeleinden niet aan iedereen overlaten. Ook kennis over de werking van die AI-oplossingen moet in Nederland blijven. Soms is dat lastig, maar het voordeel van die werkwijze is dat het ons land mooie innovatiekansen oplevert.

Samenwerking

Niet alle AI-systemen waar Defensie gebruik van maakt, vallen onder het kopje ‘vitale technologie’. Er zijn ook toepassingen waarvoor Defensie aansluit bij bestaande initiatieven. Dat verklaart eveneens waarom de werkgroep Defensie niet alleen actief de samenwerking opzoekt met kennisinstituten en bedrijven, maar ook met andere werkgroepen van de Nederlandse AI Coalitie, zoals: Gezondheid en Zorg, Mobiliteit, Transport en Logistiek, Gebouwde Omgeving en Haven en Maritiem.

Werkgroep

Binnen de werkgroep Defensie werken deelnemers samen om de grootste kansen en uitdagingen voor AI te identificeren, samenwerkingspartners te verbinden en te werken aan een programma dat zich op vijf toepassingsgebieden richt:

1. Onbemande autonome systemen: belangrijkste uitdagingen daarbij zijn verplaatsing door onbekend terrein onder dreiging, het verzamelen van informatie op gevaarlijke en moeilijk bereikbare plaatsen en het verantwoord belemmeren van de tegenstander onder betekenisvolle menselijke controle. Als het gaat om bewapende systemen ondersteunt Defensie het advies van de Adviesraad Internationale Vraagstukken (AIV).
2. Ondersteuning voor militaire besluitvorming en inlichtingen, waarbij harde en zachte sensordata worden verzameld en gecombineerd zodat situational awareness ontstaat en er vervolgens advies gegeven kan worden over het handelingsperspectief in multi-domain operations.
3. Logistiek en predictive maintenance, waarbij inzicht in het functioneren van de eigen systemen en platformen wordt verkregen, zodat onderhoud en bevoorrading daar intelligent op kan worden aangepast.
4. Bedrijfsvoering: inzicht in de gereedheid van personeel en materieel, persoonsgerichte training en opleiding, effectieve zorg, energietransitie en vastgoedbeheer zijn een aantal van de onderwerpen waar Defensie met inzet van AI verbeteringen verwacht.
5. (Bedrijfs)veiligheid: risico-identificatie en -management voor personeel en materieel onder alle omstandigheden (dus ook als er gevaarlijke stoffen in het spel zijn, om maar even een voorbeeld te noemen). En dat alles binnen de kaders van veranderende regelgeving.

Daarbij is er uiteraard veel aandacht voor datadeling en -beheer, opleiding en training, robuustheid, uitlegbaarheid, cyberweerbaarheid, betekenisvolle menselijke controle, mens-AI-teams en de ethische en juridische aspecten die er bij de inzet van AI-systemen komen kijken. Regelmatig organiseert de werkgroep bijeenkomsten in het land om deelnemers en Defensie met elkaar in contact te brengen en samenwerking te stimuleren.

Geïnteresseerd in dit thema en wilt u actief bijdragen? Word deelnemer van de NL AIC en profiteer van de kennis en het netwerk rondom Defensie en andere relevante AI-thema’s.