Sinds augustus dit jaar is de Europese AI-verordening van kracht. Deze wet- en regelgeving is ontwikkeld om de risico’s van AI te beheersen en de kansen van AI te benutten, zonder daarbij onnodige belemmeringen op te werpen. De AI-verordening moet niet alleen voorkomen dat er schadelijke systemen op de markt komen, maar heeft ook als doel door heldere afspraken over betrouwbaarheid en transparantie het vertrouwen in AI vanuit de samenleving te vergroten.
De AI-verordening gaat uit van verschillende risiconiveaus, waarbij de regels uit de verordening gekoppeld zijn aan de potentiële risico’s van AI-systemen of de toepassingen daarvan. In dit artikel gaan we in op de manier waarop innovatieve organisaties samen met de overheid en toezichthouders aan deze regels kunnen voldoen. Zelfs en juist ook als het om geheel nieuwe AI-systemen of toepassingen gaat. Zoals met de zogeheten regulatory sandboxes.
Regels voor AI
We vragen Cas Mevissen, beleidsmedewerker AI bij het ministerie van Economische Zaken (EZ), naar meer informatie over een pilot voor deze regulatory sandboxes die nu vanuit het ministerie van EZ samen met Rijksinspectie Digitale Infrastructuur (RDI) en de Autoriteit Persoonsgegevens (AP) loopt. Maar eerst wat achtergrondinformatie: “De AI-verordening is Europese productregelgeving, die niet alleen van toepassing is op losstaande AI-toepassingen, maar ook als ze onderdeel zijn van een product of veiligheidssysteem. De wet stelt eisen aan AI-producten op de Europese markt om risico’s voor grondrechten, veiligheid en gezondheid van mensen te beheersen. Daarvoor is dezelfde aanpak gebruikt als bijvoorbeeld voor de veiligheid van speelgoed en medische apparatuur, via het welbekende CE-keurmerk”, zegt Cas Mevissen.
Inzichtelijk maken regelgeving
Een kenmerk van hoog-risico AI-systemen is dat ze grote impact kunnen hebben op de levens van mensen, zowel positief als potentieel negatief. De AI-verordening is erop gericht om die positieve kanten te kunnen benutten, maar het risico op negatieve effecten te verkleinen. Sommige regels uit de AI-verordening zijn complex en hebben betrekking op zaken zoals goed databeheer, risicomanagement en transparantie. En met de doorlopende ontwikkelingen in AI is de verwachting dat er ook organisaties zullen zijn die niet klip-en-klaar in een categorie van de verordening vallen.
“We verwachten dat bedrijven in de praktijk vragen zullen hebben over hoe sommige regels geïnterpreteerd moeten worden in de context van hun product/dienst en welke oplossing het beste in lijn zou kunnen zijn met de regels. Met het oog daarop zijn in de AI-verordening de regulatory sandboxes als instrument opgenomen. Daarbij gaan toezichthouders met organisaties, in het bijzonder kleine en middelgrote bedrijven, in gesprek en bieden waar mogelijk ondersteuning zodat zij met hun innovatieve AI-systemen aan de AI-verordening kunnen voldoen,” licht Cas toe.
Nederland heeft zich tijdens de onderhandelingen van de AI-verordening ingezet voor het opnemen van een onderdeel over ‘regulatory learning’. Dat betekent dat de sandboxes als een terugkoppelingsmechanisme moeten fungeren om bijvoorbeeld best practices of FAQ’s te ontwikkelen of om de AI-verordening te toetsen en waar nodig aan te passen in lijn met ontwikkelingen in de markt. Deelname aan een regulatory sandboxes-traject levert na afloop een bewijs van deelname op, met daarin een overzicht van wat er is besproken en gedaan. Dit kan vervolgens ook worden meegenomen in conformiteitstoetsingen en eventuele controles door de toezichthouder. Volgens de AI-verordening moeten de officiële regulatory sandboxes uiterlijk in augustus 2026 gereed zijn.
Voortvarende start pilot
Er wordt in Nederland gewerkt aan een pilot met een AI-vraagpunt waar ook sandbox-trajecten worden doorlopen. De pilotfase trapte af op het jaarcongres van de Nederlandse AI Coalitie in 2024, waar AI-ontwikkelaars werden opgeroepen om hun vragen over de AI-verordening in te sturen. Op basis van de tientallen inzendingen wordt de beoogde procesaanpak getoetst. Uit de inzendingen is een selectie gemaakt van vragen waar al meteen een antwoord op kan worden geven (eenvoudige vragen’), en inzendingen waar meer expertise, bijvoorbeeld van sectorspecifieke toezichthouders, bij betrokken moeten worden om een antwoord te formuleren; de zogenaamde expertvragen.
Er wordt ook een klein aantal ontwikkelaars uitgenodigd om een pilot regulatory sandboxes-traject te doorlopen. Dit gebeurt bij complexe vragen die vergen dat een casus met de AI-ontwikkelaar samen wordt ontleed. Tijdens dit traject wordt in een reeks aan dieptegesprekken ingegaan op de vaak complexe systemen van de deelnemer en hoe de AI-verordening daar betrekking op heeft en hoe er aan de verordening kan worden voldaan. Hier worden nog geen conclusies aan verbonden, maar dit is een manier voor toezichthouders en vraagstellers om te oefenen met de regulatory sandbox. De inzichten uit deze pilot worden vervolgens gebruikt voor een goede inrichting van de regulatory sandboxes in Nederland.
De AP, RDI en het ministerie van EZ werken samen in deze pilot, waarbij ze ook met andere toezichthouders samenwerken. Toezicht op de AI-verordening vraagt namelijk om een samenspel van verschillende toezichthouders, uit verschillende sectoren en domeinen”, aldus Cas. Onder andere de Autoriteit Financiële Markt en De Nederlandsche Bank, Inspectie Gezondheidszorg en Jeugd en de Nederlandse Voedsel-en Warenautoriteit. Ook andere toezichthouders dan genoemd doen mee in de sandbox. Het ministerie van EZ werkt verder ook samen met andere ministeries voor het opzetten van de sandbox.”
Leerproces voor alle betrokkenen
De regulatory sandboxes zijn dus bedoeld om organisaties te helpen doorgronden hoe de regels van de AI-verordening op hun situatie van toepassing zijn en hoe ze daar aan kunnen voldoen. Dit verlaagt de drempel voor AI-innovatie in Europa, vermindert de potentiële regeldruk bij het moeten voldoen aan de AI-verordening en versterkt de rechtszekerheid van AI-ontwikkelaars. Maar ook toezichthouders en beleidsmakers kunnen van het proces leren.
“Toezichthouders maken straks in de praktijk mee wat wel en niet werkt aan de verordening en met welke nieuwe technologieën organisaties werken. De algemene lessen die daaruit te trekken zijn, kunnen gedeeld worden met andere marktpartijen, toezichthouders, maar ook met beleidsmakers zodat die waar relevant de regelgeving kunnen bijwerken in lijn met de nieuwe inzichten. Zo moet een lerend ecosysteem ontstaan,” aldus Cas. Zo is het ook de bedoeling om, (altijd in overleg met de deelnemende organisatie) conclusies en best practices uit deze trajecten te delen met het AI-ecosysteem, zodat andere AI-ontwikkelaars daar hun voordeel mee kunnen doen en sneller weten hoe zij aan de AI-verordening kunnen voldoen. Van terugkerende vragen kan een FAQ worden gemaakt.
Vervolg pilot
Na de afloop van de pilotfase zullen het ministerie van EZ en de toezichthouders het proces evalueren. Dan wordt ook met relevante organisaties, zoals de NL AIC, besproken hoe de bevindingen aansluiten op hun ervaringen en kennis van het AI-ecosysteem. Interesse in meer informatie? We houden u via deze website op de hoogte van de verdere ontwikkelingen.
Roadshow AI-verordening, sluit u ook aan?
Bent u werkzaam op het gebied van AI, gebruikt uw organisatie AI-systemen of ontwikkelt u deze? En bent u benieuwd wat de AI-verordening voor u of uw organisatie betekent? In samenwerking met het ministerie van Economische Zaken organiseert de NL AIC samen met de regionale AI-hubs een roadshow van regionale informatiebijeenkomsten over de AI-verordening.
Het ministerie van Economische Zaken neemt u dan mee in de belangrijkste inhoud en de laatste ontwikkelingen van de AI-verordening. Aansluitend inspireert een veelzijdig panel van experts en ondernemers uit de regio u met voorbeelden en tips over wat u kunt verwachten op het gebied van regelgeving en de implementatie van de AI-verordening. Houd onze website en socials in de gaten voor de data van deze bijeenkomsten.
Bent u daarnaast geïnteresseerd in de activiteiten van de werkgroep Mensgerichte AI? Bezoek dan deze pagina.
