Met een achtergrond in biotechnologie heeft Pieter van Boheemen, nieuwe voorzitter van de werkgroep Mensgerichte AI, een waardevol perspectief op hoe technologische ontwikkelingen in onze maatschappij worden geïntroduceerd. Waar in de biotechnologie aan zorgvuldige regels en protocollen voor ethiek en veiligheid moet worden voldaan alvorens een nieuwe technologie op de markt mag worden gebracht, gebeurt dit met informatietechnologie net andersom. Pas jaren na de introductie van sociale media, vragen we ons nu af of we dit wel moeten willen op deze manier.
De rol van technologie in de samenleving
In zijn 5 jaar bij het Ratenau instituut, een denkdank die het parlement adviseert over de impact van wetenschap, innovatie en technologie op de samenleving, verdiepte Pieter zich in technologieën zoals quantum, 5G en AI. Daar was steeds de vraag hoe de technologie de samenleving, ons welzijn en de welvaart beïnvloedt en hoe we daar democratisch gezien voldoende grip op kunnen krijgen en houden.
Met zijn huidige functie aan Hogeschool Rotterdam heeft Pieter de praktijk van verantwoorde AI opgezocht. Daar houdt hij zich bezig met de gevolgen van implementatie van verantwoorde AI in de brede reeks aan beroepsgroepen waar de hogeschool opleidingen voor biedt, van logistiek tot accountancy en verpleging. Dat vult hij aan als docent verantwoord innoveren aan de hogeschool voor toegepaste filosofie, waar hij juist vanuit filosofische hoek kijkt naar vraagstukken rondom innovatie en verantwoordelijkheid in de context van technologie. Aanvullend verkent hij vanuit zijn eigen stichting Post-X society hoe we als samenleving op een democratische manier door de sociale, maatschappelijke, technologische en economische transitie heen kunnen komen. Allemaal zeer relevante ervaring die Pieter inbrengt in zijn nieuwe rol als voorzitter van de werkgroep Mensgerichte AI.
Wat betekent mensgerichte AI voor jou?
“Bij verantwoorde AI wordt vaak vooral gekeken naar technische zaken zoals privacy, uitlegbaarheid van algoritmes en het voorkomen van vooringenomenheden. Maar minstens zo belangrijk is het grotere plaatje; welke invloed heeft AI op menselijke relaties, op de relatie tussen mensen en organisaties, en op hoe we werken, hoe we opvoeden en hoe we van elkaar houden? Voor mij betekent mensgerichte AI dat je dat in ogenschouw neemt. En dat je AI vanuit die gedachten introduceert en toepast in de maatschappij.”
Hoe ben je in aanraking gekomen met de Nederlandse AI Coalitie?
“Ik volg de NL AIC al heel lang, omdat het een heel goed platform biedt om inzicht te krijgen in wat er allemaal speelt op het gebied van AI in Nederland, en wie waarmee bezig is. Vanuit mijn rol aan de Hogeschool Rotterdam ben ik echt actief betrokken geraakt, en dan vooral op het gebied van Onderwijs. De werkgroep Mensgerichte AI en de publicaties die daaruit zijn gekomen heb ik ook steeds gevolgd.”
Hoe kijk je aan tegen AI op dit moment?
“Ik merk dat AI in een nieuwe fase is beland. De technologie wordt natuurlijk al decennia ontwikkeld, maar we beginnen nu echt te zien wat de invloed ervan zal zijn op onze samenleving. Daarom is mensgerichte AI nu urgenter dan ooit. Omdat we zien dat de dominante toepassingen van AI tot nu toe vooral van buiten Europa afkomstig zijn, hebben we er beperkt invloed op. Als respons daarop is recent de EU AI Act aangenomen en zal duidelijk moeten worden wat het effect daarvan is. Kan Europa zich daarmee onderscheiden, en leidt het daadwerkelijk tot mensgerichte toepassingen van AI? Hoe wordt handhaving ingericht en hoe zorgen we dat daar een representatieve groep mensen bij betrokken is? Dat zijn vragen waar we de komende jaren de antwoorden op zullen verkrijgen, en dat maakt het voor mij een logische en zeer interessante fase om me in te zetten voor dit onderwerp en deze werkgroep.”
Wat is volgens jou de grootste uitdaging voor AI de komende tijd?
“Ik stipte het hiervoor al even aan, ik vind het heel belangrijk dat we zorgen dat stemmen die gehoord worden in de discussies en regelgeving rondom mensgerichte AI een weerspiegeling zijn van de samenleving, en dat er voldoende terugkoppeling mogelijk is. Dat is van cruciaal belang om te zorgen dat toepassingen voldoen aan de eisen de we stellen voor mensgerichte AI, maar is ook ontzettend moeilijk. Bovendien is AI in de kern gebouwd op standaardisatie, terwijl juist de unieke menselijke kenmerken, de uitzonderingen, ons mens-zijn zo bijzonder maakt. Hoe we dat integreren in AI-systemen en -diensten is een uitdagende opgave.”
Wat is wat jou betreft de rol van de NL AIC bij het aangaan van die uitdaging?
“In bijvoorbeeld de ELSA Labs worden belanghebbenden betrokken op thema’s. Voorbeelden zijn mensen die patiënt zijn of in de schuldhulpverlening zitten, of met AI werken in hun baan. Daarnaast is ‘de maatschappij’ ook één van de vier thema’s in de werkgroep Mensgerichte AI. Op dat thema wordt met andere werkgroepen en deelnemers samengewerkt om inspraak van burgers op grote schaal te organiseren. Dat zijn potentiële doorbraakprojecten. Ik ben dan ook van mening dat wij als Nederlandse AI Coalitie bij uitstek de aangewezen organisatie zijn om dat proces te orkestreren.”
Kun je iets meer vertellen over de samenwerking met andere werkgroepen?
“Vanuit de werkgroep Mensgerichte AI hebben wij een spilfunctie, omdat we raakvlakken hebben met zo goed als alle andere werkgroepen. In die werkgroepen wordt ons werk dan ook geconcretiseerd. Zo zijn wij bijvoorbeeld betrokken bij de uitwerking van de implicaties van de EU AI ACT, samen met een werkgroep op initiatief van het ministerie van Economische Zaken en Klimaat en de RDI waar ook de werkgroepen Veiligheid, Vrede en Recht, Publieke Diensten en Human Capital aan meewerken. Op het thema maatschappij werken we samen met de werkgroepen Publieke Diensten, Human Capital en ook Cultuur en Media. Op het thema ethiek is de werkgroep Onderwijs een voorloper, want die hebben veel behoefte aan informatie op dat vlak, dus daar wisselen we veel kennis en ervaringen mee uit, maar zij ontwikkelen zelf ook heel veel. En dan is er bijvoorbeeld ook de juridische kant van data delen in en tussen zorginstellingen, daar werken we actief samen met de werkgroep Gezondheid en Zorg.”
Wat zie je bij de implementatie van mensgerichte AI als succesfactor?
“Kijkend naar hoe AI kan worden toegepast, moet mensgerichte AI een positief uitgangspunt hebben, waarbij het wordt ingezet om mensen te ondersteunen bij het maken van gewenste keuzes. De betrokkenheid van eindgebruikers maakt al onderdeel van de aanpak via het ELSA concept, maar gezien de vele voorbeelden waarbij we de toepassing van AI elders in de praktijk mis zien gaan, heeft het betrekken van eindgebruikers wel mijn bijzondere aandacht.”
Kun je al iets noemen over de projecten waar jullie mee bezig zijn en eventuele resultaten?
“Waag Futurelab onderzocht recent samen met Ipsos I&O in opdracht van de NL AIC of inwoners van Nederland op de hoogte zijn van AI-ontwikkelingen en welke onderwerpen zij belangrijk vinden op het gebied van AI. Het onderzoek geeft aan welke thema’s de samenleving bovenaan de AI-onderzoeksagenda plaatst voor Nederland. Ook geeft het inzicht in de bekendheid van AI. Ik nodig graag ieder uit kennis te nemen van deze resultaten. Ze scherpen de inhoudelijke koers van het programma ‘Societal’ aan en bieden waardevolle input voor alle werkgroepen van de NL AIC.Ik vind het daarnaast een mooi voorbeeld van hoe we de samenleving kunnen betrekken bij het maken van inhoudelijke keuzes.”
Waar hoop je met de werkgroep Mensgerichte AI en met de Nederlandse AI Coalitie over twee jaar te staan?
“Uiteindelijk is het onze ambitie dat mensen in Nederland vertrouwen hebben in AI als technologie en hoe die wordt ingezet, maar dat heeft waarschijnlijk meer tijd nodig dan twee jaar. Mijn streven is om over twee jaar substantieel meer grip te hebben op de invloed van AI op onze samenleving, op de ethische toepassing van AI en dat de interpretatie en uitvoering van de EU AI Act vorm heeft gekregen. Daar zet ik me graag met enthousiasme en energie voor in.”
Interesse in de activiteiten van de werkgroep Mensgerichte AI?
Bent u op zoek naar meer informatie over de werkgroep Mensgerichte AI? Raadpleeg dan deze pagina of neem contact op met Náhani Oosterwijk.
