AI Oversight Lab: Ontwikkelen van betrouwbare AI-algoritmen voor publieke instanties

Blauw mensen connect
De ontwikkeling en toepassing van betrouwbare artificiële intelligentie (AI) is essentieel voor het vergroten van het vertrouwen van burgers in AI. De uitdaging is om bestaande algoritmen meer betrouwbaar en ethisch-verantwoord te maken, door te investeren in onder andere goed datagebruik, het verhogen van transparantie, verminderen van bias en een duidelijk beeld te creëren van de effectiviteit en inbedding in een breder toepassingsproces.

Hierbij dienen de bestaande ethische richtlijnen voor betrouwbare AI te worden vertaald naar best practices en concrete tools. Lokale overheden kunnen deze toepassen bij het gebruik van AI-methodes, maar ook softwarebedrijven kunnen hier gebruik van maken bij de verdere ontwikkeling van de AI-methodes.

Inzet van Artificiële Intelligentie

Binnen het project wordt voornamelijk gewerkt aan innovaties rondom ‘betrouwbare AI’, ofwel Trustworthy AI. Hierbij is er aandacht voor zowel de theorie (in de vorm van richtlijnen en criteria) alsook de praktijk (concrete cases van overheden en het ontwikkelen van praktische tools).

Welke uitdaging lost het op?

Het uiteindelijke doel is het vergroten van het vertrouwen in AI-algoritmen door concreet handen en voeten te geven aan betrouwbare AI, waarbij gefocust wordt op onder meer bewustzijn en inperking van risico’s, uitlegbaarheid en auditeerbaarheid van AI-algoritmen. Huidige richtlijnen voor het ontwikkelen en toepassen van betrouwbare AI zijn abstract en vaak lastig in gebruik voor de specifieke context van onder andere gemeenten, inspecties en andere publieke instanties. Dit wordt uitgewerkt in het project via twee assen: Via het onderzoeken van concrete cases uit de praktijk (zoals AI-methodes die door gemeenten worden gebruikt en het doen van aanbevelingen) en door het vertalen van de theorie en ethische richtlijnen naar best practices en concrete tools.

Wat levert de use case op?

De beoogde resultaten zijn het formuleren en ontwikkelen van:

  • Beleid rondom het gebruik van AI-algoritmen.
  • Criteria voor betrouwbare AI-tools en het verzamelen van best practices rondom deze tools.
  • Prototypes van deze AI-tools die voldoen aan de Trustworthy AI principes en richtlijnen.

Verder wordt er aan een Community of Practice gewerkt, waarin overheden en andere partners participeren om van elkaar te leren over betrouwbare toepassing van AI. Overheden en publieke autoriteiten die willen participeren in het project zijn van harte welkom.

Eerste resultaat

De Gemeente Nissewaard zet een algoritme in voor risico-indicatie van misbruik of oneigenlijk gebruik van ontvangers van bijstandsuitkeringen. Het specifieke doel van dit algoritme is om de eerder gehanteerde algemene periodieke controle te vervangen, waarbij het toezicht zoveel mogelijk gericht is op de cliënten die de aandacht verdienen (ook wel genoemd: risico-gestuurd handhaven). De gemeente Nissewaard vindt het belangrijk dat het gebruik van het algoritme op correcte wijze plaatsvindt en wil de eigen werkwijze ook kritisch bekijken. Daarom heeft de Gemeente Nissewaard gevraagd mogelijke risico’s ten aanzien van het (gebruik van het) algoritme in kaart te brengen en hiertoe een technisch-inhoudelijke evaluatie van het AI-algoritme uit te voeren. Kijk hier voor meer informatie en bekijk tevens het door TNO opgestelde eindrapport.

Samenwerkingspartners

Dit project is onderdeel van het Appl.AI programma van TNO en wordt mede gefinancierd vanuit de startimpuls die de NL AIC ontving van het kabinet voor onderzoek naar en het ontwikkelen van AI-toepassingen. In het project wordt er onder leiding van TNO samengewerkt met diverse gemeenten en kennispartners zoals het Centraal Bureau voor de Statistiek (CBS). Overheden en publieke autoriteiten die willen participeren in het project zijn van harte welkom.

Delen via:
Share on linkedin
Share on twitter
Share on whatsapp
Share on email
Share on print
Share on facebook

Meer informatie

Bouwstenen

De NL AIC werkt samen aan de benodigde kennis, expertise en resultaten op vijf thema’s, ook wel bouwstenen genoemd, die belangrijk zijn voor een innovatieve impact in economische en maatschappelijke toepassingsgebieden.

Toepassingsgebieden

AI is een generieke technologie die uiteindelijk haar toepassing vindt in alle sectoren. Het is van belang in te zetten op specifieke, voor Nederland relevante sectoren, waar goede resultaten te behalen zijn en waar kennis en ervaring opgeschaald kan worden voor toepassing in andere sectoren.

Word deelnemer

Om initiatieven in Artificial Intelligence te stimuleren en te verbinden, zijn we er als Nederlandse AI Coalitie van overtuigd dat een actieve samenwerking met een breed palet aan stakeholders essentieel is. In het eigen vakgebied en met andere stakeholders in het ecosysteem om een zo groot mogelijke impact te bereiken voor de ontwikkeling en toepassing van AI in Nederland. Vertegenwoordigers uit het bedrijfsleven (groot, klein, startup), overheid, onderzoeks- en onderwijsinstellingen en maatschappelijke organisaties kunnen deelnemen.

Geïnteresseerd? Kijk voor meer informatie op de pagina over de NL AIC.