Het ELSA Lab Value Elignment in Medical AI (VAMAI) is een patient-driven ELSA lab en onderzoekt hoe medische AI kan worden afgestemd op waarden en behoeften van stakeholders, om echt waarde toe te voegen aan betrouwbare AI-oplossingen voor gezondheid en gezondheidszorg. Het ELSA Lab richt zich daarbij op AI-toepassingen binnen het medische domein, waarbij patiënten en zorgprofessionals eindgebruikers zijn.
Aan welke maatschappelijke uitdaging op het gebied van AI wordt gewerkt?
Om het potentieel van medische AI op een verantwoorde manier te realiseren, is het noodzakelijk dat parallel aan de technologische ontwikkeling ook geschikte waarden worden geïdentificeerd, geïmplementeerd en beoordeeld. De betrokkenheid van mensen op wiens gezondheid en welzijn deze AI-technologieën impact heeft, is daarvoor cruciaal.
Dit ELSA Lab brengt academici uit de ethiek, rechten en sociale wetenschappen samen met expertise van patiënten, verzekeraars, zorgprofessionals en bedrijven om value alignment te realiseren in medische AI. Centraal hierbij staat het bevorderen van vertrouwen en non-discriminatie. Dit lab streeft ernaar om binnen vijf jaar bekend te staan als het landelijk kenniscentrum voor ELSA-vraagstukken voor medische AI en als een regionaal expertisecentrum van co-creatie en implementatie van AI-toepassingen in de medische sector.
De activiteiten van het ELSA lab dragen bij aan zowel de centrale missie van de Topsector Life Science and Health (‘In 2040 leven alle Nederlanders tenminste vijf jaar langer in goede gezondheid en zijn de gezondheidsverschillen tussen de laagste en hoogste sociaal- economische groepen met 30% afgenomen’) als bij missie II en missie III van deze centrale missie, namelijk: ‘In 2030 wordt zorg 50% meer (of vaker) in de eigen leefomgeving (in plaats van in zorginstellingen) georganiseerd, samen met het netwerk rond mensen’, en ‘in 2030 is van de mensen met een chronische ziekte of levenslange beperking het deel dat naar wens en vermogen kan meedoen in de samenleving met 25% toegenomen’).
Wat voor type oplossing wordt de uiteindelijke gebruiker geboden?
Dit ELSA Lab werkt interdisciplinair aan enkele use cases binnen het zorgdomein. Deze use cases hebben patiënten en zorgprofessionals als eindgebruikers en omvatten slimme thuismonitoring van patiënten na een operatie, het ondersteunen van zorgprofessionals bij het rapporteren en verwijzen tijdens consulten en beslisondersteuners in kritieke zorg.
De use cases staan centraal en worden vanuit ethiek, recht en sociale wetenschappen onderzocht om value alignment te realiseren. De overkoepelende wetenschappelijke benadering is Ethisch Parallel Onderzoek. Deze aanpak is een vorm van begeleidingsethiek zoals ook geoperationaliseerd in bijvoorbeeld embedded ethics en RRI, maar is specifiek ontwikkeld voor het medische domein en voor interdisicplinaire toepassing, zoals voorzien in dit ELSA Lab.
De bevindingen zullen worden gedocumenteerd in open access wetenschappelijke publicaties, praktische handvatten voor de case studies en worden vertaald naar trainingen en publieksdialogen om maatschappelijke partijen te informeren en de maatschappelijke discussie op te roepen. De overkoepelende inzichten uit dit project zullen worden samengebracht in een toolbox met praktische handvatten voor value alignment in medische AI.
Welke AI-methoden of technologieën worden er tijdens het onderzoek gebruikt?
Het ELSA Lab richt zich op enkele medische use cases waarbij Deep Learning wordt toegepast. Op deze manier wordt verwacht een breed overzicht van ELSA aspecten te genereren. Het onderzoek naar deze use cases richt zich op value alignment, waarbij specifiek vertrouwen en discriminatie van AI in de zorg wordt onderzocht. Hierbij wordt onder andere bekeken of transparantie van het algoritme een probleem vormt binnen de verschillende use cases en in hoeverre bias voor kan komen en hoe dit dient te worden voorkomen.
De data wordt via zowel experimentele als observationele studies verzameld, en opgeslagen op de versleutelde servers van SURF (Surfdrive). Gedurende de volledige cyclus van het onderzoek draagt het team zorg voor bescherming van de data en de privacy van de deelnemende individuen en patiënten. De deelnemende onderzoeksinstituten hebben een data protection officer in dienst die tijdens deze procedure assisteert. Data die geanonimiseerd is, wordt vrij beschikbaar gesteld via Open Science Foundation (OSF). OSF slaat de gegevens op servers binnen EU op. De FAIR data principes zijn gebruikt om deze procedure te faciliteren.
Wordt er samengewerkt met andere sectoren?
In dit co-creatie ELSA Lab wordt samengewerkt met expertisecentra, publiek-private organisaties, overheden en burger-/patiëntenorganisaties, waaronder het UMCU, UU, WUR, TUe en de Patiëntenfederatie. Het ELSA Lab is ingebed in verschillende bestaande initiatieven en netwerken, waaronder de EWUU-alliantie, Human Centered AI focusgebied van de UU, AI-hub Midden-Nederland. Allen hebben een sterke reputatie op het gebied van interdisciplinair AI-onderzoek.
Wat is het ultieme succes dat dit ELSA Lab kan bereiken?
Dit zijn:
- Bruikbare ELSA-richtlijnen voor medische AI-toepassingen, gebaseerd op stakeholders’ waarden, voor ontwikkelaars van AI, stakeholders en beleidsmakers.
- Een toolbox voor value alignment in medische AI die bruikbaar is voor wetenschappers en stakeholders.
- Trainingen voor patiënten en zorgprofessionals voor ELSA-aspecten van medische AI voor patiënten en zorgprofessionals.
Gehonoreerd met het NL AIC Label
De Nederlandse AI Coalitie heeft het NL AIC Label ontwikkeld om haar visie op de ontwikkeling en toepassing van AI in Nederland kracht bij te zetten. Een NL AIC Label is een formele erkenning van (de kwaliteit van) een activiteit in lijn met de ambities en strategische doelen van de NL AIC. De NL AIC feliciteert het ELSA Lab Value Alignment in Medical AI van harte.
Meer informatie?
Wilt u meer informatie over dit ELSA Lab? Neem dan contact op met Karin Jongsma. Bent u geïnteresseerd in meer informatie over Mensgerichte AI, het ELSA concept of andere ELSA Labs, dan nodigen we u graag uit deze pagina te bezoeken.
