Gezondheidsinnovaties
Law Centre for Health and Life
De zorgkosten zullen de komende jaren steeds blijven groeien, zo zijn de voorspellingen. Er is een dringende behoefte aan duurzame zorgsystemen. Door innovaties in de zorg; nieuwe medische hulpmiddelen, nanogeneeskunde, eHealth en de steeds groeiende rol van kunstmatige intelligentie (AI) veranderen de structuur, de organisatie en soms ook de wijze van machtsuitoefening in de volksgezondheid en de gezondheidszorg. AI-technologieën kunnen worden ingezet voor praktisch ieder aspect van de gezondheidszorg en volksgezondheid: van AI-software voor het detecteren van borstkanker in screeningsmammografie en AI-algoritmen die een voorspelling kunnen doen over de uitbraak van besmettelijke ziekten, tot AI-gedreven draagbare apparaten om patiënten op afstand te monitoren en volledig autonome robotica. AI belooft miljarden levens te redden.
Nieuwe technologie in de zorg en de publieke gezondheid kan mogelijkheden om meer efficiëntie te bereiken en daarnaast de kwaliteit en veiligheid van de gezondheidszorg te verbeteren. Tegelijkertijd kunnen deze technologieën ook een schaduwzijde hebben bijvoorbeeld voor de zelfbeschikking van patiënten, de bescherming van medische gegevens, of voor de professionele verantwoordelijkheid van zorgverleners. We werken aan deze uitdagingen in de context van deze projecten:
- Artificiële Intelligentie in de zorg & patiëntenrechten
- Artificiële Intelligentie in de zorg & professionele autonomie
Maatschappelijke impact
De bevindingen uit deze onderzoekslijn kunnen een brede impact hebben op beleid en praktijk. De belangrijkste bevindingen zullen worden gebruikt om te evalueren of er voldoende wettelijke garanties zijn in de huidige wetgeving en het huidige beleid om op EU-niveau voldoende bescherming te bieden aan de eindgebruikers van AI in de gezondheidszorg: patiënten. Andere resultaten zullen ook inzichten opleveren op het gebied van de toekomstige ontwikkeling van nieuwe AI-modellen en hun klinische implementatie.
Connecties met de UvA community
Deze onderzoekslijn draagt bij aan één van de prestigieuze interfacultaire Research Priority Areas van de UvA: AI Health decision making, die wordt gecoördineerd door het AmsterdamUMC in samenwerking met de Faculteit der Natuurwetenschappen, Wiskunde & Informatica en de Faculteit der Geesteswetenschappen. De onderzoekslijn is verbonden met het programma Human(e) AI van de UvA.
-
Artificiële Intelligentie & patiëntenrechten
Risico’s die geassocieerd zijn met AI, zoals discriminatie, verminderde privacy en ondoorzichtige besluitvormingsprocessen, worden uitvergroot als het om gezondheid gaat. Dit komt door de kwetsbaarheid en afhankelijkheid van patiënten en de mogelijk levensbedreigende effecten van inaccurate of disfunctionele AI-technologieën in de gezondheidszorg. Een gebrek aan adequate regulering van AI in de gezondheid kan inbreuk maken op patiëntenrechten.
Dit PhD-project beoogt te onderzoeken op welke manier AI in de gezondheid kan worden gereguleerd op EU-niveau en exploreert de juridische uitdagingen die hieraan ten grondslag liggen door de lens van patiëntenrechten door gebruik van zowel juridische als sociale onderzoeksmethoden. Drie case studies worden geanalyseerd: het gebruik van AI in volksgezondheid surveillance, het gebruik van AI gedreven medische beeldvorming bij diagnostiek en het gebruik van AI in de klinische besluitvorming.
Betrokken onderzoekers
-
Artificiële Intelligentie & professionele autonomie
Het gebruik van op AI gebaseerde instrumenten in het besluitvormingsproces is van invloed op de klinische risicobeoordelingen van zorgverleners. Deze zijn verankerd in hun professionele autonomie als medische experts en kunnen belangrijke consequenties hebben voor de relatie tussen patiënt en zorgverlener. Enerzijds is de autonomie van zorgprofessionals gebaseerd op wettelijke verantwoordelijkheid en potentiële medische aansprakelijkheid. Anderzijds ligt de autonomie van de patiënt ten grondslag aan geïnformeerde toestemming, de bescherming van de privacy en de menselijke waardigheid van patiënten. De introductie van AI-instrumenten voor het nemen van beslissingen in de zorg kan een cruciale invloed hebben op de juridische relatie tussen patiënt en zorgverlener, die is gebaseerd op vertrouwen en het beschermen van autonomie.
Dit PhD-project, onderdeel van de UvA Research Priority Area met betrekking tot AI-besluitvorming, beoogt een workflow en infrastructuur op te zetten voor de ontwikkeling van AI-besluitvormingsmethoden die zijn ontwikkeld met behulp van real-world data, geëvalueerd in klinische omgevingen en waarbij wettelijke en ethische principes leidend zijn in elk stadium. Het PhD-project onderzoekt hoe de (juridische) relatie tussen patiënt en zorgverlener wordt beïnvloed door de introductie van AI-besluitvorming over gezondheid en vice versa. Daarnaast heeft het PhD-project tot doel om te evalueren of de voorgestelde AI-modellen de ethische en juridische overwegingen tegemoet komen en om inzicht te verkrijgen in de impact van AI-besluitvorming in de zorg op (vermeende) privacy, gegevensbescherming, vertrouwen en aansprakelijkheid.Financiering
- UvA Research Priority Area: AI decision making in health.
Betrokken onderzoekers