Het wetsvoorstel is de een eerste stap in de goede richting voor het uniformiseren van wetgeving inzake kunstmatige intelligentie binnen de EU. Er is beoogt een balans te vinden tussen enerzijds effectieve bescherming van fundamentele rechten, en anderzijds het ten volle benutten van de sociaal-economische voordelen die kunstmatige intelligentie te bieden heeft. Van Kolfschooten meent echter dat het wetsvoorstel er niet in slaagt de specifieke uitdagingen op het gebied van gezondheid en kunstmatige intelligentie op te pakken.

Aangezien kunstmatige intelligentie naar aard een soortement zwarte doos is, bestaat er een gerede kans dat het ook effect heeft op fundamentele rechten, zoals het recht om niet gediscrimineerd te worden, het recht op privacy en het recht op toegang tot een effectieve rechtsgang. De EU benadert kunstmatige intelligentie vanuit een risicoafweging: hoe hoger de risico’s zijn bij een bepaalde toepassing, hoe strenger de regel is ten aanzien van het gebruik ervan. Hoewel het wetsvoorstel vaststelt dat alle apparaten die onder de ‘Medical Devices Regulation’ (MDR) vallen een hoog-risico-gehalte hebben, is de sector gezondheidszorg opvallend afwezig op de hoog-risico-lijst. Van Kolfschooten meent dat deze afwezigheid vooral het gevolg is van het feit dat het wetsvoorstel niet vanuit een mensgericht perspectief is geschreven. Het wetsvoorstel negeert het perspectief van de ‘eindgebruikers’ en degenen die daadwerkelijk gevolgen ondervinden van beslissingen die genomen worden op basis van kunstmatige intelligentie. Dit is extra gevaarlijk in de context van de gezondheidszorg, gezien het feit dat patiënten veelal afhankelijk zijn van anderen en er altijd scheve informatieverhoudingen bestaan tussen de patiënt en de zorgverlener.

Ten einde de ‘eindgebruikers’ van kunstmatige intelligentie in de gezondheidszorg  van adequate bescherming te voorzien, stelt Van Kolfschooten dat de EU hen effectieve en afdwingbare rechten moet geven. Ook benadrukt ze dat gezondheid en gezondheidszorg op de hoog-risico-lijst gezet moeten worden. Alleen dan kan de EU ten volle de vruchten plukken van kunstmatige intelligentie binnen de gezondheidszorg.

De blog is gepubliceerd in BMJ Opinion.