17 April 2024
In hun artikel bespreken ze de tekortkomingen van de huidige regelgevende kaders in de EU en de VS met betrekking tot het gebruik van AI bij het ontwikkelen en inzetten van klinische genomische hulpmiddelen. Ze maken bezwaar tegen: onvoldoende dekking van de relevante regelgeving voor medische hulpmiddelen, gebruik van systematisch bevooroordeelde gegevens voor het testen en goedkeuren van hulpmiddelen en een gebrek aan robuuste benaderingen om de diversiteit of representativiteit van tests en doelpopulaties te meten.
Hoewel de AI-wetgeving die binnenkort van kracht wordt een aantal van de genoemde punten van zorg kan wegnemen, zijn er nog een aantal gebieden die in het oog springen. Ten eerste, hoe kunnen we op een effectieve manier de beperkingen van de testen voor diverse populaties bekendmaken? Ten tweede, de inconsistentie van de gegevenseisen met beperkende wetten voor gegevensbescherming, en ten slotte, de onbedoelde impact van de aansprakelijkheidsregels op de inzet van de instrumenten in klinische omgevingen.