De Amerikaanse Food and Drug Administration (FDA) werkt aan een nieuwe regelgevende aanpak voor medische hulpmiddelen die gebruikmaken van generatieve artificiële intelligentie (GenAI). In een discussiedocument stelt het agentschap een evaluatie voor die gebaseerd is op de competenties van het systeem, naar het voorbeeld van de manier waarop artsen worden beoordeeld. Doel is de regelgeving aan te passen aan technologieën waarvan de prestaties in de loop van de tijd kunnen evolueren en waarvan de beoordeling niet uitsluitend op klassieke evaluatiemethoden kan steunen.
Door de snelle toename van generatieve AI-toepassingen in de gezondheidszorg komt het huidige regelgevingskader voor medische hulpmiddelen volgens de FDA onder druk te staan. Het gaat om technologieën die variëren van eenvoudige informatie-instrumenten tot hulpmiddelen die rechtstreeks betrokken zijn bij de klinische zorg, met of zonder tussenkomst van een zorgverlener.
Het document, dat ter consultatie aan de belanghebbenden wordt voorgelegd, vormt geen ontwerprichtlijn en markeert het begin van een regelgevende denkoefening.
“Wij starten een transparant proces om een aanpak uit te werken die patiënten en consumenten beschermt, innovatie stimuleert en als mogelijk model kan dienen voor regelgevende instanties wereldwijd”, zegt Michelle Tarver, directeur van het Center for Devices and Radiological Health (CDRH) van de FDA.
Waarnemend FDA-commissaris Kyle Diamantas benadrukt van zijn kant dat “artificiële intelligentie de geneeskunde verandert” en dat de Verenigde Staten een voortrekkersrol moeten spelen bij de veilige en verantwoorde ontwikkeling en toepassing van deze technologie.
Evaluatie naar het voorbeeld van artsen
De belangrijkste nieuwigheid in het document is het concept van een “competency-based approach”. In plaats van een hulpmiddel uitsluitend te beoordelen op basis van eenmalige tests vóór het in de handel wordt gebracht, stelt de FDA een aanpak voor die vergelijkbaar is met de manier waarop artsen worden geëvalueerd en gecertificeerd.
Concreet zou die aanpak steunen op drie pijlers: het vastleggen van technische en klinische prestatiedrempels vóór de markttoelating, het aantonen van de competenties van het hulpmiddel in situaties die representatief zijn voor de klinische praktijk en een continue opvolging van de prestaties nadat het hulpmiddel in de handel is gebracht.
De FDA wijst erop dat generatieve AI-systemen zich op twee belangrijke punten onderscheiden van traditionele medische hulpmiddelen: hun antwoorden kunnen van gebruik tot gebruik verschillen en hun prestaties kunnen in de loop van de tijd evolueren. Die dynamische aard vereist een aangepaste evaluatiemethode.
Versterkte opvolging na het in de handel brengen
Het document gaat ook in op de opvolging nadat een hulpmiddel in de handel is gebracht. De FDA onderzoekt of meer gewicht kan worden toegekend aan de monitoring van de prestaties in de dagelijkse praktijk en of een grotere onzekerheid bij de voorafgaande beoordeling van de risico-batenverhouding aanvaardbaar is, op voorwaarde dat die wordt gecompenseerd door een versterkte opvolging na het in de handel brengen.
Daarnaast stelt het agentschap een methode voor om het risico te beoordelen door de aard van de taken die het hulpmiddel uitvoert af te zetten tegen de mogelijke gevolgen van foutieve output.
Welke referentiestandaard?
Een van de centrale vragen is welke referentiestandaard moet worden gebruikt. Voor veel hulpmiddelen zouden de prestaties volgens de FDA kunnen worden vergeleken met de consensus van een panel van gekwalificeerde clinici dat de geldende zorgstandaard weerspiegelt, of met de prestaties van een “gemiddelde” clinicus in de dagelijkse praktijk.
Uiteindelijk wil de FDA komen tot een soepelere regelgevende aanpak, volgens het principe van de minst belastende reglementering, zodat patiënten sneller toegang krijgen tot veilige en doeltreffende medische hulpmiddelen zonder afbreuk te doen aan een hoog beschermingsniveau.
