OpenAI heeft aangekondigd dat de elektronische patiëntendossiers van Epic worden geïntegreerd in ChatGPT for Healthcare. Bevoegde artsen zullen de AI rechtstreeks kunnen bevragen op basis van het dossier van hun patiënt. Een tweede tool biedt toegang tot negen openbare medische databronnen, waaronder PubMed en DailyMed. Nu generatieve AI steeds dichter bij de klinische gegevens komt, klinkt echter ook de roep om voorzichtigheid.

OpenAI zet een nieuwe stap in de integratie van artificiële intelligentie in de klinische praktijk. Het Amerikaanse bedrijf kondigde op 1 september een koppeling aan tussen ChatGPT en Epic, een van de belangrijkste systemen voor elektronische patiëntendossiers (EPD).

Concreet kan een arts ChatGPT vragen wat er sinds de vorige raadpleging is veranderd, recente laboresultaten opvragen of informatie terugvinden over geneesmiddelen, diagnoses of gegevens uit klinische notities. Welke gegevens toegankelijk zijn, hangt af van de configuratie die de zorginstelling kiest en van de toegangsrechten waarover de zorgverlener al beschikt in Epic.

Er zijn twee gebruiksmogelijkheden. De arts kan in ChatGPT de patiëntgegevens raadplegen waarvoor hij of zij gemachtigd is of, in bepaalde configuraties, ChatGPT rechtstreeks gebruiken binnen de omgeving van het elektronische patiëntendossier.

De koppeling is momenteel beperkt tot leestoegang. ChatGPT kan het dossier niet wijzigen, geen voorschriften uitschrijven, geen berichten naar patiënten versturen en de bestaande toegangsrechten niet omzeilen. OpenAI benadrukt dat de arts verantwoordelijk blijft voor het controleren van het oorspronkelijke dossier en voor de klinische beslissingen.

UCSF Health is een van de pilootpartners. De Californische zorginstelling onderzoekt onder meer of de tool klinische teams kan helpen om veranderingen en belangrijke informatie in complexe patiëntendossiers sneller te identificeren.

Toegang tot negen medische databronnen
Tegelijk lanceert OpenAI ‘Healthcare Public Data’, een tool waarmee negen openbare databronnen uit de gezondheidszorg kunnen worden geraadpleegd. Het gaat onder meer om PubMed, ClinicalTrials.gov, DailyMed en RxNorm, naast gegevens van de Centers for Medicare & Medicaid Services (CMS). Ook deze tool biedt alleen leestoegang en heeft geen toegang tot patiëntendossiers.

De toepassing moet het onder meer mogelijk maken om vanuit ChatGPT wetenschappelijke publicaties, klinische studies en officiële informatie over geneesmiddelen op te zoeken.

OpenAI zegt het gebruik van AI met informatie uit elektronische patiëntendossiers te hebben geëvalueerd voor 27 klinische gebruiksscenario’s. Van 4.363 evaluaties werd 99,1% van de antwoorden door de deelnemende artsen als veilig beoordeeld. Bij een andere evaluatie, waarbij gekoppelde databronnen werden gebruikt, kreeg meer dan 93% van de antwoorden voor nauwkeurigheid de beoordeling ‘goed’ of 'beter'. De resultaten zijn afkomstig van OpenAI zelf en vormen geen onafhankelijke klinische validatie van de integratie in de dagelijkse praktijk.

Ziekenhuis- en IT-verantwoordelijken roepen op tot voorzichtigheid
De komst van generatieve AI tot in de buurt van het patiëntendossier roept niettemin vragen op. Verschillende verantwoordelijken van Amerikaanse zorginstellingen die na de aankondiging door Becker’s Hospital Review werden bevraagd, vinden dat de door AI gegenereerde resultaten traceerbaar, controleerbaar en auditeerbaar moeten zijn aan de hand van het patiëntendossier en steeds moeten worden getoetst aan het klinische oordeel van de arts.

Mitchell Schnall, radioloog en verantwoordelijk voor data en technologie bij Penn Medicine, benadrukt onder meer dat artsen de bron van de door AI gepresenteerde informatie moeten kunnen terugvinden en dat de prestaties van het systeem in de tijd moeten worden opgevolgd. Cedars-Sinai wijst dan weer op het belang van veilige authenticatie, het respecteren van toegangsrechten, traceerbaarheid en het toetsen van de resultaten aan het patiëntendossier en het klinische oordeel.

De Epic-integratie is voorbehouden aan organisaties met een ChatGPT for Healthcare-omgeving of bepaalde ChatGPT Enterprise-omgevingen die aan de HIPAA-vereisten voldoen. De zorginstelling moet de koppeling configureren en de zorgverlener moet individueel verbinding maken met zijn of haar Epic-account. De integratie is niet beschikbaar voor individuele ChatGPT for Clinicians-accounts.

OpenAI heeft voorlopig geen specifieke uitrol van deze integratie in Belgische zorginstellingen aangekondigd.