Europese onderzoekers waarschuwen voor een paradoxaal effect van artificiële intelligentie in de geneeskunde. Volgens een studie die is gepubliceerd in The Lancet Gastroenterology & Hepatology, zagen artsen die AI gebruikten voor colonoscopieën hun vaardigheden binnen enkele maanden afnemen wanneer ze zonder hulp moesten werken.
De studie is gebaseerd op gegevens die zijn verzameld in vier endoscopiecentra in Polen, in het kader van het ACCEPT-project (Artificial Intelligence in Colonoscopy for Cancer Prevention), gefinancierd door de Europese Commissie en de Japan Society for the Promotion of Science. Tussen september 2021 en maart 2022 werden 2177 colonoscopieën uitgevoerd, waarvan 1443 zonder hulp van AI, door 19 ervaren endoscopisten.
De onderzoekers vergeleken de diagnostische prestaties vóór en na de introductie van AI-tools. Drie maanden voor de implementatie bedroeg het adenomendetectiepercentage (ADR) 28%. Drie maanden later daalde dit percentage tot 22% bij onderzoeken die zonder hulp werden uitgevoerd. Het ADR, een belangrijke indicator voor de kwaliteit van colonoscopieën, meet het percentage onderzoeken waarbij ten minste één adenoma of colorectaal adenocarcinoom wordt gedetecteerd.
“We hebben een verlies aan motivatie, aandacht en cognitieve verantwoordelijkheid bij artsen waargenomen, zodra ze aan AI gewend waren”, legt Marcin Romańczyk, co-auteur van de studie en assistent-professor aan de Universiteit van Silezië, uit in MedPage Today. Hij verwijst naar een fenomeen dat lijkt op het “Google Maps-effect”: een verlies aan vaardigheden als gevolg van afhankelijkheid van een hulpsysteem.
Prof. Omer Ahmad, gastro-enteroloog aan het University College Hospital in Londen, is van mening dat herhaalde blootstelling aan AI de visuele reflexen voor het opsporen van poliepen en het diagnostisch vertrouwen van artsen kan aantasten. “Dit zou het menselijk vormherkenningsvermogen kunnen verminderen en de vaardigheid om met de coloscoop om te gaan kunnen verminderen”, waarschuwt hij in Time.
“Het risico van de-skilling door het gebruik van AI was al theoretisch aan de orde gesteld. Deze studie is de eerste die echte gegevens levert die suggereren dat dit fenomeen zich zou kunnen voordoen”, aldus Catherine Menon, universitair hoofddocent informatica aan de Universiteit van Hertfordshire, in een gesprek met het Science Media Center (SMC). Ze vreest dat deze afhankelijkheid artsen blootstelt aan technologische storingen.
Prof. Venet Osmani, specialist in klinische AI aan de Queen Mary University of London, is voorzichtiger en nuanceert deze conclusies. Hij wijst erop dat het totale aantal colonoscopieën tijdens de studie is toegenomen, wat zou kunnen hebben geleid tot meer vermoeidheid bij artsen, ongeacht het gebruik van AI.
