Artificiële intelligentie raakt steeds meer verweven met de opzet van klinische proeven, waar het geschikte patiënten identificeert, hen op basis van risico in groepen indeelt en soms zelfs de resultaten toewijst. In een bijdrage die op 11 juli 2026 verscheen in npj Digital Medicine, wijzen Johanna Blom en Luca Pani erop dat deze verschuiving de aard van het probleem verandert: wanneer een ondoorzichtig algoritme beslist wie aan een proef mag deelnemen, bepaalt het daarmee de populatie waarop het gehele medische bewijs zal berusten.
Deze constatering is niet nieuw. De ondervertegenwoordiging van minderheden, vrouwen, ouderen en kansarme bevolkingsgroepen is een chronisch probleem. Franzen en zijn collega’s hebben aangetoond dat deelnemers aan onderzoeken naar de ziekte van Alzheimer overwegend blank bleven, met een mediaan van 94,7%, zonder significante verbetering in bijna twintig jaar; Guerra wijst erop dat minder dan 5% van de kankerpatiënten in een onderzoek wordt opgenomen. Deze hardnekkige situatie is echter niet te wijten aan een gebrek aan inspanning; de auteurs pleiten dan ook voor een structurele oplossing in plaats van voor nieuwe aansporingen.
Technologie is nooit neutraal, en AI illustreert dit tweesnijdende karakter. Het kan ongelijkheden versterken: Omar en zijn collega’s hebben op basis van meer dan 1,7 miljoen outputs van negen grote taalmodellen vastgesteld dat mensen die als zwart, dakloos of LGBTQIA+ werden gelabeld, vaker werden doorverwezen naar spoedeisende zorg of invasieve ingrepen zonder klinische rechtvaardiging. De zaak-Obermeyer blijft symbolisch: een algoritme dat de zorgkosten als indicator voor de zorgbehoefte gebruikte, gaf bij patiënten met een vergelijkbare complexiteit lagere prioriteit aan zwarte patiënten; deze vertekening bleef onzichtbaar totdat er een externe audit plaatsvond, bij gebrek aan transparantie. Als AI op de juiste manier wordt beheerd, kan het echter ook ongelijkheden verminderen, op voorwaarde dat het transparant genoeg is om te worden gecontroleerd.
Vandaar hun centrale concept. Geïntegreerde transparantie omvat vier eigenschappen die al bij het ontwerp aanwezig zijn: interpretabiliteit in een vroeg stadium, demografische controleerbaarheid, gedocumenteerd omgaan met onzekerheid, en een uitleg die is afgestemd op elke belanghebbende. De auteurs maken een onderscheid tussen openbaarmaking, waarbij de informatie technisch beschikbaar wordt gesteld, en transparantie, waarbij de informatie in een bruikbare vorm bij de juiste doelgroep terechtkomt: het publiceren van een modelbeschrijving valt onder het eerste, terwijl het toestaan dat een clinicus of een ethische commissie de beslissingslogica kan toetsen, onder het tweede valt. Deze transparantie maakt afwegingen zichtbaar, betwistbaar en herzienbaar, zonder echter rechtvaardigheid te garanderen.
Voor de Europese lezer is de koppeling met Verordening 2024/1689 direct: AI-systemen in de gezondheidszorg worden daar als hoog risico geclassificeerd, en artikel 10 schrijft representatieve datasets voor. Ik blijf bij het voorbehoud dat ik al lang heb geuit: dit kader is noodzakelijk, op voorwaarde dat het niet uitgroeit tot onbeheersbare complexiteit. En opleiding blijft de doorslaggevende hefboom, want een commissie kan niet eisen wat zij niet begrijpt, en een clinicus kan geen stratificatie betwisten die hij niet kan interpreteren.
