Tijdens het Wonca Europe-congres roept dr. Antonio Parata op om artsen op te leiden voordat kunstmatige intelligentie op grote schaal wordt ingezet.
Tijdens het Wonca Europe-congres in Parijs was kunstmatige intelligentie een van de belangrijkste overkoepelende thema’s van deze editie. Bij deze gelegenheid hield dr. Antonio Parada, huisarts uit Luik en lid van de SSMG, een lezing met de titel „AI-Enhanced Learning in General Practice: Opportunities, Challenges, and Future Directions („AI-ondersteund leren in de huisartsgeneeskunde: kansen, uitdagingen en toekomstperspectieven”). Volgens hem biedt AI een geweldige kans voor de huisartsgeneeskunde, op voorwaarde dat het een hulpmiddel blijft ten dienste van de arts, en geen vervanging voor zijn klinisch oordeel.
Steeds meer artsen willen AI gebruiken, maar slechts weinigen hebben daarvoor een passende opleiding genoten. Dat is de constatering van dr. Parata, die pleit voor een weloverwogen integratie van AI in de huisartsgeneeskunde, gebaseerd op opleiding, kritisch denken en het behoud van de medische beslissingsbevoegdheid bij de clinicus.
„We staan voor een grote paradox”, constateert hij: „de invoering van AI staat voor de deur, maar er is vrijwel geen opleiding voor”, vat hij samen. Volgens de gepresenteerde gegevens heeft 93 % van de huisartsen nog nooit een specifieke opleiding op het gebied van kunstmatige intelligentie gevolgd, terwijl bijna 68 % aangeeft er dringend behoefte aan te hebben en meer dan driekwart zich positief uitlaat over het gebruik ervan in de dagelijkse praktijk.
“Zou je in een auto rijden zonder te kunnen rijden? Toch is dat een beetje wat we vandaag de dag doen met AI”, illustreert hij.
Een klinische mentor in plaats van een vervanger
Voor de arts mag kunstmatige intelligentie niet worden gezien als een vervanging voor klinisch redeneren, maar als een hulpmiddel voor leren en besluitvorming.
Daartoe kunnen drie belangrijke pedagogische bijdragen worden geleverd: adaptief leren dat in staat is om de tekortkomingen van de arts in realtime te identificeren; geavanceerde klinische simulaties en geautomatiseerde feedback op het diagnostisch redeneringsproces.
“AI is er niet om in onze plaats te redeneren. Het ondersteunt ons redeneringsproces”, benadrukt hij.
De “black box” en het verlies van kritische geest: twee grote risico’s
Hoewel de prestaties van AI-modellen snel verbeteren, brengt het gebruik ervan twee grote uitdagingen met zich mee. De eerste is welbekend: algoritmische vooroordelen en de vaak ondoorzichtige werking van de modellen, die beruchte ‘black box’ waarvan de mechanismen moeilijk te interpreteren blijven. De tweede, aldus dr. Parata, wordt minder vaak genoemd maar is net zo zorgwekkend: het gaat om het geleidelijke verlies van het kritische denkvermogen van de arts. “Maar er zijn oplossingen om dit aan te pakken”, benadrukt de arts.
Om deze risico’s te beperken, roept hij op tot de ontwikkeling van verschillende waarborgen, waaronder diversiteitsaudits om vooringenomenheid op te sporen; instrumenten voor ‘verklaarbare AI’ (Explainable AI) om de resultaten begrijpelijker te maken, of toezichtprotocollen die bedoeld zijn om het klinisch oordeel te behouden. Het is „het oordeel dat we moeten behouden ondanks het gebruik van zeer krachtige hulpmiddelen”, beschrijft hij.
Het “loop-paradigma”
Ons doel is geen autonome AI, herinnert hij ons, maar het bereiken van een „augmented intelligence” waarbij de mens aan het roer blijft. Dit is het bekende „human in the loop”: een concept dat veelvuldig wordt gebruikt in onderzoek naar kunstmatige intelligentie.
Het idee is eenvoudig: AI levert snelle analyses en verwerkt grote hoeveelheden gegevens, maar de arts blijft verantwoordelijk voor de interpretatie, de besluitvorming en de relatie met de patiënt.
“De huisarts moet het zwaartepunt en het beslissingscentrum blijven”, stelt dr. Parata.
Volgens hem zal de geneeskunde van de toekomst zich bevinden op het snijvlak van twee complementaire competenties: de analytische kracht van AI en de typisch menselijke kwaliteiten van de arts, zoals empathie, ethiek, klinisch inzicht en het begrip van complexiteit.
Artsen opleiden in AI… maar ook in humanisme
Om deze ontwikkeling voor te bereiden, stelt dr. Parata een medische opleiding voor die is opgebouwd rond vier pijlers: de basisprincipes van kunstmatige intelligentie, de kritische beoordeling van digitale hulpmiddelen, ethiek en verantwoord gebruik, en het leiderschap dat nodig is om deze transformatie in de praktijken te begeleiden.
De echte uitdaging zou dus niet zozeer zijn om artsen op te leiden tot informatici, maar om de specifiek menselijke vaardigheden te versterken.
“Om het tijdperk van AI te overleven hoeven we geen programmeurs te worden, maar moeten we massaal investeren in onze humanistische vaardigheden”, meent hij.
“Narratieve geneeskunde, digitale nederigheid en empathie zijn vaardigheden die steeds belangrijker zullen worden naarmate de technologische hulpmiddelen geavanceerder worden”, vervolgt hij.
Digitale geletterdheid, een nieuwe gezondheidsbepalende factor
Gevraagd naar het begrip “digitale geletterdheid”, definieert dr. Parata dit als het vermogen van professionals om digitale hulpmiddelen te begrijpen en op een relevante manier te gebruiken. Voor hem wordt deze vaardigheid vandaag de dag een echte gezondheidsbepalende factor.
“Digitale technologie is overal in ons leven en in ons beroep aanwezig. We moeten leren ermee om te gaan”, legt hij uit, waarbij hij van mening is dat de digitale kloof inmiddels een echte belemmering vormt voor zowel zorgverleners als patiënten.
In hoeverre moeten we taken aan AI delegeren?
De discussie met het publiek ging al snel verder dan de technische aspecten en richtte zich op de ethische implicaties.
Een Zwitserse arts vroeg de spreker naar de effecten van AI op de zorgverleners zelf, waarbij ze met name het concept van „digitale dementie” aanhaalde. Zonder zich over dit begrip uit te spreken, erkent dr. Parata dat de digitale transformaties onvermijdelijk gevolgen zullen hebben voor zorgverleners, waarvan de omvang nog moeilijk in te schatten is.
Maar de meest opvallende vraag kwam van een Franse huisarts, die vertelde over de ervaringen van cardiologen die een AI hebben ontwikkeld die in staat is om in hun plaats slecht nieuws aan patiënten te brengen, omdat zij vonden dat zij deze taak niet voldoende onder de knie hadden.
Voor de huisarts illustreert deze ontwikkeling het risico van een geleidelijke delegatie van diep menselijke vaardigheden. Dr. Parata deelt deze bezorgdheid en waarschuwt voor bepaalde misstanden, met name ontmenselijking, afstomping en het afschuiven van verantwoordelijkheid.
Dr. Parata sluit af met een metafoor: we moeten kunstmatige intelligentie zien als een bekwame copiloot, zonder ooit het stuur uit handen te geven.
“Als ik in een zelfrijdende auto zit en in slaap val, ben ik dan nog steeds degene die rijdt? Ik weet het niet zeker”, concludeert hij.
Carole Stavart • MediQuality