International topforsker: Luftfart kan lære øjenlæger om klog omgang med AI
Med brugen af AI følger en overhængende risiko for tab af færdigheder og nedsat evne til klinisk ræsonnement, og derfor skal klinikere slå AI-assistancen fra nu og da, advarer overlæge Josef Huemer fra Moorfields Eye Hospital i London. Han har sammen med eksperter i flysikkerhed og andre øjenlæger undersøgt brug af AI i luftfart og sammenlignet den med brugen i sundhedsvæsenet, og de finder interessante sammenfald.
Luftfart og sundhedsvæsnet har mange fællestræk. Højrisiko-beslutningstagning, kritiske sikkerhedskrav, omfattende uddannelse og træning samt stor afhængighed af teknologiske/ videnskabelige systemer.
Hvad den nuværende AI-revolution angår, kan der derfor være vigtig viden at hente for sundhedsvæsenet ved at skele over mod luftfartsindustrien. Det mener Josef Huemer, der er overlæge og øjenkirurg fra Moorfields Eye Hospital i London med speciale i kataraktkirurgi, diabetisk retinopati og AMD. Han har AI som en central forskningsinteresse, blandt andet har han anvendt AI til forskning i biomarkører og billedanalyse, til administrative opgaver, hvor det er GDPR-kompatibelt, samt som undervisningsredskab.
Hans bror arbejder inden for luftfart, og øjenlægen har derfor haft privilegeret adgang til en række indsigter i denne sektors erfaringer med den fremadstormende teknologi. På baggrund af disse erfaringer vurderer Josef Huemer, at sundhedsvæsenet bør stræbe efter, at AI i klinisk praksis ikke bliver til en autopilot, men snarere en digital co-pilot.
”Målet skal være at forfine vores bedømmelse, ikke erstatte den. Vi skal lade teknologien hjælpe os til at opnå mindre skærmtid, så vi kan raffinere og forbedre vores diagnostiske arbejde og den fysiske undersøgelse af den levende patient,” siger han.
Fasthold klinisk praksis uden AI
Synspunktet er for nylig blevet publiceret i en perspektivartikel i Nature-affilierede npj Digital Medicine. Artiklen er skrevet sammen med tre flysikkerhedseksperter og en gruppe oftalmologer med interesse for AI-implementering. Josef Huemer deler også sine tanker om AI, luftfart og oftalmologi på Roche Retina Days, som finder sted i Odense fra 20. til 21. marts.
Josef Huemer anbefaler et minimumsniveau af klinisk praksis uden AI-støtte, eksempelvis når det kommer til at vurdere OCT-billeder. Denne opfordring lander på et tidspunkt, hvor studier viser, at eksempelvis endoskopører klarer sig dårligere, hvis man fratager dem AI-assistance.
”Der er en overhængende risiko for tab af færdigheder og nedsat evne til klinisk ræsonnement i kølvandet på AI. Derfor skal klinikere slå AI-piloten fra nu og da, dette har allerede længe været praksis blandt piloter. Hos dem er det en gylden regel, at man skal slå automatiseringen fra, hvis man ikke længere forstår den opgave, som den kunstige intelligens udfører. Den regel skal vi også tage til os som klinikere,” siger Josef Huemer.
Danson Muttuvelu er dansk øjenlæge, ph.d. og iværksætter, ejer af Øjenlægernes Center i Aarhus, og så er han ejer af det teleoftalmologiske øjenlægenetværk MitØje. Han mener også, AI bør fungere som en co-pilot i klinisk praksis og ikke en autopilot.
”I oftalmologien ser vi allerede, at AI kan forbedre screening, prioritering og henvisningskvalitet markant, men den kliniske dømmekraft og ansvaret skal fortsat ligge hos lægen. Den største gevinst ved AI lige nu er efter min vurdering i triage og populationsscreening, hvor teknologien kan frigøre tid til de komplekse patienter, som kræver menneskelig ekspertise,” siger Danson Muttuvelu.
AI overgår AI-assisterede læger
Det er nemt for mange faggrupper at få klamme hænder, når man følger AI-udviklingen. Også Josef Huemer kan blive bekymret. Det er en udpræget opfattelse, at AI-assisterede læger performer bedre end AI alene, men evidens tyder i stigende grad på, at der er en række opgave, som AI slet og ret kan udføre bedre på egen hånd, fortæller han med henvisning til en artikel offentliggjort i The New York Times. Her gennemgår hjertelægen Eric Topol og AI-forskeren Pranavn Rajpurkar en række studier, hvor AI klarer sig bedre solo end en AI-assisteret læge, og det er på tværs af en række medicinske kerneopgave fra fortolkning af mammografier til klinisk beslutningstagning.
Josef Huemer minder dog om, at der findes akutte beslutninger og situationer, som AI aldrig vil kunne hjælpe os med. Han drømmer om, at sundhedsvæsnet – som i luftfarten – investerer i muligheden for at lave AI-simulatorer. Her kan læger og sygeplejersker træne sjældne komplikationer forbundet med kirurgi og katastrofescenarier, hvor den sundhedsprofessionelle skal prioritere og ræsonnere under pres.
”Det findes eksempler på nødlandinger, hvor piloter har været nødt til at ignorere teknologien og bruge deres egen sunde fornuft. Den erfaring skal vi også minde os selv om som klinikere,” siger Josef Huemer.
Han erklærer sig stolt af sine kliniske færdigheder, men også bekymret for at miste dem på grund af AI.
”Teknologi skal ikke få lov at erstatte os, den skal hjælpe os med at blive bedre læger. Jeg ser mig selv som en slags atlet, der også i fremtiden ønsker at være den bedst tænkelige udgave af mig selv,” siger han.
Forskere drager størst fordel af AI
Josef Huemer mener, at der inden for oftalmologien særligt er mange erfaringer at hente fra diabetisk retinopati, hvor feltet er længst fremme, og hvor der allerede findes mange kommercielle produkter.
”AI vil kunne være en enorm hjælp til screening og forbedring af henvisninger, hvis det gøres rigtigt. Erfaringerne fra diabetisk retinopati bør kunne overføres til andre områder af specialet med større kompleksitet,” siger han.
Dem, der lige nu drager mest fordel af AI, er for ham at se forskere, som enten ønsker at screene kohorter for egnede patienter, eller som vil tilføje mere detaljerede analyser af væskemålinger og volumenparametre. Derudover kan forskning i okulære biomarkører bidrage med indsigter, som rækker langt ud over den kliniske fortolkning, som mennesker alene kan levere, pointerer Josef Huemer.
Dette adskiller sig fra den daglige kliniske praksis, som indebærer ad hoc-billedfortolkning, ofte med suboptimal billedkvalitet og høj patientvolumen i klinikkerne.
”I klinikken mener jeg, at vi skal være varsomme,” siger Josef Huemer.
Vidtrækkende muligheder
Danson Muttuvelu ønsker både som læge og iværksætter at omfavne AI.
”Jeg vil gerne investere i fremtiden og acceptere den. Det er også derfor, jeg har udviklet en model inden for øjenhelse, hvor automatisering er hovedprioritet,” siger han.
Modellen, som er i brug hos netværket MitØje, bygger på teleoftalmologi, hvor standardiserede undersøgelser og billeddiagnostik kan optages lokalt og triageres digitalt, forklarer Danson Muttuvelu.
”På den måde kan vi skalere kapaciteten uden at gå på kompromis med kvaliteten og samtidig bruge speciallægernes tid dér, hvor den giver størst klinisk værdi. Som øjenlæge ser jeg det som væsentligt, at vi investerer i vores fremtid. Og jeg synes, det er fedt, at vi selv kan være med til at forandre og udvikle faget i en retning, hvor speciallægekompetencer bliver brugt bedst muligt, og AI kan hjælpe med eksempelvis screening. Derfor vil jeg investere mere i AI i fremtiden – ikke mindre,” siger han.