I maj 2019 udgav Akademiet for de tekniske videnskaber (ATV) en rapport om kunstig intelligens og sundhed, som satte problemet på spidsen med spørgsmålet: ’Skal bedre afvikling af ventelister for kroniske sygdomme som høretab, diabetes, hjertekarsygdomme mv. prioriteres over dyre behandlinger som immunterapi med begrænset livsforlængende effekt for ældre terminalt kræftsyge patienter?’

Er det en prioritering, der er nødvendig? Måske ikke. Hvis vi bruger nye teknologier som fx kunstig intelligens kan det frigøre ressourcer. Data Revenue udpeger fire områder, hvor kunstig intelligens allerede er en nyttig del af sundhedssystemet i USA: Det stiller diagnoser hurtige og mere præcist end mange læger indenfor områder som hudskader, lungekræft, kredsløbssygdomme og diabetes.

Kunstig intelligens gør det hurtigere at udvikle ny medicin og personaliseret medicin. Og endelig bruges det til genmanipulation, det der også kaldes CRISPR.

Men i Danmark er man politisk og juridisk bange for at overtræde nogle etiske grænser, når man bruger folks sundhedsdata, og det forhindrer den effektive udnyttelse af sundhedsdata, der er brug for, hvis vi vil drage nytte af kunstig intelligens i sundhedssektoren, mener Michel Nemery som er ledende overlæge på Herlev Hospitals radiologiske afdeling

Angsten for forandring

– Etik er spændende og et område, hvor følelser tit er mere styrende end rationalet. Og når det handler om kunstig intelligens, handler det ofte om angst for forandring, siger Michel Nemery. Han er godt træt af systemet omkring beskyttelse af patientdata, som det fungerer i dag.

Det beskytter patienter mod teoretisk misbrug af data, men til gængæld sætter det sig i vejen for at bruge nye smarte teknologier til gavn for patienterne.

– Når vi taler om brugen af sundhedsdata, er det også et spørgsmål om jura. Hvad gør vi som samfund, hvis det viser sig, at lovene fortolkes, så det spænder ben for det, vi kan med teknologien, hvis vi havde adgang til data? siger han.

Det er betænkeligheder man ikke har i USA. Heller ikke i Kina, som også har et presset sundhedsvæsen.

Her er man langt fremme med brugen af kunstig intelligens i patientbehandlingen. Ikke mindst techgiganten Baidus chatbot Melody er populær i et land, hvor der kun er 146 læger pr. 100.000 indbyggere, i Danmark er tallet 366 (WHO 2012).

Watson og billederne

Michel Nemery vil ikke erstatte lægen med en app eller en chatbot, men han vil have adgang til at bruge data fx i diagnosticering af brystkræft. Hospitalet har et samarbejde med IBM om at gøre firmaets kunstige intelligens Watson til et redskab i brystkræftscreeninger, men endnu har de ikke sendt et eneste billede til Watson, bl.a. fordi samarbejdet vurderes som forskning, og så kræves der særlige tilladelser for at få adgang til data.

– Problemet er, at hele etiksnakken bliver en diskurs i sig selv, siger han. – På et tidspunkt sagde vores jurister, at de mente at et mamografibillede er at sammenligne med et fingeraftryk, og derfor kan man ikke anonymisere billedet. Det mener Michel Nemery er noget vrøvl.

– Det kan ikke nytte noget at lade et forskningsparadigme styre det her, for der er meget lidt forskning i det, siger han. – Jeg har prøvet at opstille fem faser fra det øjeblik, man får en ide, til noget der involverer kunstig intelligens og billedanalyse. Og de første tre faser har intet med sundhedsforskning at gøre.

De første to faser er, at der sidder nogen unge mennesker i en garage eller på DTU og får en ide til et billedgenkendelsesprogram og begynder at bruge det på billeder af bryster. Det har ikke noget med sundhedsforskning at gøre, heller ikke når de begynder at forbedre koden med flere billeder.

– Det har ikke noget med sundhed at gøre, bare fordi det foregår på et billede af et bryst, siger Michel Nemery. – Men juristerne lægger sundhedslovgivning og forskningslovgivning ned over det. Og det dur ikke, det ender med at kineserne laver det hele, for de er ligeglade. Og min tilgang er, at vi må have skiftet paradigmet, for vi holder os selv i stampe.

Mammografi

Mammografi er en røntgenundersøgelse af brystet, der kan afsløre forandringer i brystet ned til få millimeter, som man ikke selv kan mærke med fingrene. Kunstig intelligens i form af billedanalyse kan være et meget nyttigt redskab for lægerne, fordi en kunstig intelligens kan gennemgå et stort antal billeder meget hurtigt og præcist.

– Den tredje fase kunne være den, hvor de to drenge i garagen er nået til, at deres kode er så god, at de skal snakke med nogen på et hospital, for de har brug for 10.000 gode billeder, fortsætter han.

– Her vil nogen sige, at det er sundhedsvidenskabeligt, men jeg mener, at det kun er volumen på billederne, der er forskellen. Først når de har fat i noget, som kan finde brystkræft på få sekunder, bliver det forskning, for så skal det klinisk valideres i praksis på hospitalet.

Så kan de få det godkendt i den sidste femte fase, og så kan man bruge det som et klinisk værktøj. Og unge fyre i en garage eller på DTU skal ikke have den form for benspænd, der siger: et bryst eller en hjernescanning! Nu er det farligt!

Watson kan blive bedre end lægen

– Jeg holdt et oplæg for et års tid siden for de radiografer, der tager billederne ved mammografiscreeninger, og mit emne var kunstig intelligens i brystkræftscreening, fortæller Michel Nemery. – Radiograferne sagde: den kan jo tage fejl. Til det sagde jeg: Nogen af de her algoritmer har træfsikkerheder på mellem 90 og 98 %. På vejen herhen kom jeg forbi døren til en professor i radiologi.

På hans dør stod der ikke noget om, hvilken træfsikkerhed han har. Der står hvornår han åbner, men ikke noget om, hvor god han er til at finde kræft eller andre sygdomme.

– Det her kommer til at tvinge os til at forstå vores egen kvalitet. Fordi vi ikke tidligere har haft et teknologisk alternativ, har vi tilladt os ikke at måle på, hvor dygtige vi er. Vi ved udmærket godt, at vi ikke er 100% ufejlbarlige, nogle gange meget langt fra. Når der så kommer et alternativ, hvad siger etikken og moralen så?

Har vi lov til at lade være? Jeg tror, at de beslutningstagere, der sidder og gemmer sig bag jurister, vil møde nogen læger, der til sidst siger: Jeg tager ikke ansvaret for noget, der trækker niveauet ned for patienten.

Vi skal lære, hvad risikovurdering er

Udover det forsøg med Watson, der endnu ikke er blevet til noget, har Michel Nemerys afdeling et samarbejde med en dansk start up, hvor de ser på MR scanninger af hjernen og et projekt med Siemens, som ser på lungerne. Alle handler om billedanalyse, som algoritmer er rigtig gode til.

Det betyder, at vi i fremtiden skal lære, hvad risikovurderinger er, mener Michel Nemery. Hvis man laver en CT-scanning af lungerne, for at se efter kræft eller blodpropper, vil man med kunstig intelligens kunne få svar på mange andre ting i samme omgang.

– Det kunne blive markeret med et tal, hvilken risiko du har for forkalkning omkring hjertets kranspulsåre, siger Michel Nemery. – Rygsøjlen er også med på sådan en scanning, så hvad hvis der også stod dit knogleskørhedsindeks. Det koster formuer, når vi først fanger det, når det er gået galt og folk brækker håndled, hofter eller ryggen.

Hvad hvis vi kunne fange dem inden, så de kunne få medicin og genopbygge deres knoglestyrke? Det, der så handler om etik og moral er, om man skal sige det. Og om der nogen til at gøre noget ved det.

– Vi bliver nødt til at blive bedre til at forstå risikoscenarier, fortsætter han. – Risikobetragtning kommer med kunstig intelligens. Hvis jeg har fået kortlagt mit genom, hvordan skal jeg forholde mig til 82% sandsynlighed for Alzheimer, 41% sandsynlighed for diabetes og 27% sandsynlighed for brystkræft? Jeg vil anbefale, at vi finder ud af, hvad vi skal i stedet for at lukke ører og øjne.

Nogen vil muligvis hellere være uvidende. Jeg er ikke på det hold. Jeg vil gerne lade dem være, hvis det er det, de vil. Jeg tror bare ikke det er den vej, det peger.

Jeg indvender, at en negativ side ved risikovurderinger kan være, at man skal betale mere til pension og forsikringer, hvis forsikringsselskaberne forlanger at få den type data.

Til det siger Michel Nemery: – Hvis du tegner en helbredsforsikring, går du sammen med 120.000 andre om at dele en risiko. Måske er det de andre, der får glæde af, at du har betalt en præmie, du aldrig fik brug for. Det er en solidarisk forretningsmæssig risikoinddækning. Hvis du ved, at du har en knude i begge bryster og ikke siger noget, er det bedrageri overfor de andre 120.000. Er det moralsk i orden, at de andre skal betale for noget, som du godt ved?

Vi har velfærdsstaten til at hjælpe os med de ting, man ikke kan gøre for og har brug for hjælp til. Det må vi ordne med skatten. Forsikringer er forretning.

Velfærdsstaten skal hjælpe os

Vi bliver invaderet af kinesisk, indiske og amerikanske apps, der kommer ned i lommen på borgerne gennem telefonen, slutter Michel Nemery. – Så mit bud er: Lad os sørge for, at der er nogen gode lødige højkvalitets-apps derude. Borgerne får brug for, at samfundet hjælper med, for vi har supersvært ved at kende forskel på skidt og kanel.

– Det er efter min mening meningsfuldt for en velfærdsstat at sørge for, at der bliver ved med at være et relevant højkvalitetstilbud der, hvor vi synes, det er vigtigt. Ellers bliver det Google og kineserne, der oversvømmer det hele, og hvad er moralen i det?

Hvad er moralen i, at du kan få en gratis kinesisk udviklet app, udviklet på kinesere, der ikke er blevet spurgt om deres data må indgå. Hvis du ikke vil dele dine data, må du så bruge de andres? Og hvordan har vi egentlig udviklet sundhedsvæsnet i dag? Ved at hver patient var sit eget kunstværk? Eller ved at dele viden om fru Olsen, når vi skal operere fru Clausen for noget der ligner?

Dette er dem femte artikel i en serie på otte om etik og kunstig intelligens.