Selv om vi får gode KI-systemer for å predikere sykdomsutvikling, behandlingsutbytte og pasienters preferanser, forutsetter systemene en rekke verdivalg som forblir skjulte for lege og pasient.
Kunstig intelligens (KI) inntar samfunnet og medisinen med stormskritt (1). Samtidig som KI-teknologien muliggjør, understøtter, forbedrer og overtar helsefaglige oppgaver, har den også utfordringer (2, 3).
KI-systemer brukes i stadig flere beslutningsstøttesystemer – både kliniske og administrative. I tillegg blir systemene mer og mer autonome. De mest avanserte KI-verktøyene kan innhente informasjon, gjøre vurderinger og tilpasninger, rådføre seg med andre KI-systemer og ta egne avgjørelser. Samtidig som autonome KI-systemer kan være til stor nytte, reiser de en rekke etiske problemer. Hvem har ansvaret for konsekvensene? Hva skjer med faglig autonomi og integritet? Hvordan sikre samtykke når verken klinikere eller pasienter forstår algoritmene? Hvordan sørge for at verdiene som systemet fremmer, er i tråd med menneskelige verdier – og særlig pasientens preferanser?
Hvordan sikre samtykke når verken klinikere eller pasienter forstår algoritmene? Hvordan sørge for at verdiene som systemet fremmer, er i tråd med menneskelige verdier?
Svarene avhenger selvsagt av hva systemene skal brukes til og hvordan de anvendes, men ett problem går igjen i autonome KI-systemer: Verdivalg skjules. Selv om man etter hvert får gode systemer som kan predikere sykdomsutvikling, behandlingsutbytte og pasienters preferanser, forutsetter systemenes forslag og beslutninger verdivalg som holdes skjult for dem som bruker systemene. Terskelverdier for diagnostiske tester, valg av endepunkter for vurdering av behandlingseffekt, vurdering av alvorlighet, akseptabel usikkerhet, risiko, skjevhet (bias) og urettferdighet, vekting av preferanser, setting av terskler for kostnadseffektivitet og mange andre verdivalg blir bygget inn i systemene, delvis uten refleksjon eller deltagelse fra fagfolk og brukerrepresentanter.
Mer eller mindre skjulte verdivalg i medisinen er ikke nytt (4). Den enkelte lege bestemmer ikke vektingen mellom sensitivitet og spesifisitet for en diagnostisk test og velger ikke fritt endepunkter for hva som er vellykket behandling. Forskjellen er at det før KI-systemenes inntog var mulig og vanlig å gjøre rede for og begrunne verdivalgene ut fra kunnskapsoppsummeringer, konsensuskonferanser, retningslinjer og klinisk praksis. Selv om KI-systemene kan beskrive sine «vurderinger» og kan bes om å gjøre rede for sine verdivalg, vil mange iboende verdier ikke være tilgjengelige utenfor systemet. De forblir skjulte for både lege og pasient. Faglige og etiske valg og beslutninger blir med det overlatt til systemene. Legenes faglige autonomi og integritet undergraves, og legerollen endres.
Faglige og etiske valg og beslutninger blir med det overlatt til systemene. Legenes faglige autonomi og integritet undergraves, og legerollen endres
Radiologi er blant de spesialitetene som har kommet lengst i å ta i bruk KI. Radiologer har gått fra å se på KI som en konkurrerende trussel til å se på systemene som samarbeidspartnere og kollegaer (5). I radiologien kan KI-systemene nå brukes innen henvisningsvurdering, prioritering og pasientflyt, diagnostisering, rapportering og evaluering (6) – prosesser som inkluderer viktige verdivalg.
Selv om KI-systemer kan oppfattes som og fungere som en «kollega», er det ikke dermed sagt at man skal vise dem respekt, veilede dem, være varsom med å kritisere dem eller ta opp brudd på etiske normer med dem direkte før man går videre, slik det står i etiske regler for legers forhold til kollegaer og medarbeidere (7). Med inntoget av medisinske KI-verktøy må nok også andre etiske regler endres. Her er det viktig at legene selv er på ballen (les: maskinen).
De mest optimistiske mener at verdivalg kan bygges inn i systemene enten med menneskelig assistanse eller ved hjelp av moralske maskiner (8). Om det lar seg gjøre, er et empirisk spørsmål, men våre menneskelige moralske intuisjoner og vurderinger er kompliserte og komplekse og dekkes ikke enkelt av en algoritme (9).
Våre menneskelige moralske intuisjoner og vurderinger er kompliserte og komplekse og dekkes ikke enkelt av en algoritme
Som vanlig er ved introduksjon av ny teknologi, hausses KI-verktøyene kraftig opp. Da Alexander Graham Bell tok patent på telefonen i 1876, sa man at det bare ville gå få år før man kunne se den man snakket med. Det tok som kjent nær 100 år før en slik teknologi fikk allmenn utbredelse, men telefonen har endret våre liv på alle måter. Kanskje vi kan lære av vår overstadige teknologioptimisme og hodeløse innføring av sosiale medier og heller styre KI slik at den fremmer menneskelige verdier knyttet til liv og helse – og i mindre grad interessene til teknologigigantene? Medisinen, og dens moralske mål om å hjelpe enkeltmennesker, bør styre teknologien. Ikke omvendt.