Artikkel
Når man planlegger å ta i bruk verktøy basert på kunstig intelligens i helsetjenesten, er flere spørsmål og vurderinger helt sentrale for en godt strukturert prosess og trygg innføring.
Illustrasjon: Espen Friberg
Helsepersonellkommisjonen peker på kunstig intelligens som en av teknologiene som kan bidra til effektivisering og bedre tjenesteyting i den norske helsetjenesten (1) . Det er allerede hundrevis av verktøy basert på kunstig intelligens (KI) tilgjengelig på markedet (2) , men på grunn av ulike barrierer og utfordringer, er det få som faktisk vil bli tatt i bruk i klinisk praksis. KI-baserte verktøy viser et stort potensial, men de fleste av dem er fortsatt i utvikling eller klinisk utprøving. Det tar tid og ressurser å komme seg fra laboratorium til pasientseng, fra utvikling til implementering, og mange verktøy og løsninger faller fra underveis.
Når man planlegger å ta i bruk KI-baserte verktøy i helse- og omsorgstjenesten, er det viktig å forstå at det er vesentlige forskjeller mellom vanlig programvare og KI-produkter. Dette er sentralt for å realisere det innovative potensialet i teknologien og for å håndtere risikoer på en hensiktsmessig måte. For å understøtte virksomheter som ønsker å ta i bruk teknologien, publiserte DNV (tidligere Det Norske Veritas) i januar 2023 en rapport med forslag til hvordan man kan planlegge og strukturere implementeringsprosesser for KI-basert verktøy (3) . Rapporten vektlegger sentrale spørsmål som bør besvares og gir en oversikt over nødvendige vurderinger.
Vanlig programvare og kunstig intelligens
Vanlig programvare og kunstig intelligens
Det er mange likheter mellom KI-baserte verktøy og konvensjonell programvare, men KI-verktøy har flere unike og utfordrende egenskaper som gjør dem vanskeligere å implementere. En vesentlig forskjell mellom KI-produkter og andre IT-produkter er at tradisjonell programvare er laget av kode, mens KI-produkter er laget av kode + data. Dette har betydning for hvordan man vurderer, anskaffer og forvalter løsningene. Det vil ikke lenger være nok med for eksempel krav til sikkerhet, ytelse og oppetid, slik man er vant til med tradisjonell software. Den ekstra kompleksiteten til KI-baserte verktøy, der data er en sentral komponent av produktet, krever en grundigere vurdering og evaluering.
Den ekstra kompleksiteten til KI-baserte verktøy, der data er en sentral komponent av produktet, krever en grundigere vurdering og evaluering
KI-baserte verktøy er avhengige av å trenes og testes på data. For å redusere risikoen for feil er det viktig å ha gode rutiner for å sikre at datasettet som verktøyet er basert på, er representativt for den demografiske gruppen eller pasientpopulasjonen som verktøyet skal brukes på. I varierende grad må verktøyene tilpasses logikken og reglene som er nødvendige for å fullføre en oppgave. Det kreves vanligvis en betydelig mengde data for å trene opp KI-baserte verktøy til å oppnå gode prediksjoner og klassifikasjoner. Flere treningsdata – både større volum og mangfold – kan generelt, men ikke alltid, gi større presisjon. Dette påvirker både anskaffelse og forvaltning av KI-baserte verktøy. Hvilke data er benyttet, er disse relevante for planlagt bruk, hvordan er verktøyet «trent», har man tatt høyde for for eksempel demografiske forskjeller, og hvordan skal verktøyet trenes videre etter anskaffelse? Dette er noen av en lang rekke viktige spørsmål som kompliserer anskaffelse, implementering og forvaltning.
Implementeringsprosessens tre faser
Implementeringsprosessens tre faser
Før anskaffelse
Før anskaffelse
Før anskaffelse bør virksomheter bruke tid på å tydelig identifisere og formulere hvilket problem som skal løses ved akkurat denne anskaffelsen. Her er sluttbrukeren sentral, for uten engasjement og eierskap fra sluttbrukerne er det vanskelig å sikre aksept og bruk av løsningen. Det må avklares om det er mulig og hensiktsmessig å løse problemet med et KI-basert verktøy. Etter at problemet er identifisert, må virksomhetene undersøke om det finnes produkter på markedet som kan løse problemet. Gjør det ikke det, kan det være aktuelt å starte prosessen med å utvikle et produkt på egen kjøl, eventuelt sammen med forskningspartnere. Her er det viktig å avklare om det potensielt er et produkt som vil kunne komme pasienter ved andre institusjoner til gode, og om det faller inn under definisjonen av medisinsk utstyr. Hvis så er tilfelle, må man legge en plan for å oppnå CE-merking.
Anskaffelse
Anskaffelse
Dersom beslutningen er å kjøpe et verktøy, må brukeren foreta en kartlegging av potensielle leverandører og produkter. Hvilken dokumentasjon foreligger på klinisk effekt og sikkerhet? Er produktet kompatibelt med lokale data og infrastruktur? Er det nødvendig med ytterligere bekreftelse eller validering for å vise at verktøyet er relevant for pasientpopulasjonen? Er det i tilfelle aktuelt å gjennomføre et mindre pilotprosjekt før full implementering? Oppveier de potensielle fordelene med verktøyet de forventede kostnadene? Testing og utprøving av ulike løsninger i en tidlig fase av prosjektet kan gi god forståelse for både løsningene og problemet de skal løse.
Etter anskaffelsen
Etter anskaffelsen
Produktet må implementeres fullt ut i brukernes tekniske infrastruktur og integreres i den kliniske arbeidsflyten, ideelt sett med støtte fra et tverrfaglig team. En plan for monitorering av ytelse, som kan endre seg over tid ettersom verden forandrer seg, såkalt modelldrift , samt oppmerksomhet på uønskede hendelser og nyoppståtte risikoer, er god praksis gjennom hele levetiden til det KI-baserte verktøyet.
Utvikling og implementering
Utvikling og implementering
Juridiske og regulatoriske vurderinger
Juridiske og regulatoriske vurderinger
For å ta i bruk KI-baserte verktøy i klinisk praksis må utfordringer knyttet til datakvalitet og -kvantitet, tillit til modellene og komplekse juridiske og regulatoriske krav adresseres i samarbeid mellom alle berørte parter.
Det er viktig å finne en balanse mellom å benytte og beskytte data. For mange KI-prosjekter kan det være utfordrende å identifisere relevante lover og forskrifter for tilgang til data. Det nasjonale koordineringsprosjektet for kunstig intelligens i helse, som er et samarbeidsprosjekt mellom alle etater som har oppfølgingsansvaret for en relevant lov eller forskrift, har etablert en veiledningsside for å gi bedre oversikt over aktuelt regelverk (4) .
En annen juridisk utfordring er håndtering av immaterielle rettigheter. Her vil teknologioverføringskontor ved universitet og sykehus, som VIS (5) eller Inven2 (6) , ha en sentral rolle.
Helsedata og algoritmer
Helsedata og algoritmer
Ulike utfordringer med helsedata, som tilgang, deling, kvalitet, skjevheter m.m., er krevende å håndtere for utviklere av KI-modeller. Dårlige treningsdata kan ha en negativ innvirkning på hele verdikjeden, og det kan utløse en dominoeffekt: Dårlige data kan føre til dårlige modeller, som igjen fører til dårlig ytelse med egne data. Derfor er det viktig å sikre tilgangen til pålitelige og representative datasett av høy kvalitet. Det er klokt å utvikle og implementere en strategi for dataforvaltning og datastyring for å lette utviklingen og implementeringen av KI-teknologi.
Den nasjonale strategien for kunstig intelligens (7) stadfester at bruken av kunstig intelligens i Norge skal være ansvarlig og pålitelig og at den skal bygge på etiske prinsipper, respekt for personvernet og god digital sikkerhet. For helsetjenesten vil det være sentralt å adressere eventuelle skjevheter i datasettene som benyttes for å skape modellene, samt å sikre likeverdig tilgang til denne teknologien. Samtidig kan nye digitale løsninger bidra til lik helsehjelp på tvers av geografi. Forsvarlighetskravet gjelder, og juridisk ansvar for uønskede hendelser eller skade må være avklart (8) . Beslutningstakere og forvaltning må ha en helhetlig tilnærming til reguleringen av tilgang på helsedata, inkludert sekundærbruk av data og samtykke, anonymisering og pseudoanonymisering, samt immaterielle rettigheter og eventuell bruk av tredjepartsdata.
Integrasjon
Integrasjon
For å sikre at verktøy basert på kunstig intelligens blir akseptert og faktisk brukt av sluttbrukere – som både kan være helsepersonell og pasienter – er det viktig å integrere verktøyene tilstrekkelig i virksomhetens infrastruktur og kliniske arbeidsflyt. De må bli en støtte i hverdagen, og ikke gi ekstra arbeid. Dette kan være en utfordring, spesielt når man må integrere KI-baserte verktøy med eldre systemer som ikke var opprinnelig designet for kunstig intelligens. Det er derfor viktig å ha et tverrfaglig team involvert fra et tidlig stadium, bestående av sluttbrukere, IT-ansvarlige for integrering i eksisterende arbeidsflyt og infrastruktur samt leverandører.
For å sikre at verktøy basert på kunstig intelligens blir akseptert og faktisk brukt av sluttbrukere er det viktig å integrere verktøyene tilstrekkelig i virksomhetens infrastruktur og kliniske arbeidsflyt
En annen løsning kan være å anskaffe en plattform som integrerer alt fra starten av. Uansett hva som velges, er det viktig å sikre interoperabilitet og teknisk integrasjon. En monitoreringsplan bør settes opp, med klare roller for alle involverte interessenter. Det er viktig å overvåke ytelsen og resultatene til KI-baserte verktøy for å fange opp modelldrift og redusere risikoen for svekket prediksjonsevne og økt usikkerhet. KI-baserte verktøy krever en strengere egnethetstesting for å sikre at data- og infrastrukturbehov er dekket.
Ledelse og styring
Ledelse og styring
Kompetent lederskap er et suksesskriterium for en vellykket innføring av denne teknologien i helsetjenesten. Ledelsen må foreta en rekke strategiske prioriteringer knyttet til KI-implementering, inkludert en plan for å implementere endringer i virksomheten og arbeidsprosesser – det vil si å utøve endringsledelse. Det er også nødvendig å utvikle og implementere tilpassede styringsverktøy og styringssystemer for å sikre god internkontroll ved bruk av teknologien, samt å sørge for at verktøyet er tilpasset den aktuelle pasientpopulasjonen og infrastrukturen. Organisasjonen bør legge en plan for å håndtere risikoen for uønskede hendelser forbundet med bruk av KI-baserte verktøy, gjennomføre en helseøkonomisk analyse for å evaluere de KI-baserte verktøyenes verdi for kliniske resultater, bruke en anbudsprosess for å velge KI-baserte verktøy og sikre den nødvendige finansieringen og ressursene før de forplikter seg til KI-implementeringsprosessen.
Kultur og åpenhet
Kultur og åpenhet
Åpenhet og tillit er viktig for å skape en god kultur rundt bruk av kunstig intelligens i helsetjenesten. Et element for å håndtere dette er forventningsstyring. Unngår man at ledere og sluttbrukere over- eller undervurderer hva teknologien kan og hva den vil medføre, vil innføringen kunne gå smidigere. Helsetjenesten gjør klokt i å finne klinikere som er interessert i kunstig intelligens og kan bidra til å fremme aksept og åpenhet for teknologien. Resultatene fra egnethetstesting og validering av KI-baserte verktøy bør presenteres og gjøres tilgjengelige for sluttbrukerne. Dette vil gi dem mer innsikt i hvordan teknologien fungerer og hva den kan bidra med.
Kompetanse
Kompetanse
Tilgang til kompetanse er viktig for en vellykket implementering av KI i helsetjenesten. Ledere må ha tilstrekkelig kompetanse for å gi prosjektet nødvendig støtte og ressurser og for å kunne foreta gode prioriteringer. Ansatte må kunne nok om teknologien til å kunne utøve sin rolle på en god og forsvarlig måte. Dette kan oppnås ved å tilby relevante opplæringsprogrammer, allokere nok ressurser til at ansatte får anledning til å etter- og videreutdanne seg samt gjennom forsknings- og innovasjonsprosjekter.
Helhetlig tilnærming
Helhetlig tilnærming
Implementering av KI-systemer er en iterativ prosess, som krever tilpassede systemer som kan forvalte data, prosesser for god integrasjon av systemene, både i arbeidsflyt og i infrastruktur, kunnskap om relevant regelverk, kompetente ledere samt kompetanseheving blant både helsepersonell og pasienter. Gjennom en helhetlig tilnærming står vi bedre rustet til å lykkes med en trygg og sikker innføring av denne teknologien.