Kunstig intelligens kan ikke utføre kvalitativ analyse

    ()

    sporsmal_grey_rgb
    Artikkel

    Subjektivitet er grunnlaget for utvikling, analyse og tolkning av data med kvalitative forskningsmetoder. Maskinlæring kan ikke erstatte eller reprodusere menneskelig subjektivitet.

    Kunstig intelligens (KI) er på full fart inn i samfunnet og i medisinsk forskning og praksis. Det er viktig å belyse både muligheter og begrensninger, slik at disse kraftfulle verktøyene kan komme til best mulig nytte, med færrest mulig uønskede bivirkninger. Mange diskuterer for tiden hvordan KI kan brukes i medisinsk forskning, og flere er opptatt av hvilken rolle KI kan spille når det gjelder kvalitative forskningsmetoder. Dette er forskningsmetoder som ikke anvendes av så mange leger, men på samme måte som med statistikk, er det mange leger uten forskningsbakgrunn som leser og vurderer publikasjoner fra kvalitative studier.

    Den vitenskapelige logikken ved KI, med algoritmer basert på sannsynlighet, prediksjon og teknisk rasjonalitet, står i skarp kunnskapsteoretisk kontrast til menneskelig subjektivitet

    Kunnskapsteoretisk selvmotsigelse

    Kunnskapsteoretisk selvmotsigelse

    Subjektivitet innbefatter enkeltmenneskers personlige sansning, erfaring og bevissthet om verden og seg selv. Ved bruk av kvalitative metoder i medisin anerkjenner vi subjektivitet som unik, kreativ merverdi for forskning som skal gi ny innsikt om menneskers liv, helse og sykdom. Kunstig intelligens (KI) er digitale systemer bygget på maskinlæring for syntese av eksisterende kunnskap som kan revolusjonere vesentlige sider av medisinsk praksis og forskning. Den vitenskapelige logikken ved KI, med algoritmer basert på sannsynlighet, prediksjon og teknisk rasjonalitet, står imidlertid i skarp kunnskapsteoretisk kontrast til menneskelig subjektivitet.

    Kunstig intelligens kan forbedre helsetjenesten

    Kunstig intelligens kan forbedre helsetjenesten

    KI åpner for enorme muligheter innen forskning og klinisk praksis (1, 2). Maskinlæring representerer et sterkt potensial for endringskraft, særlig ved rutiner der menneskelig skjønn gir forsinkelser, tvetydigheter og redusert utkomme sammenlignet med KIs suverene, lynraske resonnementer. Aktuelle eksempler er utvikling av egnete diagnostiske prosedyrer (mammografi), persontilpasset medisin (kreftbehandling), farmakoterapi (dosering av warfarin), folkehelse (vaksineutvikling) og eldreomsorg (bærbar monitor tilknyttet vaktsentral) (1).

    Velkjente utfordringer med KI er pålitelighet (hallusinering med falske referanser), personvern (sensitive pasientdata), fremmedgjøring (redusert menneskelig omsorg) og tyveri (plagiat av forskningsdata og resultater) (1, 3). Her konsentrerer jeg meg om forholdet mellom KI og kvalitativ analyse.

    Subjektivitet som betingelse ved kvalitativ analyse

    Subjektivitet som betingelse ved kvalitativ analyse

    Kvalitative forskningsmetoder innebærer systematisk utvikling, organisering og tolkning av tekst fra samtale eller observasjon til analyse av mening og erfaring, slik det oppleves av mennesker i sin naturlige, sosiale kontekst (4, 5). Subjektivitet defineres på forskjellige måter i ulike fagområder. I kvalitative studier søker vi subjektivitet som et menneskelig særtrekk gjennom deltakernes unike uttrykk for erfaringer, opplevelser og vurderinger, samt forskerens unike tolkninger, forståelser og formidling (6).

    Dette betyr ikke at alt er relativt og flytende i en kvalitativ studie. Refleksivitet er en metodisk motvekt til tilfeldige eller forhåndsbestemte slutninger, ved at forskeren erkjenner og drøfter gjensidige påvirkninger mellom seg selv, den eller det som utforskes og konteksten for kunnskapsutvikling (4, 5, 6). Å identifisere og formidle det spesifikke, personlige tolkningsgrunnlaget for analysen er nødvendig for intersubjektivitet, med deling og drøfting av de individuelle sporene som forskeren har fulgt i alle ledd av forskningsprosessen. Dette er særlig betydningsfullt i allmennmedisinsk og annen klinisk forskning. Med innsikt i egen rolle kan forskerens subjektivitet faktisk bidra til å disiplinere det subjektive.

    Analysen bygger bro mellom problemstilling, empiriske data og resultater. Resultatene utvikles gjennom aktive tolkninger, der forskeren selv er verktøy, ikke som noe som ligger klart i empiriske data og venter på å bli avdekket (6). Subjektivitet kan representere en særegen analytisk kreativitet, spesielt egnet for utforskning av menneskelige og sosiale fenomener, som uforutsigbarhet, nonlinearitet og samhandling, slik vi ofte ser i klinisk praksis. Kvalitativ analyse er induktiv og fortolkende, der det enkeltstående åpner for forståelse av fenomener med større overførbarhet. Det motsatte er deduktive analysestrategier basert på forhåndsbestemte kategorier, testing av hypoteser og generalisering på gruppenivå.

    Ny og nyttig kunnskap

    Ny og nyttig kunnskap

    Dagens KI har sin styrke i å omforme eksisterende kunnskap med lineær logikk til algoritmer og lynsnare prosesser som kan implementeres i medisinsk praksis og forskning. Forutsetningen er at det allerede finnes kunnskapsgrunnlag om problemstillingen, tiltaket, populasjonen og rammebetingelsene for utvikling av relevante og robuste maskinlæringsmodeller. Videre trengs datakraft og digital kompetanse, beslutningsgrunnlag for innføring av ny praksis, finansiering av dette samt opplæring av personell. Jeg er ingen teknologisinke som tar avstand fra maskiner som kan utfylle eller erstatte menneskers (rutiniserte) oppgaver som helsetjenesten kan ha nytte av. Samtidig anser jeg (med)menneskelighet og subjektivitet (på lik linje med instrumentelle elementer) som grunnvilkår for helsepersonell som møter syke mennesker som individer.

    Kvalitative metoder skal bidra til å utvikle nye spørsmål, snarere enn å bekrefte gamle svar. Mens resultater fra randomisert-kontrollerte studier styrkes av gjentakelse og bekreftelse, er kvalitative studier lite verdt hvis de ikke leverer noe vesentlig nytt. I en kvalitativ studie er ofte det mest interessante at det dukker opp en digresjon eller overraskelse som bryter med tidligere prediksjoner og forståelse, eller åpner for original logikk. I analysen har tolkningen sterkere betydning enn data, og et stort volum av data bidrar heller negativt ved at analysen blir overfladisk. Standardisering av variabler eller utvikling av algoritmer, som er naturlige forutsetninger i biomedisinsk og epidemiologisk forskning, gir ikke mening i denne sammenhengen.

    Analyse som leverer nyskapende begrepsbruk, kan gi kunnskap med sterk og umiddelbar relevans (7). Samtidig må den nye kunnskapen underbygges, valideres og deles (4–6). Jeg påstår ikke at alle kvalitative studier oppfyller dette ambisjonsnivået, heller ikke at det bare er forskjeller og ingen likheter mellom kvantitative og kvalitative metoder. Jeg presenterer likevel forholdene jeg har beskrevet ovenfor som sentrale kjennetegn ved kvalitative forskningsmetoder (4).

    Maskinlæring i forskning om medisinsk kommunikasjon

    Maskinlæring i forskning om medisinsk kommunikasjon

    Menichetti og medarbeidere undersøkte og vurderte hvordan ChatGPT kan fungere som virkemiddel i forskning om medisinsk kommunikasjon (8). Forfatterne demonstrerte hvordan KI kan produsere enkle eksempler knyttet til problemstillingen, organisere empiriske data, rense data for støy, gjennomføre enkle, uformelle litteratursøk og forbedre språket i vitenskapelige tekster.

    Også kvalitative data ble vurdert. Deduktiv sortering av data etter forhåndsgitte kategorier lot seg gjennomføre, men et eksempel på analyse av kvalitative data fra en konsultasjon illustrerte risikoen for banale og selvfølgelige konklusjoner. ChatGPT ble bedt om å oppsummere følelsesmessig status hos en eldre pasient med hjertesvikt, basert på et transkript fra konsultasjon med lege. Etter flere forbehold ble konklusjonen at pasienten kanskje kjente seg engstelig eller urolig, og at legen måtte vise empati, trygge pasienten og ta hensyn til pasientens bekymringer for å støtte pasienten i konsultasjonen. Resultatene omfatter ikke mer enn prinsippene for pasientsentrert metode, noe som er gammelt nytt for leger. Eksempelet illustrerer hvordan maskinlæring kan gi en enkel sammenfatning av eksisterende premisser, kunnskap og data, men at det skal mere til for å levere ny og nyttig kunnskap, særlig om subjektive forhold. Menichetti og medarbeidere påpeker også black box-problemer knyttet til transparens, med lav synlighet og drøfting av betingelser for valgene som maskinlæringsmodellen tar i sine avgjørelser for analysen (8).

    Uansett hvor avanserte nyere generative KI-versjoner kan tenkes å bli, vil vi nok aldri kunne laste inn samtlige relevante aspekter av forskerens forforståelse og posisjonering

    Verdispørsmål i maskinlæring

    Verdispørsmål i maskinlæring

    ChatGPT, som ble brukt i eksempelet ovenfor, er en generativ KI, som ut fra kraftige språkmodeller (large language models, LLMs) skal kunne skape innhold selv. Likevel vil maskinen lære og syntetisere det den får. Det er mange eksempler på hvordan dette kan bidra til videreføring av sosiokulturelle stereotypier for kjønn, klasse og etnisitet (3). Dette er verdispørsmål av stor betydning i medisinsk forskning og praksis. Det gjøres derfor forsøk med innlasting av målrettet materiale som skal korrigere uønskete verdibaserte skjevheter, for eksempel for å få frem pasientpreferanser knyttet til ulike behandlingsalternativer. Yu og medarbeidere viser hvordan dette i så fall må gjøres i alle ledd ved innlæring og anvendelse av maskinlæringsmodellen. Samtidig påpeker de at LLM behandler kombinasjoner av milliarder av parametre, men likevel ikke kan få med seg alle relevante subtile nyanser (3). Deres konklusjon blir at vi fortsatt trenger den kloke kliniker. Uansett hvor avanserte nyere generative KI-versjoner kan tenkes å bli, vil vi nok aldri kunne laste inn samtlige relevante aspekter av forskerens forforståelse og posisjonering, inkludert eksistensielle, psykologiske, sosiale, moralske og etiske forutsetninger som tolkningsgrunnlag i en maskinlæringsmodell. Videre kan taus handlingskunnskap vanskelig absorberes i en språklæringsmodell.

    Det instrumentalistiske mistaket

    Det instrumentalistiske mistaket

    Filosofen Hans Skjervheim drøftet forskning om menneskelig samhandling (9). Han viste hvordan objektivering finner sted når man slutter å engasjere seg i den andre, distanserer seg og gjør den andre til en kategori eller et saksforhold. Skjervheim fremhevet også at mennesker på samme tid kan være deltaker og tilskuer, og at tilskuerrollen gir en annen teknisk relasjon og innsikt enn deltakerrollens engasjement. Han advarte mot «det instrumentalistiske mistaket» – en holdning der teknisk logikk enerådende styrer synet på mennesker i praksis og forskning (9). Skjervheim påpekte at instrumentell fornuft har en rimelig plass i mange sammenhenger, men også sine grenser. Det instrumentalistiske mistaket blir en grenseoverskridelse – ikke en moralsk feil, men et intellektuelt og kunnskapsteoretisk problem.

    (Med)menneskelighet som merverdi i medisinsk kunnskap og samhandling

    (Med)menneskelighet som merverdi i medisinsk kunnskap og samhandling

    I klinisk praksis har legen rollen både som deltaker og tilskuer, ofte samtidig. Diagnostisk virksomhet innebærer analytisk objektivering og sensibel tolkning av multiple, ofte utydelige spor (10), gjerne under høy grad av usikkerhet (11). Den menneskelige samhandlingen mellom legen og pasienten om spørsmål knyttet til liv og død, sykdom og helse, skal romme tillit, trygghet, rettferdighet, verdighet og åpenhet. Skal vi håndtere symptomer, sorg, smerte og slapphet, må vi ha kunnskap om det særegent menneskelige. I det kvalitative forskningsintervjuet utvikles empiriske data gjennom gjensidig utveksling mellom deltaker og forsker (4, 6)

    Robuste algoritmer kan i mange situasjoner hjelpe klinikeren til skarpere og raskere diagnostikk. Men subjektivitet og nonlineær logikk kan komplementere klassiske diagnostiske strategier i mange av de usorterte problemstillingene i uselektert praksis, særlig ved komplekse helseplager og multimorbiditet. Legen kan løse diagnostiske gåter ved å gå nye og overraskende veier, avvike fra den opplagte hovedløypa og oppdage friske tråder og nyanser for medisinsk problemløsning (10, 12).

    Digitale virkemidler er allerede mye brukt i organisering av kvalitative data. Selve tolkningen og utviklingen av resultatkategorier forutsetter menneskelig deltakelse som ikke kan digitaliseres, nettopp fordi vi søker subjektivitet. Derfor må forskningskunnskapen som klinisk praksis bygger på, omfatte mer enn biomedisinsk og teknisk logikk. Uten et kunnskapssyn som eksplisitt tar høyde for det (med)menneskelige og subjektive, havner medisinen i det instrumentalistiske mistaket (4, 9). Her handler det ikke bare om å møte sine pasienter på best mulig måte, men også om nye veier til forståelse av sykdom og helse (10).

    Å kalle dette for kvalitativ analyse er epistemologisk inkongruens – på samme måte som subjektiv tolkning av tall aldri kan bli statistisk analyse

    Epistemologisk inkongruens

    Epistemologisk inkongruens

    KI vil komme til å bidra på uante måter for medisinsk kunnskap og praksis. Jeg ser med spenning frem til å følge denne utviklingen. Omfattende strategier for organisering og sortering av tekstdata fra medisinsk praksis vil bli videreutviklet, men forhåpentligvis med en mer treffende betegnelse enn kvalitativ analyse. Å kalle dette for kvalitativ analyse er epistemologisk inkongruens – på samme måte som subjektiv tolkning av tall aldri kan bli statistisk analyse.

    Derfor må medisinsk forskning handle om mer enn biomedisin, og medisinsk praksis må også bygge på kunnskap der det ikke bare er tall som teller. Til syvende og sist handler det om hvilken rolle subjektivitet og menneskelighet skal spille i medisinsk kunnskapsutvikling, og hvordan humanisme fortsatt kan ha en fremskutt plass i medisinsk forskning og praksis.

    Kommentarer  ( 0 )
    PDF
    Skriv ut
    Kommenter artikkel

    Anbefalte artikler