Markov-modellering

Erik Nord Om forfatteren

Helseøkonomiske analyser brukes til å beskrive forholdet mellom kostnader og helsegevinster ved ulike behandlinger og forebyggende tiltak. Analysene er ment å være til hjelp ved prioritering. I analysene søker man å ta høyde for at sykdomsforløp varierer over tid og at ressursbruk og effekter varierer mellom individer. Markov-modellering er en vanlig måte å ivareta denne variasjonen på. Her gis et konkret eksempel på hvordan slik modellering gjøres.

Sykdommer varierer både over tid og mellom individer. Med «variasjon i tid» menes blant annet at sykdommer kan utvikle seg i stadier som blir verre og verre, eller at det skjer tilfriskning etter perioder med tung og belastende behandling, eller at det skjer midlertidige bedringer, for eksempel som følge av behandling, som så følges av tilbakefall. Over tid kan sykdomsforløp være både uregelmessige og kompliserte.

Med «variasjon i rom» menes at det mellom individer kan være store forskjeller i forløp for én og samme tilstand, blant annet fordi behandlingsresponsen varierer. For et gitt individ i en gitt tilstand vet man ofte ikke med sikkerhet hva situasjonen vil være for vedkommende noen uker eller måneder frem i tid. Man har bare anslag for hvor sannsynlig det vil være at vedkommende kommer til å være bedre, være som nå eller være verre, herunder hvor sannsynlig det er at ulike komplikasjoner vil oppstå.

Variasjonen i tid og rom gjør at det kan være svært komplisert å regne ut med nøyaktighet hvor mye en person med en gitt sykdom typisk vil bruke av helsetjenester, hvor mye han/hun vil tape av livskvalitet og levetid og hvor mye behandling vil kunne hjelpe. I stedet gjør man ofte en beregning av hva som statistisk kan forventes ut fra det man vet om sannsynligheter for videre utvikling i ulike faser av et sykdomsforløp.

I helseøkonomiske analyser er det vanlig å bruke såkalt Markov-modellering for slike beregninger, og resultatet av slike er kommet i praktisk bruk i forbindelse med helsepolitiske beslutninger. I søknader om forhåndsrefusjon til Statens legemiddelverk i 2013 ble Markov-modellering blant annet brukt i analyser av kabazitaksel (Jevtana) til behandling av metastatisk kastrasjonsresistent prostatakreft, bevacizumab (Avastin) til førstelinjebehandling av fremskreden ovariekreft og glykopyrron (Seebri Breezhaler) til behandling av kols (1 – 3).

Nasjonalt kunnskapssenter for helsetjenesten brukte Markov-modellering til blant annet å evaluere nye antikoagulanter som tromboprofylakse etter total hofte- eller kneoperasjon, ulike dialysemetoder hos pasienter med alvorlig nyresvikt og bevacizumab pluss paklitaksel sammenliknet med paklitaksel alene som førstelinjebehandling ved metastatisk brystkreft (4 – 6).

Hovedprinsippene for Markov-modellering er forklart i Tidsskriftet tidligere (7). Hensikten med denne artikkelen er å gi en mer detaljert innføring og å gjøre den lettfattelig ved bruk av et konkret eksempel. Målgruppen for en slik innføring er personer som ønsker å forstå hva metoden handler om, uten nødvendigvis å skulle bruke den selv.

Et tenkt sykdomseksempel

Vi tenker oss en sykdom som behandles med legemidlet Sanux. Vi vil se på kostnadseffektiviteten av å bruke et nytt legemiddel, Bonux, i stedet for Sanux. Vi gjør da separate analyser av de to legemidlene. Vi starter med Sanux.

Steg 1 – kliniske situasjoner

Vi spesifiserer først de kliniske situasjonene som kan forekomme når Sanux brukes:

  • A:

    Symptomer. Tidsbegrenset behandling med små doser med medisin

  • B:

    Symptomer. Tidsbegrenset behandling med moderate doser medisin

  • C:

    Symptomer. Tidsbegrenset behandling med store doser medisin

  • D:

    Symptomer. Tidsbegrenset behandling med kombinasjon av medisin og kirurgi

  • E:

    Symptomer som holdes i sjakk med medisinering over lang tid

  • F:

    Symptomfrihet

Steg 2 – analysehorisont og inndeling i perioder

Vi velger i dette eksemplet å se på et sykdomsforløp over tre år (36 måneder). Vi kan for eksempel anta at vi mangler data til å si noe om utviklingen etter tre år.

Vi deler opp de tre årene i perioder. Lengden av periodene bestemmes av hvor hyppig det skjer forandringer i pasientenes situasjon. Det kan for eksempel være perioder på tre, seks eller 12 måneder. I det følgende velger vi perioder på tre måneder. For enkelhets skyld forutsetter vi at i hver periode kan et individ være bare i én av situasjonene A-F. Eksempler på forløp kan dermed se ut som i tabell 1.

Tabell 1  Eksempler på mulige individuelle forløp over tre år

Periode:

1

2

3

4

5

6

7

8

9

10

11

12

Måned:

1 – 3

4 – 6

7 – 9

10 – 12

13 – 15

16 – 18

19 – 21

22 – 24

25 – 27

28 – 30

31 – 33

34 – 36

Forløp 1:

A

F

F

F

F

F

F

F

F

F

F

F

Forløp 2:

A

B

B

B

C

C

D

E

E

E

E

E

Forløp 3:

A

B

B

C

C

D

E

E

F

A

B

F

Osv.

Forløp 1 gjelder en person som blir bra etter bare én periode. Forløp 2 gjelder en person som gradvis får opptrappet behandlingen og som ender med vedvarende symptomer og medisinering. Forløp 3 gjelder en person som gradvis får opptrappet behandlingen inntil symptomene stabiliseres (E), hvoretter det skjer en tilfriskning (F), men så et tilbakefall (A) med påfølgende behandling (B) og ny tilfriskning.

Steg 3 – overgangssannsynligheter

Vi anslår ut fra kliniske data – for hver av de kliniske situasjonene A-F – hvor sannsynlig det er at et individ i neste tremånedersperiode vil befinne seg i samme situasjon som i inneværende periode eller i en av de øvrige mulige situasjonene. Tabell 2 gir eksempler på slike overgangssannsynligheter.

Tabell 2  Eksempler på overgangssannsynligheter

A

B

C

D

E

F

A

0,80

0,20

B

0,20

0,30

0,10

0,40

C

0,10

0,40

0,10

0,40

D

0,20

0,60

0,20

E

0,90

0,10

F

0,10

0,20

0,70

Linje 1 i tabellen forteller at etter en periode med symptomer og små doser (A) er det 80 % sannsynlighet for at man er i behandlingssituasjon B i neste periode og 20 % sannsynlighet for at symptomene har gitt seg (F). Linje 2 forteller at personer som har vært tre måneder i behandlingssituasjon B, i neste periode har 20 % sannsynlighet for å være i samme situasjon, 30 % sannsynlighet for å bli behandlet med større doser (C), 10 % sannsynlighet for å være under kombinasjonsbehandling D og 40 % sannsynlighet for å være symptomfri. Tilsvarende gjelder for de andre linjene. Merk spesielt siste linje, som forteller at personer som har vært symptomfri i en periode (F), i neste periode har 10 % sannsynlighet for tilbakefall til A og 20 % sannsynlighet for tilbakefall til behandlingssituasjon B, men 70 % sannsynlighet for fortsatt å være symptomfri.

Overgangssannsynlighetene bestemmer hvor ofte ulike mulige forløp forekommer i det lange løp. Noen mulige forløp vil være svært vanlige, mens andre i og for seg mulige forløp vil være usannsynlige og forekomme sjelden.

Steg 4 – livskvalitet, QALY og kostnader

Det er vanlig å kvantifisere individers personlige nytte av behandlingstiltak ved å angi hvor mange kvalitetsjusterte leveår de vinner (Quality Adjusted Life Years, QALY) (8). Poenget med denne metoden er å omregne livskvalitetsgevinster til et ekvivalent antall vunne leveår slik at livskvalitetsgevinster og levetidsgevinster kan sammenliknes med hverandre og summeres.

Omregningen skjer ved at sykdomstilstander gis en verdi mellom 0 og 1, der 0 står for «død eller like ille som død» og 1 er verdien for tilstanden «frisk». Et vunnet friskt år brukes som telleenhet og regnes som 1 QALY. En livskvalitetsforbedring fra for eksempel 0,6 til 0,8 i ett år regnes som 0,2 QALY. Varer denne forbedringen i åtte år, blir verdien 0,2 · 8 = 1,6 QALY.

Hver av de kliniske situasjonene A-F i vårt eksempel kan beskrives ut fra pasientens livskvalitet (målt på 0 – 1-skalaen brukt i QALY) og helsetjenesteforbruk (behandlingskostnader). Anta at man har anslag for dette, som vist i tabell 3.

Tabell 3  Eksempler på livskvalitet og behandlingskostnader i ulike situasjoner

Livskvalitet

Kostnader i 3-månedersperiode (kr)

A:

Symptomer. Små doser medisin

0,7

1 000

B:

Symptomer. Moderate doser medisin

0,7

2 000

C:

Symptomer. Store doser medisin

0,6

5 000

D:

Symptomer. Kombinasjon av medisin og kirurgi

0,5

50 000

E:

Symptomer som holdes i sjakk med medisinering

0,8

3 000

F:

Symptomfrihet

1,0

1 000

Steg 5 – modellering

Beslutningstrær. Beslutningstrær er avbildninger av ulike baner som pasienter kan komme til å ta, med sannsynligheter, helsetilstander, helsetilstandsverdier og eventuelt behandlingskostnader spesifisert for hver enkelt bane. Figur 1 gir et enkelt eksempel.

Er det mange mulige forløp over en lang rekke med perioder, blir beslutningstrær svært kompliserte og plasskrevende. Man tyr da gjerne i stedet til Markov-modellering, der man bruker et tabellarisk oppsett.

/sites/tidsskriftet.no/files/2014--T-14-0116-01-Kro.svg

Figur 1  Beslutningstre: Mulige forløp, sannsynligheter i prosent og verdier på en 0 – 1-skala for de ulike utfallene

Markov-modellering

Det finnes to hovedvarianter: Kohortberegning og Monte Carlo-simulering. I det følgende gis et detaljert eksempel på kohortberegning, dernest en kort oversikt over Monte Carlo-simulering.

Kohortberegning

Vi antar at vi har 10 000 pasienter i situasjon A i periode 1. Tabell 4 viser hvordan disse 10 000 kan forventes å spre seg på ulike situasjoner etter hvert som man beveger seg fremover i perioder, gitt overgangssannsynlighetene i tabell 2. I periode 2 forventes de 10 000 å fordele seg med 8 000 på B og 2 000 på F. I periode 3 ser vi i første linje hvordan de 8 000 som var i B i periode 2, forventes å fordele seg på B, C, D og F i periode 3. Neste linje viser hvordan de 2 000 som var i F i periode 2, nå forventes å fordele seg på A, B og F.

Linjen «Sum 3» fremkommer ved summering av de to foregående linjene og viser hvordan pasientene totalt (10 000) forventes å fordele seg i periode 3. I periode 4 viser første linje hvordan de som var i A i periode 3, forventes å fordele seg i periode 4. Tilsvarende for de som var i B, C, D og F. Linjen «Sum 4» viser totalfordelingen i periode 4. Slik fortsetter det til alle 12 perioder er gjennomløpt.

Tabell 4  Kohortberegning. Forventet spredning av 10 000 pasienter på ulike situasjoner A-F etter hvert som man beveger seg fremover i perioder à tre måneder

Periode

Fra foregående periode

A

B

C

D

E

F

Sum

1

10 000

10 000

2

10 000 A

8 000

2 000

10 000

3

8 000 B

1 600

2 400

800

3 200

2 000 F

200

400

1 400

Sum 3

200

2 000

2 400

800

4 600

10 000

4

200 A

160

40

2 000 B

400

600

200

800

2 400 C

240

960

240

960

800 D

160

480

160

4 600 F

460

920

3 220

Sum 4

460

1 480

840

1 320

720

5 180

10 000

Osv. frem til og med periode 12

Når vi ved hjelp av datamaskin har stilt opp hele tabellen, vet vi hvor mange som var i de enkelte situasjonene i hver av de 12 tremånedersperiodene (tallene i fet skrift). Da kan vi med livskvalitetsdataene fra tabell 3 regne ut summen av forventede QALY i hele kohorten på 10 000 pasienter i løpet av de 36 månedene. Vi multipliserer antall personer i den enkelte situasjon i den enkelte periode med den tilhørende livskvalitetsverdien. I tillegg multipliserer vi med 0,25, siden én QALY refererer til ett helt år og periodene vi ser på bare er et kvart år. Til slutt legger vi sammen alle disse produktene.

Periode

QALY

1

10 000 · 0,7 · 0,25

2

8 000 · 0,7 · 0,25 + 2 000 · 1,0 · 0,25

3

200 · 0,7 · 0,25 + 2 000 · 0,7 · 0,25 + 2 400 · 0,6 · 0,25 + 800 · 0,5 · 0,25 + 4 600 · 1,0 · 0,25

Osv. til og med periode 12

På tilsvarende måte regner vi ut samlede forventede behandlingskostnader ved å kombinere antallet personer i ulike situasjoner i ulike perioder med kostnadstallene i tabell 3.

Periode

Kostnader (kr)

1

10 000 · 1 000

2

8 000 · 2 000 + 2 000 · 1 000

3

200 · 1 000 + 2 000 · 2 000 + 2 400 · 5 000 + 800 · 50 000 + 4 600 · 1 000

Osv. til og med periode 12

Vi har nå regnet ut forventede QALY og kostnader i kohorten på 10 000 pasienter over tre år hvis de behandles med Sanux. Vi kan så gjøre helt tilsvarende analyse for alternativet Bonux. Det forutsetter at vi igjen spesifiserer forutsetningene for analysen, dvs. de mulige kliniske situasjonene og overgangssannsynligheter, livskvalitet og kostnader. Disse forutsetningene vil være spesifikke for Bonux og avvike (noe eller mye) fra forutsetningene for Sanux-analysen.

Men stegene i beregningen blir de samme. Vi kommer da frem til forventede antall QALY og kostnader ved behandling med Bonux. Til slutt regner vi ut økningen i QALY og kostnader ved å bruke Sanux i stedet for Bonux. Forholdet mellom disse to økningene blir den inkrementelle kostnaden per QALY, som var det vi var interessert i.

For en kohort på 10 000 pasienter fulgt over tre år kan dette regnestykket for eksempel se slik ut (tallene er eksempler og er ikke basert på tabellene foran).

QALY

Kostnader (kr)

Eksisterende legemiddel

20 000

200 000 000

Nytt legemiddel

25 000

1 000 000 000

Forskjell (inkrement):

5 000

800 000 000

Inkrementell kostnad per QALY: kr 160 000 (dvs. 800 000 000/5 000)

Monte Carlo-simulering

Ved kohortberegning får man anslag på gruppenivå, basert på forventet antall pasienter i hver av de mulige situasjonene i hver periode. Det er ikke mulig å se hvordan det går med enkeltpasienter ved hjelp av en slik beregning. Man får dermed heller ikke vite hvordan kohorten av pasienter fordeler seg på de ulike mulige forløpene.

Ved Monte Carlo-simulering lages det et forløp for hvert enkelt subjekt i kohorten ved hjelp av datamaskinen. La oss igjen se på eksemplet med bruk av Sanux foran, med sykdomssituasjonene A – F og overgangssannsynlighetene i tabell 2.

Maskinen behandler først et tenkt subjekt i situasjon A og trekker tilfeldig om subjektet skal videre til B eller F. I denne trekningen gjelder de to sannsynlighetene for henholdsvis B og F. I neste periode trekker maskinen på ny, nå ut fra de sannsynlighetene som gjelder for B, hvis subjektet havnet der, eller for F, hvis subjektet havnet der. På denne måten bestemmes subjektets vandring gjennom alle de 12 periodene frem til 36 måneder. Trekningen skjer tilfeldig, men bygger på de sannsynlighetene som gjelder for overganger ved utløpet av hver periode.

Så tar maskinen et nytt tenkt subjekt og gjentar operasjonen. Slik fortsetter det med et stort antall tenkte subjekter, for eksempel 10 000. Ut av dette kommer det 10 000 tenkte subjekter fordelt på ulike 36-månedersforløp (dvs. ulike serier av 12 situasjoner, som i tabell 1). Anta at det forekommer 100 ulike forløp (serier av 12 situasjoner), som vi her for enkelthets skyld benevner «forløp 1 – 100». Fordeling av de 10 000 subjektene på de ulike forløpene kan for eksempel se ut som i tabell 5. (Tallene er valgt som illustrasjon, dvs. de er ikke basert på tabell 2.)

Tabell 5  Tenkt resultat av Monte Carlo-simulering (N = 10 000)

Forløp

Antall subjekter (N)

Forløpets sannsynlighet (N/10 000)

1

1 000

0,10

2

500

0,05

3

20

0,002

98

100

0,01

99

130

0,013

100

10

0,001

Sum

10 000

1,0

I hvert av de 100 forekommende forløpene brukes tabell 3 til å sette inn relevant QALY og kostnad i de enkelte tremånedersperiodene. Disse legges sammen slik at man får total QALY og kostnad for hvert hele forløp. Hvert av de 100 forløpenes totale QALY og kostnad multipliseres så med vedkommende forløps sannsynlighet (hentet fra tabell 5). Når man legger sammen disse 100 produktene får man et sannsynlighetsveid gjennomsnitt av QALY og kostnader. Dette er det samme som statistisk forventet QALY per person og kostnad per person over hele treårsperioden.

Som i kohortberegning gjøres analysen først for Sanux, så for sammenlikningsalternativet Bonux. Man får frem økningen i forventet QALY per person ved bruk av Bonux i stedet for Sanux – «inkrementell QALY» – og økningen i forventet kostnad – «inkrementell kostnad». Forholdet mellom disse to er forventet «inkrementell kostnad per QALY».

Det fremgår at med Monte Carlo-simuleringen estimeres den samme størrelsen som den man estimerer i kohortberegning (inkrementell kostnad per QALY). Simuleringen forventes også å gi samme resultat som kohortberegningen, i og med at datagrunnlaget er det samme i de to analysene. Forskjellen er at Monte Carlo-simuleringen også gir informasjon om hvordan pasientene kan forventes å fordele seg på forløp. Dette har teknikken til felles med beslutningstrær.

Virkeligheten kan være mer komplisert enn det som er tilfellet i eksemplet over. Det kan for eksempel være et større antall mulige situasjoner, og det kan være at overgangssannsynlighetene for enkelte av situasjonene avhenger av hvor i et forløp situasjonen forekommer. Er situasjonen et resultat av et tilbakefall, kan for eksempel sannsynligheten for en bedre situasjon i neste periode være lavere enn hvis situasjonen er en førstegangsopplevelse. Dette lar seg håndtere i Markov-modelleringen, men oppgaven blir selvsagt mer krevende.

Interesserte kan lese mer i for eksempel Hunink og medarbeidere (9). Vil man selv prøve seg, er programvaren TreeAge et greit hjelpemiddel (10).

1

Legemiddeløkonomisk vurdering. Kabazitaksel (Jevtana) til behandling av metastatisk kastrasjonsresistent prostatakreft. www.legemiddelverket.no/Blaa_resept_og_pris/Helseoekonomiske%20rapporter/Documents/2014-2013/Jevtana_metastatisk%20prostatakreft_2013.pdf (23.9.2014).

2

Legemiddeløkonomisk vurdering. Bevacizumab (Avastin) til førstelinjebehandling av fremskreden ovarialkreft. www.legemiddelverket.no/Blaa_resept_og_pris/Helseoekonomiske%20rapporter/Documents/2014-2013/Avastin førstelinje_ovarialkreft_2013.pdf (23.9.2014).

3

Refusjonsrapport. Glykopyrronium (Seebri Breezhaler) til behandling av KOLS. www.legemiddelverket.no/Blaa_resept_og_pris/Helseoekonomiske%20rapporter/Documents/2014–2013/Seebri_KOLS_2013.pdf (23.9.2014).

4

Kunnskapssenteret. Thromboprophylactic treatment with rivaroxaban or dabigatran compared with enoxaparin or dalteparin in patients undergoing elective hip- or knee replacement surgery. www.kunnskapssenteret.no/publikasjoner/_attachment/12784?_ts=130d5c229ba&download­false (23.9.2014).

5

Kunnskapssenteret. Metodevurdering. Health technology assessment of the different dialysis modalities in Norway. Rapport nr 19 – 2013. www.kunnskapssenteret.no/publikasjoner/health-technology-assessment-of-the-different-dialysis-modalities-in-norway?threepagenor=1 (23.9.2014).

6

Movik E. hamidi V, Norderhaug IN. Helseøkonomisk analyse av bevacizumab+paclitaxel sammenlignet med paclitaxel alene som førstelinjebehandling ved metastatisk brystkreft. www.researchgate.net/publication/27514810_Helsekonomisk_analyse_av_bevacizumabpaclitaxel_sammenlignet_med_paclitaxel_alene_som_frstelinjebehandling_ved_metastatisk_brystkreft (23.9.2014).

7

Wisløff T, Abrahamsen TG, Bergsaker MA et al. Vaksinering – er det verdt pengene? Tidsskr Nor Lægeforen 2006; 126: 2670 – 3. [PubMed]

8

Nord E. Kvalitetsjusterte leveår – muligheter, begrensninger, alternativer. Tidsskr Nor Lægeforen 1992; 112: 2668 – 70. [PubMed]

9

Hunink M, Glasziou P, Siegel J et al. Decision making in health and medicine. Integrating evidence and values. Cambridge: Cambridge University Press, 2001.

10

TreeAge software inc. www.treeage.com (23.9.2014).

Kommentarer

(2)
Denne artikkelen ble publisert for mer enn 12 måneder siden, og vi har derfor stengt for nye kommentarer.

Torbjørn Wisløff

Seniorforsker og professor Erik Nord har i sin artikkel om Markov-modellering (1) vært uklar angående noen ord og uttrykk. Under avsnittet om Monte Carlo-simulering påpeker han ganske riktig at man ved kohortberegning får anslag på gruppenivå, og at man på bakgrunn av kohortberegning ikke kan si noe om enkeltindivider.

Erik Nord

E. Nord svarer:

Anbefalte artikler