Legeforeningens innspill til Dok. 8 46 S (2023 – 2024) – Norges neste steg for kunstig intelligens

Helsepolitisk avdeling

06. februar 2024

Representantene Hofstad Helleland, Astrup, Linnestad, Hagerup, Stensland og Harberg løfter mange og viktige problemstillinger i forslaget om Norges neste steg for kunstig intelligens (KI). Det er et omfattende representantforslag med en rekke underforslag. Legeforeningen vil i all hovedsak kommentere bruk av KI i helsetjenesten, men vi vil også komme med innspill til enkelte av de konkrete underforslagene til representantene.

Helsetjenesten og KI

Forslagsstillerne viser til at helsesektoren er et samfunnsområde der KI kan ha stor nytte, og viser blant annet til røntgendeteksjon og turnusplanlegging som eksempler. Samtidig er de bevisste på at dette er et felt der det er særlig viktig å trå forsiktig, og at det bør tilrettelegges for flere regulatoriske sandkasser for uttesting av ny helseteknologi.

Overordnet mener Legeforeningen at KI kan bidra positivt i pasientbehandlingen. Medisinen er innovativ av natur og har alltid omfavnet ny vitenskap og teknologi. Legeforeningens medlemmer ønsker verktøy som både gjør dem mer effektive og som bidrar til å øke kvaliteten på behandlingen. KI kan gi oss flere slike verktøy, og sørge for en bedre hverdag for både lege og pasient. Da ønsker vi dem velkommen, men det er allikevel mye som gjenstår. Selv om potensialet for KI i helsetjenesten er stort, er det viktig å påpeke at bruken er i et tidlig stadium, og at vi foreløpig har begrenset kunnskap om nytte, effekter og konsekvenser. Det er viktig å være klar over at innen helsetjenesten så er ikke KI "én ting". Feltet er nødt til å deles opp, på samme måte som for legemidler. Vi trenger legemidler, men ikke alle legemidler virker for alle sykdommer – det er på detaljnivå fremskrittene skjer.  

Det er kapasitets- og rekrutteringsutfordringer i helsetjenesten. Ny teknologi og nye metoder må derfor ivareta eller forbedre effektiviteten til helsepersonellet. Dette må sikres under utprøving, og tilbakemeldinger fra de ansatte må tas på alvor.

Det er helt grunnleggende at bruk av KI må være trygt og forskningsbasert. KI er utsatt for utvalgsskjevhet (bias) og data-skift, noe som innebærer at forskningsresultater fra norske pasienter må dokumenteres for at vi skal kunne stole på resultatene. 

Et eksempel på KI i helsetjenesten er bruddprosjektet ved Bærum sykehus, som har blitt omtalt i en rekke medier. Der har de tatt i bruk KI for å vurdere røntgenbilder når det er mistanke om mindre brudd. Bildene behandles og tolkes av KI, og på 1-2 minutter får du svar. Hvis KI konkluderer med "ikke brudd", blir pasienten sendt hjem. De som får påvist brudd, sendes til akuttmottaket. Alle bildene kvalitetssikres av fagfolk påfølgende dag. Rundt 70% av pasientene som kommer med mistanke om brudd, har ikke brukket noe.

Det er åpenbare gevinster ved en slik arbeidsmåte, men helseøkonomisk vil man ikke nødvendigvis avdekke fordelene ettersom man bare regner på kvalitetsjusterte leveår. Gevinsten skjules i den forstand at KI-vurderingen av mindre brudd ikke fjerner noen av radiologene, men folk slipper unødvendig gips, får raskt svar og kan reise hjem. Det krever mye validering før vi kommer til det punktet at også den menneskelige fagekspertisen kan fjernes fra regnestykket.

Det er behov for validerte datasett for trening av KI-modellen, før KI-modellene testes i kliniske studier av forventede effekter, nytte og omfang av bivirkninger. Her er det særlig viktig at de kliniske studiene gjennomføres i Norge grunnet nevnte utfordringer med "dataskift". Vi behøver data fra vår egen befolkning fra norsk helsetjeneste for å kunne validere algoritmene.

Regulering og lovverk

Forslagsstillerne ber Stortinget anmode regjeringen om å gjennomføre en digital lovvask, der det kartlegges hvilke deler av regelverket som er utydelige i møte med ny teknologi som kunstig intelligens. Legeforeningen støtter dette underforslaget. Det er et klart behov for en diskusjon av juridiske, etiske og medisinske aspekter ved bruk av KI i diagnostikk og behandling.

Vi trenger regulatoriske rammeverk som ivaretar spørsmål om bruk og ansvar, f.eks. hvis bruk av KI i klinisk praksis medfører pasientskader, både nasjonalt og internasjonalt.

Det er også behov for å se på regelverket tilknyttet datainnsamling og databehandling for utvikling av KI-algoritmer. Dagens regelverk vil gi utfordringer på dette feltet.

Legeforeningen mener det bør nedsettes et lovutvalg som kan revidere helselovgivningen i tråd med utviklingen i teknologiske muligheter og der KI-perspektiver tas med.

Offentlig-privat samarbeid

Et av underforslagene handler om samarbeidet med det private, og forslagstillerne ønsker at regjeringen etablerer arenaer der næringslivet selv får anledning til å komme med råd og anbefalinger om å utnytte data internt i industrien og dele på tvers av dem.

Offentlig-privat samarbeid må til, men det må skje på en måte som beriker og ikke utarmer den offentlige helsetjenesten for ressurser. Samarbeid mellom offentlig forvaltning, helseforetakene, universiteter og høyskoler og andre forskningsmiljøer er nødvendig.

Data fra den offentlige helsetjenesten er dokumentert av de ansatte. Legeforeningen mener at befolkningens helsedata, som i all hovedsak er innsamlet i forbindelse med helsehjelp, ikke skal gjøres fritt tilgjengelig for både offentlige og private aktører uten noen former for gjenytelser og rettigheter for de registrerte og for den offentlige helsetjenesten. Vårt utgangspunkt er at god og bærekraftig forvaltning av helsedata forutsetter et tydelig skille mellom offentlige og private aktørers tilgang til helsedata. En eventuell tilgang til slike data av private utviklere av KI må medføre at den offentlige helsetjenesten får verdi tilbake. Anvendelse av "befolkningens data" bør forplikte helsetjenesten og industrien til gjenytelser i form av investeringer i helsetjenesten for å oppnå høy kvalitet i pasientbehandlingen og implementering av nye metoder.

KI-råd

I representantforslaget fremmes et underforslag der Stortinget ber regjeringen opprette et råd for KI som skal være et rådgivende og frittstående organ for å følge med på utviklingen av KI, gi råd i prinsipielle spørsmål rundt teknologien og veilede om ansvarlig bruk av KI.

Legeforeningen støtter opprettelsen av et KI-råd, men vil understreke viktigheten av at rådet er representert med kompetanse innenfor sektorer der KI er, eller vil være utbredt, som helsesektoren. Våre fagmedisinske foreninger besitter kompetanse på området, og vi bidrar gjerne med å foreslå kandidater til et eventuelt KI-råd gjennom disse.

Avsluttende kommentarer

For å lykkes med KI må det først defineres et behov i helsetjenesten, og deretter vurderes om ny teknologi som KI er det riktige verktøyet for å løse behovet. Dette er det legene på gulvet som gjør best, fagfolkene må stå i front. 

Klinikere, helseledere, teknologer, forskere, personell med kunnskap om anbudsprosesser og personvern må sammen sikre gode prosesser der teknologien testes ut og valideres. Det må legges til rette for at slike samskapende prosesser i tverrfaglige miljøer kan skje også her i Norge, og det er viktig at slikt arbeid foregår i klinikkene. Kvalitet og effektivitet må ivaretas eller forbedres.

Til slutt: Det er helt essensielt at det tillitsfulle forholdet mellom leger og pasient bevares. Bruk av KI må verken forstyrre eller ødelegge dette. Lege-pasient-forholdet er en historisk styrke som må ivaretas i alt arbeid med KI i helsetjenesten.

Saksbehandler

Gisle Bruknapp | Helsepolitisk avdeling