ChatGPT hadde 400 mill brukere i februar i år da vi forberedte dette kveldsseminaret. Per april 2025 har tallet steget til 800 mill brukere.
På tide at helsevesenet henger seg på?
Svaret er åpenbart JA!
Spørsmålet er bare hvordan vi skal bevare omsorg, kvalitet og tillit til helsetjenesten underveis.
Mandag 10. mars arrangerte derfor Troms legeforening temakveld om kunstig intelligens i medisinen. Innledere var seniorrådgiver Maja Gran Erke i Helsedirektoratet, Marte Kvittum Tangen fra Norsk Tangen fra Norsk forening for allmennmedisin og forskningsdirektør i Helse Nord Tove Klæboe Nilsen. Møtet var godt besøkt med medlemmer både fra sykehuset, kommunene, universitet og studentene.
Møtet vårt tok utgangspunkt i at mange KI-aktører ila kort har fått innpass på fastlegekontorene. KI er også på god vei inn i sykehusene, mest kjent er kanskje tolkningen av røntgenbilder. De mest utbredte KI-systemene som noen av fastlegene benytter i dag, lytter til hele lege-pasientkonsultasjonen fra A til Å, som så overføres til et sky-basert analyseverktøy som generere notatet tilbake til legejournalen. Notatet skal da være blottet for «uvesentligheter» og formalisert som et adekvat journalnotat med anamnese, klinisk undersøkelse og konklusjon. Markedet for dette er stort, og håpet er selvsagt overslag til hele helsetjenesten med enorme inntjeningsmuligheter for disse firmaene. Det er per nå en rekke leverandører som selger disse journalverktøyene, og ett av dem reklamerer med at de sågar skal ha klart å få tekstgeneratoren til å klare å skille hvis pasientene tar opp flere ulike/parallelle problemstillinger i samme konsultasjon (noe som vel for ordens skyld må betegnes som regelen mer enn unntaket i fastlegepraksis.) Et annet firma reklamerer med at tekstgeneratoren nå skal ha klart å lære seg så mye som 2 000 medisinske ord… Intensjonen er å avlaste legene med å skive pene notater, blottet for skrivefeil og uvesentligheter. Hvem kunne vel ikke tenke seg det? I tillegg skal tanken være at man nå kan ha mer direkte blikkontakt med pasienten, uten å være opptatt av «skjerm.» Systemene selges i dag som en «ren tekstgenerator» altså som et administrativt verktøy, og ikke som et medisinsk utstyr som «gjør vurderinger.» Dette gjør at man per i dag slipper unna en rekke reguleringer og godkjenningsprosesser. Dette skille mellom adm. verktøy (diktafon) og et medisinsk analyseverktøy (sammenfatning, prioritering av info/opplysninger osv) – er omstridt og per nå noe av kjernen i reguleringsproblemstillingen. Utviklingen går imidlertid så lynfort at hverken myndigheter, kollegium eller Legeforeningen – har rukket å ta helt inn over seg dette. Har forresten legen plikt til å opplyse konkret til den enkelte pasient, at det gjøres opptak av samtalen? Nei, fordi dette bare er et sekretærhjelpemiddel for legen. Det et vel ikke relevant for pasientene om legen bruker WebMed og CGM – journalsystem? Svarer leverandørene. Jo selvsagt må man det, sier Svein Aarseth, leder av Legeforeningens etiske råd. Merk at mens fastlegene selv står fullt og helt ansvarlige for sin virksomhet og derfor kan være som en «åpen dør» for disse selskapene, er spesialisthelsetjenesten langt mer regulert. De fremmøtte fikk også se synlige bevis på KIs overbevisende hallusinering og konfabulering.
Marte Kvittum «Kantum» Tangen leder norsk forening for allmennmedisin, og fremhevet betydningen av å se på KI i medisinen med sunn skepsis. Den menneskelige faktoren, tillit og erfaringsbasert kunnskap krysset med kunnskap om pasienten over tid – er faktorer som ikke KI hensyntar. Hun var også bekymret for om pasientene vil åpne seg for legen hvis de er kjent med at samtalens tas opp. Tillit i lege-pasientforholdet er noe av gullet i den norske helsetjenesten, og KI må ikke forringe dette. Hun understreket viktigheten av å se på KI som et hjelpemiddel, og ikke noe som kan overta behovet for å tilegne seg kunnskap og erfaring i legerollen. KI vil nok derfor være mest betenkelig i bruk hos unge kollegaer, som typisk også vil være trendsetterne som tar dette i bruk først.
Helsedirektoratet var representert ved Maja Gran Erke, som for tiden er seniorrådgiver med kunstig intelligens som sitt spesialfelt. Hun var naturlig nok opptatt av den regulatoriske delen, og at disse hjelpemidlene slik de er i bruk per i dag, nok kan defineres som medisinsk utstyr og derfor bør være kvalitetssikret på en helt annen måte enn det gjøres i dag. Dette begrunnes i at KI bearbeider den konkrete lege-pasientsamtalen og gjør vurderinger/oppsummeringer/analyser i forhold til en konkret sak. Det kan ha vært vanskelig, men like fullt viktig, å skille mellom medisinsk bruk og rent administrativt bruk. Man må ha et klart fokus på etikk, kompetanse og kvalitetssikring. KI i medisinen skal utforskes, men dette må skje med en tydelig bevissthet rundt risiko og reguleringer. Det gjøres nå et stort arbeid opp mot regulatoriske myndigheter og leverandører – og de vurderingene som ble gjort høsten 2024, er ikke nødvendigvis de samme i dag. Hun påpekte også at mange nok har for høye forventninger til KI som en løsning på personellkrisen i helsevesenet.
Klæboe Nilsen var opptatt av arbeidsgivernes ansvar ved implementeringen av KI-teknologier, og hun har ledet et arbeid i Helse-Nord for å kvalitetssikre retningslinjer for dette. Hun understreket at opplæring og tilrettelegging må være på plass for å sikre at teknologien kan implementeres på en trygg og effektiv måte. Hun kunne også fortelle om at KI-teknologien for analyse av røntgenbilder allerede var innkjøpt, og er forventet i bruk i UNN ila 2025.
Debatten som fulgte var både tankevekkende og livlig. Flere var kritiske til hvordan innføringen av KI på røntgen var gjort uten involveringene av legene i UNN. Det var tydelig at det ikke var laget en helhetlig plan for hvordan unge leger i radiologi (for det er deres vurderinger som nå erstattes av KI) i fremtiden skal tilegne seg erfaring og kompetanse når en så viktig del av den grunnleggende radiologien overtas av KI. Denne bekymringer gjelder egentlig hele helsetjenesten – og må få spesiell oppmerksomhet i implementeringen både i og utenfor sykehusene. Mange var nok også overrasket over å høre at KI – f.eks chatGPT – ikke har tilgang til lukkede databaser som f.eks legehandboka.no («bibelen» i allmennmedisin), og i all hovedsak bruker amerikanske kilder som kunnskapsgrunnlag.
Møtet ble avslutningsvis spontant oppsummert av en av våre yngre medlemmer: Kunstig intelligens vil gjøre de kloke smartere mens de ukloke kan fremstå som idioter.
Kanskje var dette utsagnet et frampeik om hva som skulle møte oss et par uker senere; den brutale avsløringen av hodeløs bruk av KI i Tromsø kommune.
Lise Figenschou
Allmennlegeforeningen Troms