Krönikor
Utanför vården har tech-världen kört på, utan vårdens begränsningar
"Idag diskuterar jag vetenskapliga artiklar med chatgpt samtidigt som jag lagar middag till familjen. Samtalet är rätt givande tills chatgpt:n plötsligt hallucinerar, alltså fabulerar hej vilt. Chatgpt är bra när inget liv står på spel, har jag brukat tänka. Men nu är jag lite mindre tvärsäker", skriver doktoranden Ellen Tolestam Heyman i sin krönika.
Artikeln ingår i temat AI i vården”Skriv in i planen att det är smal och inte generell artificiell intelligens och akutsjukvård du studerar”, sa en handledare när jag skrev min doktorandplan för några år sedan. Det kändes lika relevant som att journalföra att en 79-årig man med buksmärta på Akuten inte är gravid. Fanns inte på kartan.
Jag är inte lika säker längre. Artificiell generell intelligens (AGI), en artificiell intelligens (AI) som kan göra allt du ber den om, är inom räckhåll om man får tro Sam Altman, vd för IT-bolaget OpenAI som lanserat AI-verktyget chatgpt. ”Det blir två veckors ramaskri, sedan fortsätter allt som vanligt”, lägger han till. Man får ta tech-världens hypade utfall med en nypa salt, men uttalandet är ändå svårt att avfärda. AI-området har exploderat under det senaste året.
Samtidigt verkar tiden ha stått still när jag går till jobbet på sjukhuset. Vården ser ut att ligga minst en digitaliseringsvåg efter, med gamla journalsystem och klumpiga telefoner. Vad händer?
När jag påbörjade min doktorandutbildning för några år sedan löste AI komplexa, analytiska problem efter att ha serverats stora mängder data i strukturerad form. Några år tidigare hade AI slagit världen med häpnad genom att besegra en mästare i det kinesiska spelet Go. På den tiden behövde man, för att lösa ett vårdproblem med AI, få tillgång till stora mängder vårddata för att träna och testa sin AI-modell från grunden. Det är, och ska vara, krångligt att få tillgång till vårddata och datamängderna är relativt blygsamma, jämfört med internets alla hundar och katter. Saker förenklas inte av regionernas uppdelade och omoderna datasystem samt införandet av EU:s dataskyddslag GDPR 2018 som ingen riktigt vet hur den ska tolkas.
Vården ser ut att ligga minst en digitaliseringsvåg efter, med gamla journalsystem och klumpiga telefoner. Ellen Tolestam Heyman, ST-läkare och doktorand
Till sist ska alla färdiga AI-algoritmer CE-märkas enligt EU-standard för medicintekniska produkter, vilket kan ta ytterligare några år. Regionerna har med andra ord behövt lägga tid och kraft på att skapa en fungerande infrastruktur innan något annat har varit möjligt. Men flera intressanta AI-projekt är på gång inom regionerna, jag tror vi kommer att få se mer framöver.
Utanför vården har tech-världen kört på, utan vårdens begränsningar. De har tränat och testat sina modeller på hela öppna internet. De senaste åren har utvecklingen av stora språkmodeller, large language models (LLMs), och generativ AI exploderat och vänt upp-och-ned på allt vi trodde var sant. Plötsligt kan AI-modeller matas med vanlig, till och med vardaglig, ostrukturerad text och svaret blir kreativt och nyskapande, inte bara analytiskt. AI:n gick från att hitta korrelationer i stora datamängder till att måla tavlor. Chatgpt är den mest omtalade modellen, men hack-i-häl finns fler stora språkmodeller.
Idag diskuterar jag vetenskapliga artiklar med chatgpt samtidigt som jag lagar middag till familjen. Samtalet är rätt givande tills chatgpt:n plötsligt hallucinerar, alltså fabulerar hej vilt. Chatgpt är bra när inget liv står på spel, har jag brukat tänka. Men nu är jag lite mindre tvärsäker.
I början av 2023 kom nyheten att chatgpt fått godkänt eller nästan godkänt på de tre test som krävs för läkarexamen i USA och har sedan dess även klarat av en tysk läkarexamen, närapå en sydkoreansk men misslyckats med en kinesisk. Man har jämfört läkare och chatgpt i en rad olika studier, ibland vinner läkarna, ibland chatgpt. Ofta är båda lika bra, som i en nederländsk studie om differentialdiagnostik på akutmottagningen. Men betänk att AI inom överskådlig framtid uppdateras i nya versioner med allt större förmågor.
Chatgpt är bra när inget liv står på spel, har jag brukat tänka. Men nu är jag lite mindre tvärsäker. Ellen Tolestam Heyman
Människan är bäst på bemötande och empati, tänker jag. Men när man jämför läkares med chatgpt:s svar på människors medicinska frågor på en hemsida, anser legitimerad sjukvårdspersonal att chatgpt:ns svar ger högre kvalitet – och mer empati.
Ett fysiskt möte med läkaren bör vara till läkarens favör, tänker jag. Men inom forskningsområdet artificiell empati tränas AI på till exempel ansiktsuttryck, tonfall, tvekan och tystnad för att ge ett medkännande och empatiskt svar.
Vi behöver ha koll på studierna som manar till eftertanke. En studie i Nature Scientific Reports talar för att chatgpts svar blir signifikant sämre när frågan rör sig på en högre vetenskaplig nivå och att svaret saknar kritisk reflektion. I The Lancet Digital Health skriver man att patientens demografiska faktorer påverkar hur AI uppfattar patienten samt hur dyr behandling den föreslår. Och ett fel som medvetet planterats in i ett AI-beslutsstöd plockas omedvetet upp av läkaren, som sedan fortsätter att göra om felet även när AI-stödet har tagits bort.
The Lancet Digital Health menar i en ledarartikel att 2024 blir året då stora språkmodeller börjar påverka människors hälsa. Men, skriver man, det är avgörande med transparenta algoritmer, valideringsstudier om bland annat bias och hur subpopulationer påverkas samt att läkare alltid är med i beslutet.
Men snart, tillägger Nadella, försvinner även chatgpt:s behov av promptar. Och därefter även behovet av experter, eftersom chatgpt i sig kan allt. Ellen Tolestam Heyman
Vi borde överväga begreppet augmented intelligence, förstärkt intelligens, i stället för artificiell intelligens om vi vill betona att AI ska stötta snarare än ersätta läkaren. Termen förordas av American Medical Association (AMA).
Läkare och andra experter får större inflytande över AI-utvecklingen framöver, tror Microsofts vd Satya Nadella. Förr behövde AI-designern vara programmeringskunnig, nu räcker en enkel instruktion, en prompt. Med prompt engineering kan man förbättra språkmodellens svar genom att till exempel dela upp frågan i olika steg eller justera ”temperaturen”, slumpmässigheten, för att få hög kreativitet på julklappsrimmen och mindre slump vid medicinsk diagnostisering. Men snart, tillägger Nadella, försvinner även chatgpt:s behov av promptar. Och därefter även behovet av experter, eftersom chatgpt i sig kan allt.
Tidskriften Forbes påpekar att bara 10 procent av experternas förutsägelser om ny teknik mellan 1990 and 2007 faktiskt stämde och att 80 procent av ny teknik aldrig infriar sin medföljande hype.
När jag nu snart doktorerar har jag lagt av med förutsägelser. Jag tror att läkarprofessionen, liksom övriga samhället, fundamentalt kommer att påverkas av AI. Men jag blir alltmer osäker på hur. Inväntar i stället nästa halsbrytande U-sväng som ändrar allt. Igen.
