Snårig juridik, problem med att hitta rätt kompetens och svårigheter att säkerställa att AI-systemen är etiska och transparenta.
När Sjukhusläkaren frågar regionerna vilka de största utmaningarna är på AI-området blir listan lång.
Artikeln ingår i temat AI i vården Det satsas just nu miljontals kronor på olika AI-projekt runt om i landets regioner. Automatisk bildtolkning av misstänkta strokefall i Region Uppsala, AI-baserad precisionsdiagnostik för att förbättra cancerbehandlingsbeslut i Region Jönköping och AI-baserad dosberäkning inom strålbehandling i Region Värmland är bara några exempel.
I vissa fall har regionerna valt att gå samman i gemensamma projekt – som till exempel Region Skåne, Västra Götalandsregionen och Region Halland som tillsammans driver ett projekt kring textbaserad AI. Andra regioner, som exempelvis Region Västernorrland och Region Norrbotten väljer att förhålla sig mer avvaktande och följer i stället utvecklingen på området på håll utan att satsa några egna pengar för närvarande.
Men gemensamt för samtliga regioner är att man har identifierat ett flertal utmaningar inom området AI. När Sjukhusläkaren ställer frågan om vilka utmaningar man ser som störst blir svaren långa och omfattande från flertalet.
”Stora oklarheter kring juridisk tolkning av AI, avseende datasäkerhet, GDPR med mera” svarar till exempel Region Gävleborg. I Region Jämtland Härjedalen lyfter man fram ”resurser i form av personal med relevant utvecklingskompetens och pengar” som den största utmaningen på området.
Men det som verkligen sticker ut bland de utmaningarna som regionerna har identifierat, är den snåriga juridiken. Närmare hälften av dem svarar att detta vållar dem mer eller mindre stora problem.
Vilka AI-utmaningar har din region? REGION BLEKINGE
Absolut största utmaningarna är hantering av data och information på ett strukturerat och säkert sätt. Tillgängliggöra data, lagra data, kommunicera data i rätt format och så vidare. REGION GOTLAND
Att säkerställa att AI-systemen är etiska, transparenta och respekterar patienternas integritet och självbestämmande. Att skapa tillräcklig kompetens och kunskap hos vårdpersonalen om hur AI-systemen fungerar och hur de kan användas på ett säkert och ansvarsfullt sätt. Att integrera AI-systemen med befintliga digitala vårdtjänster och datakällor, samt att säkerställa att datakvaliteten och informationssäkerheten är hög. Att utvärdera AI-systemens effekter på vårdprocesser, vårdresultat och kostnader, samt att följa upp och anpassa dem efter behov. REGION JÄMTLAND HÄRJEDALEN
Resurser i form av personal (med relevant utvecklingskompetens) och pengar. REGION JÖNKÖPING
Att genomföra alla de digitaliseringsbehov som våra verksamheter har behov av. Digitaliseringen driver att takten hela tiden måste ökas, vilket innebär att såväl monetära som personella resurser behöver ökas. Dessutom kommer AI Act, som kommer att vara en stor utmaning. REGION KALMAR
Svårigheter är juridik omkring att dela känslig data, molntjänster samt en begränsad mängd lösningar där det finns evidens eller beprövad erfarenhet för att de verkligen skapar värde i verksamheten. Andra svårigheter kan vara att det behövs mer kompetens eller kompetenser som inte naturligt funnits inom hälso- och sjukvården samt etiska frågor. REGION STOCKHOLM
En utmaning är tillgång till hälsodata, där man för AI behöver stora mängder data. Trots att Stockholm har ett systematiskt sätt att arbeta med tillgängliggörande av hälsodata (via Centrum för hälsodata) så är själva uttagen komplicerade och tar lång tid. På längre sikt är utmaningen hur alla regioner ska kvalitetssäkra AI-baserade algoritmer i alla steg (utveckling, upphandling, uppdatering och så vidare). REGION UPPSALA
Bland utmaningarna kan särskilt nämnas dataskydd och integritet. Vidare finns utmaningar i validering av AI-modeller och utmaningar kopplade till förklarbarhet (det kan vara svårt, och i vissa fall omöjligt, att utifrån informationsflödet i detalj förstå hur AI-modellen fungerar när den används). Kompetensförsörjning är en central förutsättning för att lyckas skapa nytta genom AI inom slutenvården. AI behöver tillgång till data. Datahantering är framåt en av de största utmaningarna. De flesta sjukhus har hundratals IT-system som inte byggda för att effektivt kunna utbyta data. Den tekniska skulden är stor. REGION VÄRMLAND
Främst resurser i form av personal och finansiering. Det är också en utmaning att hitta relevanta case, både behovsfångst och produkter och tjänster som är mogna för implementation. REGION VÄSTERNORRLAND
Informationssäkerhet, IT säkerhetsfrågor, datahantering, MDR. VÄSTRA GÖTALANDSREGIONEN
Svårt att hantera regelverk – vi behöver förstå och ta fram effektiva processer men svårt att hinna med. Många regelverk som överlappar och ibland motsäger varandra samt många nya regelverk på gång från till exempel EU-håll. Detta innefattar hur vi ska hantera data (patientuppgifter) säkert hos medicintekniska produkter (MDR), kvalitetsuppföljning med mera. En utmaning är hur vi ska kunna omsätta resultat från klinisk forskning i praktiken. Detta gäller hela branschen/ sektorn/vården. Inom AI-området handlar det ofta om att skapa kliniska beslutsstöd vilka oftast klassas som medicinteknisk produkt och då omfattas av regelverk som kräver väldigt stor administrativ och utvecklingsinsats innan de kan införas. Data finns utspridd i ”silon” och är svåra att koppla ihop, både tekniskt och semantiskt (variabelnamn med mera) och juridiskt/organisatoriskt. Att driva AI-projekt kräver tillgång till olika typer av kompetens/stöd utöver AI-kompetens – svårt att få tillgång till rätt kompetens och resurser i organisationen vilket skapar långa ledtider. REGION GÄVLEBORG
Stora oklarheter kring juridisk tolkning av AI, avseende datasäkerhet, GDPR med mera. Inom radiologi finns många små leverantörer, ofta med diagnosspecifika AI-lösningar, där det är svårt att avgöra vilken väg som är värd att testa. Svårt att väga kostnad mot klinisk nytta och effektivitet. REGION HALLAND
Värdering av medicintekniska produkters kliniska värde och hur man implementerar AI på ett sömlöst sätt i vårdvardagen. REGION KRONOBERG
Regulatoriska krav såsom medicintekniska förordningen (MDR) och patientdatalagen (PDL). Nytta och evidens. Dataskydd och informationssäkerhet. REGION SKÅNE
REGION ÖREBRO LÄN
Vi har inom Region Örebro län gjort en bedömning att vi behöver konkretisera vad AI betyder för oss och hur vi skall skapa grunderna kopplat till automatiserade processer med RPA och AI. Det finns flera juridiska aspekter som behöver beaktas och vi behöver ta fram riktlinjer och rutiner för administrativa ändamål respektive för medicinska ställningstaganden kopplat till användningen av AI, både generellt men också specifikt inom slutenvården för de olika AI- lösningarna, beroende på vad de ska lösa. Vidare är det att samordna initiativ och prioritera. Vi har väldigt intresserade och utvecklingsdrivna medarbetare och chefer som kommer med bra förslag, det är bland annat det som vi har våra olika övergripande råd och grupperingar till. REGION ÖSTERGÖTLAND
Hålla primärt fokus på att identifiera behov utifrån användarperspektivet och ställa krav på effektiv användning. Identifiering och prioritering av olika målgruppers behov av AI-lösningar tillsammans med ojämnt utbredd AI-mognad och förändringsvilja. Möjlighet att erhålla finansiering och resurser för genomförande av AI-relaterade införandeprojekt. Sätta upp mätbara mål som påvisar minskad/förenklad administration, ökad kvalitet och/eller förbättrad tillgänglighet och därmed ger nytta sett ur ett bredare hälsoekonomiskt perspektiv än ur den egna verksamheten. Hantera den flora av olika existerande IT-system och databasers strukturer och begränsade interoperabilitet som finns idag mellan olika verksamheter, med målet att skapa en jämlik datadriven hälso- sjukvård. För implementering och integrationslösningar har vi idag en svårighet att definiera och etablera en teknisk infrastruktur som flexibelt kan möta tredjepartslösningar eller intern beräkningskapacitet. Dataskydd inkluderande cybersäkerhet och data informationssäkerhet är i fokus samtidigt som sömlösa vårdprocesser står högt upp på önskelistan. De arbeten som idag pågår inom hälso- och sjukvårdsdata och skydd inom exempelvis European Health dataspace kommer att påverka de juridiska tolkningarna ytterligare och ta tid att förhålla sig till. Region Dalarna, Region Norrbotten, Region Sörmland och Region Västerbotten har inte svarat på enkäten.
