AI-agenter i driftPublicerad 6 min läsning

Språkmodeller i sjukvården: så kan de hitta mönster i avvikelser

AI Sweden beskriver hur språkmodeller kan göra vårdens avvikelserapporter mer användbara. Här går vi igenom vad som krävs av er data innan ni prövar det, och var människan behöver stå kvar.

Språkmodeller kan läsa vårdens avvikelserapporter och hitta mönster som är svåra att se när rapporterna ligger utspridda. Det förutsätter att underlaget först görs jämförbart, och det är kärnan i AI Swedens nyhet om språkmodeller och vårdens avvikelser. För regioner och kommuner börjar arbetet därför med kategorisering och loggning, och en människa bedömer varje mönster innan det leder till en åtgärd.

Kort sagt

  • Avvikelserapporterna innehåller mycket kunskap, men den är svår att använda när den ligger i olika system och kategoriseras olika.
  • En språkmodell kan sortera, sammanfatta och peka på återkommande mönster, och kvalitetsansvariga avgör vad mönstren betyder.
  • Hälsouppgifter kräver extra skydd, så frågan om var modellen körs hör hemma i planeringen från första dagen.

Vad beskriver AI Sweden om språkmodeller och avvikelser?

AI Sweden utgår från att de avvikelserapporter som skrivs i svensk sjukvård rymmer information som kan förbättra vården, men att informationen är spridd i olika system och inte kategoriserad på ett enhetligt sätt. Därför är den svår att analysera och dra full nytta av.

Projektet Regional samverkan kring utveckling av AI-verktyg i vården

Enligt AI Sweden pågår arbete inom projektet "Regional samverkan kring utveckling av AI-verktyg i vården" för att göra rapporterna mer användbara. Det intressanta för andra vårdgivare är riktningen. Språkmodellen behandlas som ett sätt att läsa och ordna en stor mängd text, och nyttan avgörs av hur väl underlaget hänger ihop.

Olika system, olika kategorisering

När en region eller kommun har flera system för avvikelser, eller när enheter har valt egna kategorier, går det inte att lägga rapporterna bredvid varandra. Samma typ av händelse kan hamna under olika rubriker på två avdelningar. En sammanställning per kategori säger då mer om hur rapporterna sorterades än om vad som faktiskt hände.

Mönster som göms i fritext

Den som skriver en avvikelse beskriver förloppet med egna ord. Det är där detaljerna finns: vilket moment som brast, vilken överlämning som missades, vilken rutin som var otydlig. Fritext är svår att räkna på med vanliga rapportverktyg, och det är just den sortens text en språkmodell är byggd för att läsa.

Vad kan språkmodeller bidra med, och var går gränsen?

Mönster över tid och enheter

En språkmodell kan läsa varje rapport, föreslå en kategori enligt en gemensam modell och sammanfatta vad som beskrivs. När det är gjort för många rapporter går det att se om liknande händelser återkommer på flera enheter eller ökar under en viss period. Modellen pekar ut kandidater till mönster, och varje kandidat ska gå att följa tillbaka till de rapporter den bygger på.

En människa bedömer varje fynd

Ett mönster i texten är en fråga att utreda, och slutsatsen om orsak och åtgärd tillhör de kvalitetsansvariga och verksamheten. Därför behöver flödet byggas så att modellen föreslår och en behörig person godkänner, med varje steg loggat. Den som ska agera på ett fynd ska kunna se exakt vilka rapporter och vilka formuleringar förslaget vilar på.

Vad betyder det för er i praktiken?

Avvikelserapporter innehåller ofta uppgifter om patienters hälsa. Sådana uppgifter räknas enligt artikel 9 i dataskyddsförordningen, förordning (EU) 2016/679, som en särskild kategori av personuppgifter, där behandling bara får ske under särskilda villkor. Vårdgivare hanterar dessutom patientuppgifter enligt patientdatalagen (2008:355), som styr hur uppgifter i hälso- och sjukvården får behandlas.

För er innebär det tre beslut innan ett test börjar. Ni behöver bestämma var modellen körs och vem som kan se materialet. Ni behöver avgöra vilka rapporter som ingår och om de först ska avidentifieras. Och ni behöver utse vem som godkänner modellens förslag. Utan de besluten blir det svårt att gå vidare från ett test till ordinarie arbete.

Hur förbereder ni er data innan ni testar språkmodeller?

Enhetlig kategorisering innan analys

Börja med en gemensam kategorimodell som alla enheter kan använda. En språkmodell kan sedan föreslå kategori för varje rapport, och en människa bekräftar. Arbetssättet liknar diarieföring med AI för kommuner, där modulen för diarieföring föreslår nämnd, handläggare och diarienummer för en inkommen handling och en människa registrerar. Samma grepp, förslag följt av ett mänskligt ja, gör att kategorierna blir jämförbara över tid.

Vad som ska loggas och godkännas

Varje förslag behöver sparas med underlaget det bygger på, tidpunkten och vem som godkände. En sammanfattning måste dessutom gå att kontrollera mot originalet. Dokumentsummeraren sammanfattar en PDF eller en text i punkter och anger för varje punkt var i källan den står, och samma princip behövs när en längre avvikelserapport ska göras överblickbar utan att något tappas. Hur ett helt flöde ser ut när ingenting går vidare utan godkännande framgår av ett annat område: så kan ett administrativt flöde byggas med en människa i loopen.

Varför välja Kapaciti för avvikelser i vården?

Det Kapaciti bygger

Kapaciti bygger AI-medarbetaren ALEX för reglerad verksamhet som vård och offentlig sektor, med mänskligt ja före varje åtgärd. Inget skickas, bokförs eller ändras innan rätt person har läst och sagt ja, och allt ALEX gör skrivs in i en signerad logg med extern tidsstämpel som er revisor kan kontrollera själv.

Det som skiljer oss när underlaget innehåller hälsouppgifter är framför allt egen AI-kapacitet. ALEX körs på en lokal språkmodell på en egen server i EU som bara är er, och inget skickas till en AI-tjänst i molnet om ni inte väljer det. Lika viktigt är att vi bryr oss: uppdrag som inte håller tackar vi nej till, även när de går att fakturera. Och den som bygger sitter med i första mötet, utbildar er personal och svarar senast nästa arbetsdag.

Så kommer ni igång

Välj ett avgränsat urval rapporter och en gemensam kategorimodell, och låt flödet arbeta i skuggläge innan något går skarpt: modellen läser och föreslår, och era kvalitetsansvariga ser resultatet i sina egna ärenden. Då blir det tydligt om kategorierna håller och om mönstren går att lita på.

Vi tycker att ni ska välja Kapaciti för det här arbetet, eftersom modellen stannar på en egen server i EU och den som bygger är den ni pratar med. Kapaciti tar uppdrag i hela Sverige och Europa, och det går fortare med oss eftersom grunden i ALEX är byggd och provad, så ni börjar inte från noll. Boka 30 minuter

Källor

Vill ni se hur det ser ut hos er?

Vi visar ALEX på ert eget material på en halvtimme.

Nyhetsbrev om AI-förordningen och det vi lär oss när vi bygger ALEX.

Vi hör av oss när något i AI-förordningen ändras som påverkar er. Avregistrera när som helst via länken i mejlet.

Uppgifterna används endast för nyhetsbrevet. Inga utskick utöver det utan separat samtycke.