När en AI-agent ska få skriva i databasen och när inte
Att låta en agent läsa data är en sak. Att låta den skriva är något helt annat. Här är vår beslutsmodell för när det är okej och när det är farligt.
Det finns ett moment i nästan varje agentprojekt där frågan dyker upp. Ska agenten få skriva i den här databasen själv, eller ska den föreslå en åtgärd som en människa godkänner. Det är ett beslut med konsekvenser och vi har en ganska bestämd modell för hur vi resonerar.
Tre frågor vi alltid ställer
För det första, vad händer om agenten skriver fel. Om svaret är inget allvarligt, är vi öppna för automation. Om svaret är ekonomisk skada, juridisk exponering eller skadat förtroende, kräver det mänsklig granskning.
För det andra, hur lätt är det att rätta. En felskickad bokningsbekräftelse går att be om ursäkt för. En felaktig återbetalning på trettio tusen kronor är kostsam att backa. Reversibilitet styr risknivån.
För det tredje, hur ofta händer det. Om volymen är hög och varje fall är lågt risk-relaterat lutar vi mot automation med stickprov. Om volymen är låg och varje fall är högt risk-relaterat lutar vi mot mänsklig granskning på allt.
Designmönstret vi använder
För nästan all skrivande verksamhet bygger vi en mellannivå vi kallar förslagsläge. Agenten producerar en förslagen åtgärd som ligger i en kö. Beroende på risk hamnar den antingen direkt i utförande eller i en granskningsvy. När AI förbereder diarieföringen betyder det att registratorn får ett förslag och registrerar själv.
Tröskeln mellan auto och granskning kan justeras per kategori. För fakturor under tusen kronor kan automation gälla. Över det går till en människa. För kundservice-svar på frågor som hanteras tusentals gånger om dagen och har låg konsekvens går automation. För svar som rör reklamationer går till granskning.
Vad du tjänar på att inte automatisera allt
Många nya AI-projekt vill ha hundra procent automation från start. Det leder till att människor tappar känsla för vad systemet faktiskt gör. När något går fel saknas internkompetensen att förstå varför.
När du har en granskningsnivå behåller du två saker. Förmågan att fånga avvikelser tidigt och förmågan att utbilda nya medarbetare i hur arbetet egentligen ska göras. Det är värt mer än marginalen i tid man förlorar.
Och det vi aldrig skulle automatisera
Beslut som direkt påverkar någons liv eller försörjning. Kreditbeslut, anställningsbeslut, beslut i myndighetsärenden. Där bygger vi alltid agenter som förbereder underlag, aldrig som tar beslutet. I bygglovshandläggning med AI förbereder AI:n ärendet, och handläggaren prövar och beslutar. Det är både etiskt rätt och regulatoriskt nödvändigt.
För resten handlar det om vilken kontroll som ska ligga runt skrivandet. Bra design är där det avgörs.