Så undviker ni att chattboten gissar: grundad AI i kundservice

Den som leder kundservice på ett företag med några hundra ärenden i veckan får förr eller senare frågan om en chattbot kan ta de enklaste. Svaret beror helt på var boten hämtar sina svar. En bot som svarar fritt kan låta säker och ändå ha fel, och det är företaget, inte leverantören, som får stå för svaret gentemot kunden.

Vad betyder det att en chattbot är grundad?

En grundad chattbot får bara svara med innehåll som finns i en bestämd källa, oftast företagets kunskapsbas, och ska kunna visa var svaret kommer ifrån.

I praktiken innebär det tre saker:

1. Boten svarar bara utifrån publicerade artiklar. När kunden frågar om returfristen hämtar boten er returartikel och formulerar svaret utifrån den. Står det inget om returer i kunskapsbasen ska boten inte hitta på en frist.
2. Boten anger källa. Kunden ser vilken artikel svaret bygger på och kan läsa hela texten.
3. Boten säger ifrån när underlaget saknas. Ett "det har jag inget svar på, jag kopplar dig vidare" är ett korrekt svar. Ett gissat svar är det inte.

Tekniken bakom kallas ofta retrieval-augmented generation, RAG: systemet söker först fram relevanta textstycken och låter sedan modellen skriva ett svar utifrån just dem. En allmän språkmodell, den typ som finns i publika AI-assistenter, saknar den kopplingen. Den har tränats på stora mängder text och svarar på allt, oavsett om den har ert företags villkor framför sig eller inte. Det är därför en kunskapsbas med granskade artiklar är förutsättningen för en chattbot i kundservice, inte ett tillval.

Vad är en hallucination, och varför gissar språkmodeller?

En hallucination är ett svar som låter trovärdigt men saknar täckning i något underlag. Modellen producerar den fortsättning på texten som är statistiskt mest sannolik, och när fakta saknas blir det en rimlig gissning.

Forskare på OpenAI beskrev 2025 varför det blir så: sättet modeller tränas och utvärderas på belönar gissningar framför att erkänna osäkerhet, ungefär som en flervalstenta där ett tomt svar aldrig ger poäng men en chansning ibland gör det. Modellen lär sig att alltid svara något.

Att koppla boten till en källa minskar problemet men tar inte bort det av sig självt. När Stanford RegLab 2024 testade kommersiella juridiska AI-verktyg, som är byggda med just källsökning, hallucinerade de i 17 till 33 procent av 202 testfrågor. Slutsatsen för kundservice är enkel: källsökning är nödvändig, men boten måste dessutom vara tvingad att hålla sig till det som hittats och tillåten att säga att svaret saknas.

Vad kan gå fel i kundservice? Fallet Air Canada

Företaget ansvarar för vad chattboten säger, precis som för en vanlig sida på webbplatsen. Det slog en kanadensisk tvistenämnd fast i Moffatt v. Air Canada 2024.

En resenär frågade flygbolagets chattbot om rabatterade biljetter vid dödsfall i familjen. Boten svarade att rabatten kunde sökas i efterhand. En annan sida på samma webbplats sa motsatsen, och när kunden begärde återbetalning fick han nej. Flygbolaget hävdade att chattboten var en separat enhet som bolaget inte ansvarade för. Nämnden avfärdade det: chattboten är en del av webbplatsen, och det spelar ingen roll om informationen kommer från en statisk sida eller från en bot. Kunden fick 650,88 kanadensiska dollar i ersättning.

Beloppet är litet. Principen är det inte. Översatt till svensk e-handel kan samma mekanism ge:

• En påhittad rabattkod eller ett löfte om fri frakt som kunden sedan kräver att få.
• Fel returfrist, fel garantitid eller fel villkor för ångerrätt.
• Ett besked om att en vara finns i lager eller levereras ett visst datum, utan att boten har tittat i något system.

Till det kommer ett transparenskrav. Enligt EU-kommissionens vägledning om artikel 50 i AI-förordningen ska den som pratar med ett AI-system informeras om det senast vid första kontakten, och skyldigheten gäller från den 2 augusti 2026.

Hur kontrollerar ni att leverantörens chattbot är grundad?

Fråga inte om boten "använder AI", fråga vad den får svara på och vad som händer när svaret inte finns.:

1. Varifrån hämtar boten sina svar? Ni vill höra "bara från er kunskapsbas", inte "från er kunskapsbas och modellens allmänna kunskap".
2. Vad händer när svaret inte finns? Be om en demonstration och ställ en fråga ni vet att ni saknar artikel för. En grundad bot säger att den inte vet eller lämnar över. En gissande bot svarar ändå.
3. Visar boten källa för varje svar? Kunden ska kunna klicka sig till artikeln.
4. Kan vi se listan över frågor boten inte kunde svara på? Den listan är ert viktigaste underlag för att hitta kunskapsluckor.
5. Vem kan publicera innehåll som boten använder, och finns det granskning?
6. Kan vi spärra ämnen? Prisändringar, juridiska bedömningar och löften om kompensation ska boten aldrig hantera själv.
7. Hur testas boten före lansering och hur mäts fel löpande? Ni vill höra om testfrågor med facit och stickprov efter lansering.
8. Vad står i avtalet om ansvar för felaktiga svar? Ansvaret mot kunden landar hos er oavsett.

Ett enkelt eget test räcker långt: ställ tio frågor, varav fem ni har tydliga artiklar för, tre ni saknar svar på och två där era egna källor säger olika. En grundad bot klarar de fem, lämnar över de tre och avslöjar motsägelsen i de två.

Hur ska överlämningen till en människa fungera?

Överlämningen ska ske automatiskt när boten saknar underlag, alltid när kunden ber om det, och som regel när ärendet rör pengar, avtal eller klagomål.

Kunderna är tydliga på den punkten. I en Gartner-undersökning med 3 566 kunder våren 2026 sa 87 procent att det är nödvändigt att kunna nå en människa när företaget använder generativ AI i kundservice. Bland dem som inte ville använda AI alls var möjligheten att byta till en människa det vanligaste som skulle få dem att ändra sig. En annan Gartner-undersökning från 2026 visar vad som annars händer: kunder är ungefär tre gånger så benägna att ta hjälp av en extern AI-tjänst som av företagets egen chattbot.

En bra överlämning har tre delar:

• Kunden behöver inte börja om. Enligt Zendesks CX Trends 2026 vill 81 procent av konsumenterna att medarbetaren fortsätter där de slutade, och 74 procent blir frustrerade av att upprepa sig. Hela chattens historik ska följa med i ärendet.
• Medarbetaren ser vad boten sa och vilken artikel den använde. Då kan felet rättas i artikeln, inte bara i det enskilda ärendet.
• Kontaktvägen är synlig. Konsumentverkets regler för företag om kundtjänst säger att kontaktuppgifter och hur man reklamerar ska framgå tydligt.

Enklast blir överlämningen när bot och människa arbetar ur samma underlag. I Supportifier används samma granskade artiklar i hjälpcenter, chatt och teamets inkorg, så när ärendet byter kanal byter det inte kunskap; hur delarna hänger ihop beskrivs på plattformssidan. Samma princip gäller när AI föreslår svar som en medarbetare granskar innan de skickas, vilket vi går igenom i artikeln om AI-utkast med granskning.

Så gör ni

Det här kan ni göra den här veckan, oavsett om ni har en chattbot i dag eller bara funderar:

1. Lista era tjugo vanligaste frågor och kontrollera att var och en har en publicerad artikel med en namngiven ägare.
2. Kör tiofrågetestet ovan på er nuvarande bot eller på leverantörens demo. Skriv ner varje svar och vad det borde ha varit.
3. Bestäm en spärrlista: ämnen boten aldrig får hantera själv. Kompensation, prisavvikelser, juridik och personuppgifter är en vanlig start.
4. Skriv ner överlämningsregeln på en sida: när, till vem, med vilken information.
5. Boka en återkommande timme i veckan för att läsa botens obesvarade frågor och skriva de artiklar som saknas.
6. Mät tre saker: andel svar med källa, andel överlämningar och andel kunder som återkommer med samma fråga inom en vecka.

Vanliga frågor

Kan en chattbot svara fel även om den är grundad?

Ja. Grundning minskar felen kraftigt men tar inte bort dem. Boten kan hämta fel artikel, tolka en otydlig artikel fel eller svara rätt utifrån en artikel som i sig är inaktuell. Därför behövs källhänvisning, så att felet kan spåras, och en rutin för att rätta artikeln när ett fel upptäcks. Kvaliteten på kunskapsbasen sätter taket för botens kvalitet.

Måste vi berätta för kunden att den pratar med en AI?

Ja. Artikel 50 i EU:s AI-förordning kräver att den som interagerar med ett AI-system informeras om det senast vid första kontakten, om det inte redan är uppenbart, och kravet gäller från den 2 augusti 2026. En tydlig text i chattens början räcker i de flesta fall. Det är dessutom bra kundservice: den som vet att den pratar med en bot ber snabbare om en människa när det behövs.

Vad händer om chattboten lovar något vi inte kan hålla?

Utgå från att ni får stå för det. I Air Canada-fallet 2024 avfärdade nämnden argumentet att boten var en separat enhet och dömde bolaget att ersätta kunden för skillnaden mellan det utlovade och det verkliga priset. Svensk konsumenträtt prövas förstås i svenska instanser, men principen att företaget ansvarar för informationen på sin webbplats är densamma. En spärrlista för känsliga ämnen är billigare än att reda ut löften i efterhand.

Räcker det att boten har en ansvarsfriskrivning?

Nej. Air Canada hade information på sin webbplats som motsade botens svar, och nämnden ansåg inte att kunden var skyldig att dubbelkolla en sida mot en annan. En friskrivning i finstilt text väger lätt mot ett konkret besked som kunden fått i chatten. Det som faktiskt skyddar er är att boten inte kan säga något som inte står i en granskad artikel.

Källor

• Moffatt v. Air Canada, 2024 BCCRT 149 — Civil Resolution Tribunal of British Columbia via CanLII, 2024
• Why language models hallucinate — OpenAI, 2025
• Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools — Stanford RegLab, 2024
• Transparency obligations under Article 50 of the AI Act — EU-kommissionen, 2026
• Gartner Survey Finds 87% of Customers Say Companies Using GenAI for Customer Service Must Provide Access to a Human Agent — Gartner, 2026
• Gartner Survey Finds Customers Are 3x More Likely to Use Third-Party GenAI Than Company-Provided Chatbots for Customer Service — Gartner, 2026
• AI Ushers In Era of Contextual Intelligence, Redefining Customer Experience in 2026 — Zendesk, CX Trends 2026
• Konsumentproblem i kundtjänst: regler för företag — Konsumentverket, läst 2026