Vad är AI-hallucinationer? Och hur hanterar du dem?

"Hallucination" är ordet för när en AI påstår något felaktigt med full övertygelse. Den garderar sig inte och låter inte osäker. Den säger det som ett faktum, i samma ton som när den har rätt.

Det är den viktigaste begränsningen hos dagens AI att förstå. Den betyder inte att tekniken är trasig. Den betyder att du måste använda den till rätt saker.

Varför det händer

Stora språkmodeller skriver text genom att förutsäga vilka ord som borde komma härnäst, utifrån mönster i träningsdatan. De har inget separat steg för faktagranskning, och de vet inte vad de inte vet. Fråga dem om något utanför det de säkert kan, så skriver de ett svar som låter rimligt, eftersom det är precis det de är byggda för.

Ett klassiskt exempel: be en AI om forskningsartiklar i ett ämne. Den listar ofta övertygande källor, med författare, tidskrifter och titlar som låter äkta, men som inte finns.

Så arbetar du med det

Lösningen är inte att misstro AI helt. Det är att anpassa uppgiften efter risken.

• Låg risk: utkast, sammanfattningar, idéer och omformatering, där någon ändå granskar resultatet. Här är hallucinationer ett hanterbart problem.
• Hög risk: exakta fakta, källhänvisningar, juridiska detaljer eller medicinsk information, där ett misstag får konsekvenser. Här ska det AI skriver alltid kontrolleras mot originalkällan.

Att koppla AI:n till era egna dokument (läs mer i Vad är RAG?) minskar hallucinationerna kraftigt för frågor om ert företag, eftersom svaret hämtas ur riktigt källmaterial i stället för ur mönster i träningsdatan.

Ett bra sätt att se det: behandla AI som en mycket smart och mycket snabb praktikant som då och då hittar på fakta med full säkerhet. Granska arbetet, behåll det som är bra och rätta felen.