Hva er hallusinasjon i AI?

Definisjonen

En AI-modell hallusinerer når den genererer informasjon som ikke er sant, men presenterer det med samme tone som korrekte fakta. Det kan være en oppdiktet referanse, et feilaktig produkt-attribut, eller en lov som ikke finnes.

Det er den vanligste grunnen til at folk er skeptiske til chatbot-løsninger for bedrift. Berettiget. Men ikke uunngåelig.

AI vet ikke ting, den forutser det neste ordet basert på mønstre. Av og til peker mønsteret feil vei. Det kalles hallusinasjon.

Hvorfor det skjer

Språkmodeller vet ikke ting. De forutser det neste ordet basert på mønstre i treningsdata. Hvis mønsteret peker mot et plausibelt-klingende svar som ikke matcher virkeligheten, kommer det ut som et faktum.

Det er ikke fordi AI er "dum". Det er hvordan teknologien fungerer på sitt mest grunnleggende nivå. Den er ikke en database med fakta, den er en sannsynlighetsmaskin for tekst.

Hvorfor det er en risiko for bedrifter

En kunde spør om en pris, og AI gir "1290 kr" som høres riktig ut, men du tar faktisk 1490 kr. Eller en kunde spør om garanti, og AI sier "to års garanti" når dere har ett. Plutselig har du en kunde med feil forventning.

Verre eksempler: AI som siterer en lovparagraf som ikke finnes, eller anbefaler en medisinsk dose som er feil. I regulerte bransjer er hallusinasjon ikke bare pinlig, det er juridisk risikabelt.

Hvordan man reduserer risikoen

Kunnskapsbase-anchoring (RAG). AI får tilgang til en kuratert kunnskapsbase med dine faktiske priser, garantibetingelser og prosedyrer. Den henter svar fra denne, ikke fra sine egne minner. Det er den viktigste teknikken.

Tydelige grenser. AI programmeres til å si "Jeg er ikke sikker, la meg henvise deg til Preben" når den er utenfor sin kunnskap. Bedre at den henviser én ekstra gang enn at den dikter opp.

Verifikasjon i kritiske scenarioer. For juridisk, medisinsk eller økonomisk rådgivning skal AI aldri svare definitivt. Den samler informasjon, gir generell veiledning, og setter kunden i kontakt med menneske.

Kontinuerlig overvåkning. Vi som setter opp den, går gjennom samtaler regelmessig og finjusterer på det som ikke fungerte. Hver feilrespons er en mulighet til å gjøre den mer presis.

Hva som er normalt og hva som ikke er

Selv med alle disse tiltakene vil det skje av og til. Det er forventet. Den realistiske målsettingen er ikke null hallusinasjoner, men under 1% av samtaler innenfor kunnskapsbasen.

Til sammenligning: menneskelige kundeservice-medarbeidere tar feil i 3 til 5% av samtaler, ifølge bransjedata. En godt oppsatt AI er typisk mer presis enn et menneske, ikke mindre.

Hva du som bedrift bør kreve

Når du vurderer en chatbot eller digital medarbeider, spør leverandøren:

Bruker dere RAG eller henter modellen fra sine egne minner? Hva skjer når AI er usikker, henviser den eller dikter? Hvordan loggføres og evalueres samtaler over tid?

Hvis svarene er vage, har du sannsynligvis funnet en leverandør som ikke har tenkt på problemet. Det er en advarsel, ikke en deal-breaker, men du må vite det før du signerer.

If your business is not on the Internet, then your business will be out of business. Bill Gates

Psst... Ble du litt svett av å tenke på alt arbeidet som ligger bak digital medarbeider? Ble du litt bekymret for at det fort vil kreve både tid, kompetanse og lyst som du allerede har for lite av? Den gode nyheten er at det trenger slettes ikke være slik! Vi hos Relax tilbyr nemlig digital medarbeider som en tjeneste, der vi gjør ALT arbeidet fra A til Å, så du slipper!