Hvorfor hallusinerer AI-modeller – og løser det problemet å forankre dem i ekte kilder?

Kort svar: Nei – forankring kurerer ikke hallusinasjoner. Det reduserer dem betraktelig, og det endrer hva slags feil du får: fra å dikte opp en kilde til å feillese en ekte en. Det som gjenstår er etterprøvbart, og det er den delen som betyr noe. Gjenfinning alene fjerner ikke en modells insentiv til å gjette.

Vi bygger en forskningsmotor som sender skriftsteder, morfologi og leksikonoppføringer til en AI som verktøyresultater. Vi har derfor en åpenbar interesse i påstanden om at forankring løser hallusinasjoner. Dette innlegget er den ærlige versjonen av den påstanden, inkludert studien som taler imot den.

Hva regnes som en hallusinasjon?

En hallusinasjon er en plausibel usannhet fremsatt med samme selvsikkerhet som et faktum – en oppdiktet kildehenvisning, et vers som ikke finnes, et Strong-nummer som aldri ble tildelt. Det er ikke en feil i vanlig forstand. Modeller staver sjelden ord feil eller produserer vås; de produserer spesifikke, velformulerte, feilaktige fakta. Nettopp denne spesifisiteten avslører dem, og den peker mot hvor adferden stammer fra.

Hvorfor gjør de det?

Det mest nyttige svaret som er publisert så langt, er at hallusinasjon er et insentivproblem, ikke et mysterium. Kalai, Nachum, Vempala og Zhang hos OpenAI la frem dette i Why Language Models Hallucinate, publisert i Nature i 2026: ytelsestestene hele fagfeltet optimaliserer mot måler treffsikkerhet, noe som gir null uttelling for å si «jeg vet ikke» og full pott for en heldig gjetning. En modell som er trent og valgt ut under et slikt poengsystem, lærer seg å bløffe.

Deres illustrasjon på SimpleQA-evalueringen er den tydeligste versjonen av dette. Én modell svarte på nesten alle spørsmål og tok feil mer enn tre fjerdedeler av tiden. En annen avsto fra å svare på omtrent halvparten og gjorde langt færre feil – og scoret likevel dårligere på treffsikkerhet, fordi det å avstå ikke gir noen poeng. Hvis poengtavlen belønner gjetting, gjetter modellene.

Dette har en konsekvens folk overser når de griper til gjenfinning som løsningen. De samme forfatterne er eksplisitte på at nettsøk og skalering ikke vil presse treffsikkerheten til 100 %, fordi enkelte spørsmål ikke har noe tilgjengelig svar. Insentivet til å gjette overlever introduksjonen av et søkeverktøy.

Hvor ofte skjer det egentlig?

Ofte nok til at overskriftstallene høres usannsynlige ut inntil du leser definisjonene. Tre referansetester måler tre forskjellige ting, og det er når man siterer én uten definisjonen dens at forvirringen oppstår.

Det mest siterte tallet fra 2026 er enda en fjerde måling, og det siteres som regel feil. Stanford HAI's 2026 AI Index rapporterer hallusinasjonsrater fra 22 % til 94 % på tvers av 26 toppmodeller – ikke på noen av de tre over, men på en referansetest som undersøker om en modell kan skille kunnskap fra antakelser. Detaljen under overflaten er den som bør bekymre deg: når en usann påstand presenteres for en modell som noe en annen person tror på, håndterer den det godt. Når den identiske påstanden fremstilles som noe du tror på, kollapser ytelsen. GPT-4os treffsikkerhet falt fra 98,2 % til 64,4 %; DeepSeek R1s fra over 90 % til 14,4 %.

Det er en annen type feil enn de tre andre, og det er den som rammer hardest i bibelstudier, der en leser nesten alltid stiller med en forutsetning. Ber du en assistent bekrefte hva et gresk ord betyr, kan du få et svar formet av hva du signaliserte at du forventet.

Så hjelper forankring, eller ikke?

Både og, og det skillet er selve poenget.

Stanford RegLab-studien siteres vanligvis som avlivingen av gjenfinningsforankring (retrieval-augmented generation), og når det gjelder markedsføringspåstandene, stemmer det. Men se hva den faktisk målte: de gjenfinningsforankrede juridiske verktøyene hallusinerte mindre enn generell GPT-4 på de samme spørringene. Forankring fungerte. Det fungerte bare ikke på langt nær så godt som selgerne påsto.

Hvor gjenfinning svikter, er spesifikt og verdt å kjenne til:

• Relevant, men utilstrekkelig. Det gjenfunnede avsnittet handler om riktig tema, men inneholder ikke svaret. Modellen fyller tomrommet.
• Motstridende kilder. To gjenfunnede dokumenter er uenige; modellen velger ett og presenterer saken som avgjort.
• Tapt i midten. Lange kontekster begraver den avgjørende setningen der modellen vier minst oppmerksomhet.
• Feilforplantning. I agentiske sløyfer blir et hallusinert mellomresultat inndata for neste gjenfinning, og feilen forplanter seg.

Hva forankring faktisk endrer

Her er den ærlige formuleringen, og den er sterkere enn markedsføringsversjonen: forankring gjør ikke en AI ufeilbarlig. Det gjør at den tar feil på en måte du kan oppdage.

En uforankret modell som dikter opp Thayers oppføring for et gresk ord, gir deg et oppspinn uten noen tråd tilbake til noe som helst. En forankret modell som misforstår den virkelige oppføringen, gir deg en påstand, et lemma og en kildehenvisning – og tretti sekunders sjekking avgjør saken. Den første feilen er usynlig. Den andre er etterprøvbar. I ethvert felt der det koster å ta feil – juss, medisin, en preken på søndag – utgjør den forskjellen hele verdien.

Dermed følger det at designspørsmålet ikke er «hvordan hindrer vi den i å hallusinere», men «hva gir vi til modellen, og kan leseren etterprøve det?» Det er grunnen til at vi laget Darash for å returnere råmateriale med kildehenvisninger fremfor konklusjoner. En konklusjon kan ikke etterprøves. Et Strong-nummer, en grammatisk analyse og et navngitt leksikon kan.

Og det er grunnen til at tekstkorpuset under må være korrekt. Da vi gjenoppbygde Thayer's Greek Lexicon fra 1889-utgaven fra Harper & Brothers, transkriberte vi alle de 716 hovedsidene fra sidebildene og sammenstilte tekstvitnene mot hverandre: de stemte overens på 98,91 % av 856 793 tokener, og hvert omtvistede sted ble avgjort mot sidebildet fremfor å lande på den lesemåten som fløt best. Regelen var at ingen tegn får eksistere som ikke finnes på siden – ett uleselig Josefus-siffer leveres fortsatt som et spørsmålstegn, fordi det å fylle det inn ville vært en hallusinasjon med vårt navn på.

Vi publiserer denne målte feilmarginen på 0,19 % fremfor å påstå at korpuset er perfekt, noe som bygger på den samme disiplinen hele dette innlegget handler om: en oppgitt feilrate kan etterprøves, mens en påstand om 100 % ikke kan det. Den fullstendige metoden er publisert, mangler og alt.

Hva dette betyr hvis du studerer med en AI

Tre ting følger av dette, og ingen av dem krever at du kjøper noe:

1. Be alltid om kildehenvisningen. En modell som ikke kan oppgi hvor en påstand stammer fra, gjengir etter hukommelsen fremfor å lese. Gjør kildehenvisningen til selve leveransen, ikke en høflighetsgest. Vår oversikt over hvilke bibelstudieverktøy du bør gripe til først er bygget på den samme regelen.
2. Behandle selvsikkerhet som støy. Språklig flyt og skråsikkerhet bærer ingen informasjon om korrekthet. Referansetestene ovenfor måler nettopp dette og finner ingen pålitelig sammenheng mellom en modells generelle evner og dens faktiske pålitelighet.
3. Gi den kildene, og sjekk dem deretter. Forankring flytter oppgaven fra å stole på til å verifisere. Verifisering er arbeid – men langt mindre arbeid enn å ta feil i det stille i et helt år.

Ofte stilte spørsmål

Fjerner RAG hallusinasjoner?

Nei. Stanford RegLab-studien fant at gjenfinningsforankrede kommersielle juridiske verktøy fortsatt hallusinerte i over 17 % av spørringene, til tross for at leverandørene beskrev problemet som løst. Gjenfinning reduserer hallusinasjoner; det fjerner dem ikke.

Hvorfor kan ikke laboratoriene bare fikse det?

Fordi insentivet ligger i evalueringen, ikke bare i modellen. Så lenge referansetestene som definerer fremgang ikke gir uttelling for å innrømme usikkerhet, velges modeller ut fra selvsikker gjetting. Forslaget i OpenAI-artikkelen er å endre poengberegningen, ikke bare modellene.

Hallusinerer nyere modeller mindre?

Til en viss grad, og ujevnt. Generelle evner forutsier ikke faktisk pålitelighet – Artificial Analysis fant modeller med sterke generelle intelligensskårer og dårlige hallusinasjonsrater, og omvendt. Velg etter egenskapen du har behov for.

Er en lav hallusinasjonsrate alltid bra?

Nei, og dette er fellen i tallene. En modell som nekter å svare på de fleste spørsmål, oppnår en utmerket rate ved aldri å risikere et svar. Les avståelsesraten ved siden av, ellers betyr tallet ingenting.

Gjør et bibelforskningsverktøy en AI troverdig når det gjelder Skriften?

Det gjør den etterprøvbar, noe som ikke er det samme. Du får hebraisk eller gresk, analysen og leksikonoppføringen med kildehenvisninger vedlagt, slik at en feillesning kan oppdages. Selve lesningen er det fortsatt opp til deg å vurdere.

---

Se det i praksis: koble Darash til AI-en du allerede bruker – én URL, en vanlig innlogging, 45 dagers gratis prøveperiode; trinn-for-trinn-veiledningen for Claude, ChatGPT og Cursor tar fem minutter. Eller les hvordan Darash sammenlignes med Logos, Accordance og Blue Letter Bible før du kobler til noe som helst.

Skrevet av Jørn André Halseth, grunnlegger av Publifye AS – ti år med bibelpublisering og bygging av trykkpressene de lages på, utgiver av 4 268 bibelutgaver, og skaperen av Darash, Junifye, Lexifye og Tringine. Om oss · Kontakt