Søkebasert generering, hallusinasjoner og skjevhet

Språkmodeller i seg selv bygger kun på statistisk sannsynlighet: De beregner hva som bør være det neste ordet. De slår ikke opp informasjon fra faktiske kilder i bøker, aviser eller fagfellevurderte artikler. Moderne KI-verktøy kobler generativ KI sammen med nettsøk i sanntid. Dette kalles RAG (Retrieval-Augmented Generation). I denne leksjonen viser Erik oss hvordan RAG fungerer, og hvilke fallgruver vi må være oppmerksomme på.

Tips til videospilleren

🖥️ Du kan bytte mellom ulike visningsmoduser ved å bruke ikonet øverst i høyre hjørne av videovinduet når to skjermer vises samtidig.
🔍 Alt innhold er også søkbart: Klikk på den lille pilen nederst i videovinduet, deretter på forstørrelsesglasset, og søk etter nøkkelord!

Fallgruvene: Hallusinasjoner og algoritmiske skjevheter

Hvorfor verktøyene fortsatt tar feil, og hvordan de kan skjule usynlige fordommer.

Vis forklaring av fallgruvene

Troverdig fiksjon (hallusinering): Selv om moderne prateroboter i økende grad har tilgang til nettsøk, har den ingen reell forståelse av kildekritikk. Hvis den henter kilder som motsier hverandre, prøver den statistisk å flette dem sammen. Resultatet kan høres veldig faglig korrekt og overbevisende ut, men faktisk være helt feil.
Falske referanser: Fordi akademiske referanser har et veldig forutsigbart språkmønster (for eksempel "Andersen, A. (2026). Journal of ..."), hender det ofte at KI-en dikter opp helt troverdige referanser som aldri har eksistert, bare fordi det "passer inn" i mønsteret.
Usynlig algoritmisk skjevhet (bias): Når en språkmodell henter informasjon fra nettet, kan den også få med seg feil og skjevheter fra kildene. Det kan for eksempel være politisk ensidige framstillinger eller feil om historiske hendelser. Modellen klarer ikke alltid å oppdage dette. Derfor kan svaret virke nøytralt, selv om det bygger på et bestemt perspektiv. I neste modul lærer du mer om hvordan dette kan påvirke svarene du får.

Hvem har det faglige ansvaret?

Refleksjon

Tenk over din egen rolle som kildekritiker når du bruker KI.

Vis refleksjonsspørsmål

Refleksjonsoppgave

Når en chatbot gir deg en perfekt formatert kildereferanse med årstall, sidetall og forfatter (f.eks: "Andersen, A. 2026. Journal of..."), er det lett å stole på at kilden er ekte. Siden vi vet at praterobotoen bare setter sammen ord basert på statistikk og sannsynlighet: Hvordan kan du best beskytte deg mot å bli lurt av slike falske referanser? Hvem har det faglige ansvaret hvis en falsk kilde sniker seg inn i teksten din?