Mennesket i loopen – Fra klinisk medisin til egen læringsprosess

På denne siden viser professor Magnus Løberg (MED) hvorfor leger ikke kan overlate de endelige beslutningene til kunstig intelligens, og kobler dette til at du selv må stå ved roret og ta ansvar for din egen læringsprosess.

Hva betyr egentlig «Human-in-the-loop» (HITL)?

Lær om historien til automatiserte systemer og hvordan menneskelig og maskinell intelligens må virke sammen.

Vis begrepsforklaring og historikk

Begrepet Human-in-the-loop (HITL) har blitt et sentralt begrep i moderne KI-utvikling, men det har vært et viktig begrep knyttet til automatiserte systemer helt siden 1940-tallet [1].

Kybernetikkens spede begynnelse (1940-tallet): Konseptet ble først formalisert gjennom tidlig kontrollteori og kybernetikk. Tanken var å integrere mennesker som et korrigerende ledd (en feedback-sløyfe) i automatiserte systemer.
Den kalde krigen og luftfart (1950- og 60-tallet): Begrepet ble standardisert innen militærteknologi og romfart. I flysimulatorer, radarsystemer og missilstyring var man avhengig av menneskelige operatører for å tolke støy, korrigere avvik og ta kritiske avgjørelser som maskinen manglet fleksibilitet til å håndtere.
Moderne maskinlæring og etisk KI (i dag): I dag er HITL en etisk og teknisk nødvendighet. Det beskriver en hybridmodell der menneskelig og maskinell intelligens virker sammen. Maskinen prosesserer enorme mengder data, mens mennesket står for tolkning, kontekstforståelse og verdivurderinger for å bygge en rettferdig og transparent teknologi [2].

Undervisningsvideo: Mennesket i loopen

I denne videoen tar Magnus oss med inn i klinisk medisin og forklarer hvorfor legens dømmekraft må bevares i møte med ny teknologi.

Laboratoriesuksess versus den virkelige verden

Finn ut hvorfor KI som fungerer godt i kontrollerte datasimuleringer kan støte på store utfordringer i den virkelige hverdagen.

Vis forklaring og kontrollproblemet

Magnus Løberg viser til et velkjent problem innen medisinsk KI: Systemene fungerer ofte glimrende i kontrollerte simuleringer (såkalte in-silico-studier). Men når de tas i bruk i en travel og uforutsigbar klinisk hverdag, endres bildet. KI-verktøyet kan risikere å flytte oppmerksomheten vekk fra pasienten, eller skape en falsk trygghet hos legen.

Dette kalles i systemteorien for kontrollproblemet [3] – den menneskelige tendensen til å bli enten overdrevent tillitsfull, passiv eller distrahert når man samhandler med et tilsynelatende pålitelig automatisert system. Hvis en lege stoler blindt på maskinens markeringer, risikerer man å sette pasientens liv i fare.

Hold deg selv i loopen!

Refleksjon

Når du lærer og arbeider med tekster og oppgaver, tenk over hvem som egentlig tar de faglige valgene.

Vis refleksjonsspørsmål

Refleksjon:

Når du lærer, løser oppgaver og vurderer å bruke generativ KI (f.eks. gpt.uio.no), spør deg selv: Bruker jeg verktøyet som beslutningsstøtte (for å få ideer, innspill til struktur eller språkretting), eller lar jeg maskinen ta de faglige valgene for meg?

Relevant litteratur

Litteraturen kan søkes opp og finnes i Oria.

Wiener, N. (1948). Cybernetics: Or Control and Communication in the Animal and the Machine. Technology Press.
Chen, X., Wang, X., & Qu, Y. (2023). Constructing Ethical AI Based on the 'Human-in-the-Loop' System. Systems, 11(11), 548. https://doi.org/10.3390/systems11110548
Zerilli, J., Knott, A., Maclaurin, J., & Gavaghan, C. (2019). Algorithmic Decision-Making and the Control Problem. Minds and Machines, 29(4), 555–578.
Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175–183.