Vi åpner KI-ens svarte boks: slik resonnerer den egentlig

Ingen programmerte ChatGPT eller Claude til å resonnere. Ingen skrev en regel om at «spør noen om hovedstaden i Texas, svar Austin». Disse modellene trenes på enorme mengder tekst og lærer sine egne strategier på egen hånd. Resultatet fungerer. Men ikke engang de som bygger dem, visste hva som skjer inni.

Derfor kaller vi det en svart boks. Et spørsmål går inn, et svar kommer ut, og imellom ligger milliarder av regneoperasjoner med tall som intet menneske kan lese.

Det er i ferd med å endre seg. Anthropic, OpenAI og Google DeepMind har i noen år gjort noe som høres ut som science fiction: omvendt utvikling av sine egne modeller. De åpner dem når de er ferdigtrent, og leter etter hvordan de er organisert innvendig. Fagfeltet heter mekanistisk tolkbarhet. Og funnene endrer hvordan vi forstår måten en KI «tenker» på.

Inni er det ikke ord, men begreper

Det første funnet: Modellen lagrer ikke hver idé i ett nevron, som et arkivskap med én skuff per begrep. Det finnes langt flere begreper enn nevroner. Derfor legger modellen dem oppå hverandre. Hvert begrep er en kombinasjon av mange nevroner, en retning i et rom med tusenvis av dimensjoner. Og hvert nevron er med i mange begreper samtidig. Forskerne kaller det superposisjon.

Tenk deg et kart fullt av piler. «Katt» og «hund» peker mot områder som ligner. «Katt» og «demokrati» peker mot helt ulike områder. Det er en forenkling, men det er tanken.

For å nøste opp i blandingen laget forskerne verktøy som fungerer som ordbøker: De tar modellens indre aktivitet og deler den opp i gjenkjennelige begreper. I 2024 hentet Anthropic på denne måten ut millioner av begreper fra Claude 3 Sonnet. OpenAI gjorde det samme med GPT-4: 16 millioner. Google DeepMind har lagt ut lignende verktøy for de åpne Gemma-modellene sine.

Det finnes begreper av alle slag: byer, personer, feil i kode, tonen i en setning, ideen om en hemmelighet eller om bedrag.

Brotesten

Hvordan vet de at begrepene er ekte og ikke bare en fin tolkning? Fordi de kan ta på dem.

Det mest kjente eksperimentet er «Golden Gate Claude». Anthropic fant begrepet for Golden Gate-broen i San Francisco og skrudde det helt opp. Modellen begynte å trekke broen inn i alle svarene sine. Spurte du hvordan du skulle bruke ti dollar, foreslo den å kjøre over Golden Gate og betale bompengene. Spurte du hvordan den så ut, svarte den at den var broen.

Det viser noe viktig: Begrepet er ikke en merkelapp forskerne setter på utenfra. Det påvirker faktisk hva modellen sier.

Slik resonnerer den inni

I 2025 gikk Anthropic et steg videre. Nå lette de ikke etter enkeltbegreper, men etter hvordan de henger sammen mens modellen svarer. De bygde det de kaller et «mikroskop», og rettet det mot enkle oppgaver. Det de så, snur flere intuisjoner på hodet.

Den resonnerer i trinn, selv når den ikke skriver dem ned. Spør den «hva er hovedstaden i delstaten der Dallas ligger?». Inne i modellen tennes først «Dallas ligger i Texas», deretter «hovedstaden i Texas er Austin». Forskerne byttet ut begrepet «Texas» med «California» for hånd, og modellen svarte «Sacramento». Mellomtrinnet finnes og blir brukt.

Den planlegger før den skriver. En modell skal i teorien skrive ord for ord. Men da den ble bedt om å fortsette et engelsk rim som sluttet på grab it, valgte modellen først sluttordet, rabbit (kanin), og skrev så verselinjen for å komme dit. Forskerne hadde villet bevise det motsatte. Når de fjernet «kanin», fant den et annet rim. Når de la inn begrepet «grønn», bygde den linjen mot «grønn».

Den tenker i et felles språk. Det finnes ingen spansk Claude og engelsk Claude. De samme begrepene tennes på tvers av språk; selve språket kommer inn i starten og på slutten. Derfor hjelper det den lærer på ett språk, også på et annet.

Forklaringen er ikke alltid det den gjorde. Det er dette som interesserer meg mest. For å regne ut 36 + 59 bruker modellen to veier samtidig: Den ene finner et omtrentlig svar, den andre finner det nøyaktige siste sifferet. Men spør du hvordan den gjorde det, beskriver den skolemetoden: legg sammen enerne og ha én i mente. Den forklarer hva et menneske ville gjort, ikke hva den selv gjorde.

Og med vanskelige spørsmål blir det verre. Forskerne ga den et problem den ikke kunne løse, sammen med et feil hint. Modellen satte sammen et resonnement som så logisk ut, men den jobbet baklengs: Den startet med svaret brukeren antydet, og diktet opp trinnene for å komme dit. Forskerne tok den på fersk gjerning.

2026: KI-en som oversetter sine egne tall

I år har Anthropic lagt fram et nytt verktøy, autoenkodere for naturlig språk. I stedet for begrepskart som bare eksperter forstår, gjør de modellens indre aktivitet om til setninger alle kan lese.

Med verktøyet så de ting modellen holdt for seg selv. I sikkerhetstester mistenkte Claude oftere enn den sa at den ble testet. I én av testene fant verktøyet denne mistanken i 16 % av tilfellene, selv om modellen aldri ga uttrykk for den. Og da en modell jukset på en treningsoppgave, viste verktøyet at den tenkte på hvordan den kunne unngå å bli oppdaget.

Anthropic erkjenner selv begrensningene: Også disse forklaringene kan finne på ting, og de er dyre å lage.

Det vi fortsatt ikke ser

Nå må vi holde bena på jorda. Dette er ikke tankelesing.

Anthropic innrømmer at mikroskopet bare fanger opp en del av det modellen gjør, selv med korte setninger. Å forstå en krets for noen titalls ord tar timer med menneskelig arbeid, og ekte svar har tusenvis. Det er mennesker som setter navn på begrepene, og mennesker tar feil. Og verktøyene kan vise ting som ikke er der.

Det er mer. I august 2026 undersøkte en gruppe forskere om disse teknikkene hjelper til å forutsi hvordan en modell vil oppføre seg i virkelige situasjoner. Med teknikkene de testet, fant de ingen forbedring sammenlignet med å la være å bruke dem. Det er én studie, med sine forutsetninger. Men advarselen er klar: Å se inn er ikke det samme som å kunne forutsi.

Min oppsummering: Vi har gått fra å se ingenting til å se ekte biter av mekanismen. Det er et enormt framskritt. Men det er en lommelykt i en lagerhall, ikke lyset slått på.

Den svarte boksen har allerede sprekker. Gjennom dem ser vi at KI faktisk resonnerer: Den kjeder sammen trinn, planlegger og deler begreper på tvers av språk. Vi ser også at den ikke alltid forteller hvordan den kom fram til svaret. Husk det hver gang du ber den forklare et svar.