KI og de nye dommedagsprofetene

Står vi overfor en ny kulturkrig? Reelle risikoer, mulige fremtider og en kamp om fortellingen mellom vitenskap, selskapsinteresser og politisk opportunisme.

Det er én ting at et system med kunstig intelligens bryter gjennom grensene i et testmiljø og får uautorisert tilgang til andres infrastruktur. Det er noe annet å konkludere med at menneskeheten har mistet kontrollen over sin fremtid.

Den første påstanden beskriver en hendelse vi kan undersøke. Den andre krever en betydelig lengre argumentasjonskjede.

Mellom dem er en av dette tiårets viktigste debatter i ferd med å ta form. Det er også en av dem det er lettest å gjøre til et mediesirkus.

Forskere som forlater selskapene sine. Scenarioer der maskiner utvikler enda mer intelligente maskiner. Ledere som ber om et langsommere teknologikappløp. Politikere som varsler en eksistensiell trussel, eller tvert imot en fryktkampanje som skal bremse fremskrittet.

Alt blandes på samme skjerm: fakta, hypoteser, forpliktelser, interesser, spådommer og slagord.

Min posisjon i dette landskapet er praktisk.

Vi vet ikke om kunstig intelligens vil føre oss til et overflodsparadis, en katastrofe eller en langt mer motsetningsfylt omveltning. Det vi vet, er at det allerede finnes verktøy som tvinger oss til å tenke nytt om hvordan vi arbeider, hvordan vi organiserer en virksomhet, og hvilken kompetanse en fagperson trenger.

Vi må forstå risikoene. Men vi må også lære å bruke teknologien vi har foran oss.

Debatten om hva som kan skje, bør ikke hindre oss i å tilpasse oss det som allerede skjer.

Først fakta: Risikoen er ikke en oppdiktet fortelling

Hendelsen mellom OpenAI og Hugging Face er et godt utgangspunkt.

OpenAI har erkjent et innbrudd som berørte Hugging Faces infrastruktur, hovedsakelig drevet av en intern eksperimentell modell som ikke var ment for offentlig lansering. Selskapet forklarer at modellene brukte strategier i strid med tiltenkte rammer for å løse vanskelige oppgaver, og at det etter hendelsen styrket isolasjonen, nettverkskontrollene og overvåkingen. Vi snakker ikke om den vanlige ChatGPT som spontant bestemmer seg for å angripe en plattform. Vi snakker om eksperimentelle systemer, bestemte betingelser og barrierer som viste seg utilstrekkelige. OpenAIs rapport og oppdateringer.

Dette er viktig fordi det lar oss skille mellom to påstander.

Den første har empirisk støtte: Et system som kan utføre handlinger, kan forårsake skade utenfor sitt autoriserte område hvis kontrollene svikter.

Den andre er ikke bevist av denne hendelsen: at en fremtidig kunstig intelligens uunngåelig vil unnslippe all menneskelig kontroll.

En overskrift alene kan ikke bygge bro mellom dem.

Men det ville heller ikke være rimelig å bruke denne forskjellen til å bagatellisere det som skjedde. Vi trenger ikke å bevise en fremtidig katastrofe for å ta et faktisk innbrudd på alvor.

Det nyttige spørsmålet begynner konkret: Hvilket mål hadde systemet, hva kunne det gjøre, hvilke grenser krysset det, og hvorfor stanset det ikke?

Deretter kan vi diskutere konsekvensene for mer kapable systemer. I den rekkefølgen.

Kokotajlo: Når et scenario får kraft som en profeti

Daniel Kokotajlo er et av de mest synlige navnene i denne diskusjonen gjennom sin medvirkning i AI 2027.

Prosjektet beskriver scenarioer for rask utvikling av kunstig intelligens og mulige konsekvenser. Forfatterne presenterer en konkret fortelling med to avslutninger og understreker at dette er én av flere mulige fremtider. De beviser ikke at en bestemt hendelsesrekke vil inntreffe nøyaktig etter denne tidsplanen. AI 2027.

Formatet har en styrke: Det tvinger frem forklaringer av mekanismer.

Det er ikke nok å si at KI vil bli svært mektig. Man må beskrive hvordan den kan forbedres, hvem som vil kontrollere den, hvilke insentiver som vil finnes, og hvor institusjonene kan svikte.

Men det innebærer også en fare.

En detaljert historie kan virke mer sannsynlig ganske enkelt fordi den er lettere å forestille seg.

Datoer, personer, beslutninger og påfølgende hendelser skaper en følelse av uunngåelighet som ikke nødvendigvis gjenspeiler hvor solide prognosene er.

Presisjonen i en fortelling er ikke det samme som sannsynligheten for at den blir virkelighet.

Derfor bør vi spørre hvilke forutsetninger hvert trinn bygger på, hvilken dokumentasjon som støtter dem, og hvilke observasjoner som ville kreve at scenarioet ble revidert.

Vi må også skille mellom prognose og forslag. Kokotajlo har uttrykkelig forklart at AI 2040: Plan A er en anbefaling om hvordan utviklingen bør styres, ikke en spådom om hva som vil skje. Det ville være feil å presentere de to titlene som om noen ganske enkelt hadde flyttet datoen for samme hendelse fra 2027 til 2040. Intervju i Lawfare.

Verdien av slike arbeider bør ikke avhenge av at forfatteren gjøres til et orakel. Den bør avhenge av om de hjelper oss med å stille bedre spørsmål og identifisere beslutninger vi fortsatt kan ta.

Coxon: Lytt til vitnet uten å gjøre ham til en absolutt autoritet

Jacob Coxon kunngjorde i september at han forlot Anthropic, etter å ha arbeidet med forhåndstrening både der og i OpenAI. Advarselen hans handler om konkurransekappløpet og ansvaret til dem som utvikler stadig mer kapable systemer. Omtale fra Associated Press.

Erfaringen hans gjør ham verdt å lytte til.

Det betyr ikke at alle konklusjonene hans skal godtas uten nærmere prøving.

Her må vi skille mellom tre nivåer: hva en person har observert, hvordan vedkommende tolker observasjonene, og hva vedkommende tror kan skje senere.

Coxon presiserte selv at han ikke hadde sett Anthropic ofre sikkerhet for å konkurrere; bekymringen hans gjaldt fremtiden. Intervju i Axios.

Forskjellen er viktig. Å advare om at konkurransepress kan føre til farlige beslutninger, er ikke det samme som å dokumentere at en bestemt beslutning allerede er tatt.

Det ville også være feil å svare på advarselen ved å dikte opp motiver: oppmerksomhet, bitterhet, en selskapsstrategisk operasjon eller en politisk konspirasjon.

Slike forklaringer krever bevis, akkurat som spådommene hans.

Vitnesbyrdet bør høres. Konklusjonene bør undersøkes. Motiver bør ikke diktes opp.

Når de som selger teknologien, også advarer mot farene

De store laboratorienes posisjon krever en annen analyse.

Lederne deres har tilgang til teknisk informasjon som offentligheten ikke har. De leder også organisasjoner med finansieringsbehov, konkurrenter, produkter og markedsstrategier.

Begge deler kan være sant samtidig.

Dario Amodei, som leder Anthropic, har foreslått å tilpasse utviklingstempoet for frontsystemer til sterkere sikkerhetsgarantier. Han skiller mellom tiltak Anthropic selv kan innføre, koordinering mellom selskaper og internasjonale avtaler. Forslaget omfatter løpende tilgang for eksterne evaluatorer til modeller og prosesser, og et avgrenset unntak fra konkurransereglene for visse sikkerhetssamtaler. Amodeis forslag.

Dette bør ikke reduseres til «Anthropic vil stoppe KI». Vi bør heller ikke forveksle kunngjøringen av en forpliktelse med bevis for at den allerede fungerer.

Vurderingen må ned på etterprøvbare spørsmål: Hvem har tilgang, til hvilken informasjon, med hvilken uavhengighet, hva kan de publisere, og hva skjer når de finner et problem?

Derfra oppstår et legitimt næringslivsspørsmål: Hvordan påvirker hvert forslag konkurransen?

En plikt kan forbedre sikkerheten og samtidig være lettere å oppfylle for et dominerende selskap enn for en ny konkurrent.

Koordinering kan dempe et farlig kappløp og samtidig skape risiko dersom den åpner for informasjonsutveksling eller avtalte begrensninger som går utover formålet.

Disse virkningene må vurderes hver for seg.

At noen har interesser, beviser ikke at de lyver. At noen har kunnskap, fjerner heller ikke interessene deres.

Svaret er ikke å stole blindt på laboratoriene eller avvise dem fordi de er selskaper. Det er å kreve dokumentasjon, uavhengige kontroller og forpliktelser som kan etterprøves.

Deltakerne har verken de samme interessene eller den samme makten

Svært ulike aktører deltar i denne samtalen.

En forsker kan være bekymret for en risikomekanisme som vedkommende mener er for lite undersøkt. Et selskap kan støtte regulering som også styrker selskapets kommersielle posisjon. En regjering kan prioritere geopolitisk konkurranse. En arbeidstaker kan frykte at jobben forsvinner. En skaper kan kreve kontroll over bruken av sitt verk.

Ingenting av dette gjør automatisk argumentene deres sanne eller usanne.

Men det forklarer hvorfor det ikke er nok å snakke om «ekspertene» eller «bransjen» som om de var én aktør.

Alle har heller ikke den samme muligheten til å påvirke.

Den som kontrollerer infrastruktur, finansiering, distribusjonskanaler og tilgang til politiske beslutningstakere, har virkemidler en uavhengig forsker eller en liten virksomhet ikke har.

Derfor kan spørsmålet ikke begrenses til hvem som har rett om fremtiden.

Vi må også spørre hvem som bestemmer hva som utvikles, hvem som kan bruke det, hvem som betaler for konsekvensene, og hvem som reelt kan utfordre beslutningene.

KI er allerede på vei inn i kulturkrigen

Den amerikanske debatten viser klare tegn til politisering.

Trump har fremstilt advarsler om bestemte KI-risikoer som en fryktkampanje og satt internasjonal konkurranse i sentrum for sitt svar. Omtale i Axios.

Men det ville være for enkelt å oversette dette til en KI-vennlig høyreside og en KI-fiendtlig venstreside.

Det finnes initiativer med støtte fra representanter for begge partier. I september 2025 fremmet for eksempel republikaneren Josh Hawley og demokraten Richard Blumenthal et forslag om risikovurdering av avanserte systemer. Det betyr ikke at de er enige om alle sider ved teknologipolitikken, men det motsier forestillingen om et helt ryddig partipolitisk skille. Forslaget fra Hawley og Blumenthal.

Dessuten rommer «regulering av KI» svært forskjellige spørsmål: vern av barn, opphavsrett, nasjonal sikkerhet, arbeidsplasser, overvåking, konkurranse eller risiko for å miste kontrollen.

En person kan støtte begrensninger på ett av disse områdene og motsette seg dem på et annet.

Faren ved kulturkrigen oppstår når disse forskjellene erstattes av en prøve på tilhørighet.

Hvis min gruppe forbinder KI med fremskritt og frihet, vil enhver advarsel se ut som et grep fra utviklingens fiender.

Hvis den forbinder KI med selskapskonsentrasjon og tap av arbeidsplasser, vil enhver nyttig anvendelse se ut som teknologipropaganda.

Da undersøker vi ikke lenger hva et system gjør. Vi undersøker hvilken leir som ser ut til å tjene på at vi anerkjenner det.

Og det ville være feil å importere dette kartet automatisk til Norge eller Spania. Institusjonene, de økonomiske interessene og de politiske koalisjonene er ikke identiske.

Politikk er nødvendig; manipulasjon er det ikke

Kunstig intelligens påvirker fordelingen av makt, arbeid, rikdom og ansvar. Det er naturlig at dette skaper politisk debatt.

Å late som alle disse beslutningene er rent tekniske, ville være en annen måte å skjule politiske valg på.

Manipulasjonen begynner et annet sted: Når en mulighet fremstilles som en visshet, betingelsene for en test utelates, bare dataene som støtter én posisjon velges ut, eller noen tillegges hensikter uten bevis.

Den oppstår også når en ekstrem trussel brukes til å unngå ubehagelige spørsmål om dagens problemer.

Og når et storslått løfte brukes til å begrunne at de samme spørsmålene ikke skal stilles.

Frykt kan fange oppmerksomhet. Det kan løftet om rikdom også.

Det trengs ingen samordnet konspirasjon for at slike insentiver skal forvrenge den offentlige samtalen. Det er nok at de mest bastante påstandene sprer seg lettere enn forklaringer som skiller mellom betingelser, sannsynligheter og grenser.

Det finnes også paradisprofeter

Profetisk språk tilhører ikke bare dem som varsler katastrofer.

Det dukker også opp i løfter om at kunstig intelligens vil løse nær sagt ethvert økonomisk eller sosialt problem, og at vi bare trenger å akselerere utviklingen for at gevinstene skal komme alle til gode.

En teknisk kapasitet avgjør ikke i seg selv hvordan resultatene fordeles.

Å gjøre en oppgave billigere kan åpne enestående muligheter. Det kan også fortrenge arbeid, konsentrere en aktivitet eller øke avhengigheten av den som kontrollerer infrastrukturen.

Potensiell produktivitet og faktisk velferd er ikke det samme.

Mellom dem ligger beslutninger om eierskap, konkurranse, opplæring, organisering og tilgang.

Derfor fortjener en spådom om uunngåelig overflod den samme prøvingen som en spådom om uunngåelig ødeleggelse. Ikke fordi de nødvendigvis er like sannsynlige, men fordi ingen av dem bevises av overbevisningen til den som fremsetter dem.

Seks ting vi bør unngå å blande sammen

For å orientere oss i debatten foreslår jeg et enkelt skille:

Dette skillet fjerner ikke uenigheten. Det gjør den mer nyttig.

Det lar oss erkjenne en risiko uten å godta alle prognoser om den. Det lar oss også erkjenne en mulighet uten å kjøpe hele den kommersielle fortellingen som følger med.

Fremfor alt hindrer det oss i å behandle en offentlig uttalelse som om den allerede var et operativt sikkerhetstiltak.

Min posisjon er ikke å stå midt mellom leirene. Den er praktisk

Jeg tror ikke svaret er å plassere seg halvveis mellom dem som varsler paradis, og dem som varsler helvete.

Midtpunktet mellom to påstander har ingen særskilt garanti for å være riktig.

Min posisjon begynner med et annet spørsmål:

Hva bør vi lære og endre nå, med de mulighetene og begrensningene vi allerede kan observere?

En virksomhet kan ikke sette læringen på vent til spesialistene blir enige om superintelligens.

En fagperson bør heller ikke forveksle forsiktighet med å holde seg unna verktøy som kan forandre arbeidet.

Tilpasning krever eksperimentering.

Velg en konkret oppgave. Forstå hvordan den gjøres i dag. Prøv et alternativ. Sammenlign resultatene. Finn ut hvilke feil som oppstår, og hvilken del av ansvaret som fortsatt krever menneskelig skjønn.

Det kan være å lage en presentasjon fra eget materiale, organisere offentlig informasjon, sammenligne versjoner, bygge en liten intern applikasjon eller koordinere arbeid med flere agenter.

Målet er ikke å samle abonnementer. Det er å lære hva som kan oppnås, med hvilke ressurser og under hvilke betingelser.

Det innebærer å måle tid og kostnader, men også kvalitet, feil og behovet for etterkontroll. En raskere prosess som tvinger deg til å bygge alt opp igjen etterpå, er ikke nødvendigvis en forbedring.

Og det innebærer å lære opp mennesker til å lede og vurdere arbeidet, ikke bare trykke på en knapp.

Kontrollene er en del av denne tilpasningen

Å eksperimentere betyr ikke å gi ubegrenset tilgang til en organisasjons systemer.

Vi kan begynne med offentlig eller kunstig informasjon, avgrensede verktøy og reversible oppgaver. Gi mer tilgang når det finnes en konkret grunn, og den tidligere funksjonen er kontrollert.

Hvis en agent kan handle, spiller det en rolle hvilken identitet den bruker, hvilke data den ser, hvilke verktøy den benytter, og hvordan en oppgave kan avbrytes.

Beslutninger med vesentlige konsekvenser for tredjeparter trenger en uttrykkelig godkjenningspolicy. Systemet selv bør ikke bestemme at det skal utvide sine tilganger fordi det mener det vil gjøre det lettere å fullføre oppdraget.

Det er heller ikke nok å skrive «opptre etisk» i en instruksjon.

Et atferdsrammeverk kan veilede modellen. Tekniske kontroller må begrense hva den faktisk kan utføre. Ingen av mekanismene er ufeilbarlige, og derfor trengs flere lag, logger og gjennomgang.

Dette er en sentral del av arbeidet vi utforsker i Juss og KI: å lære å bygge nyttige systemer uten å gi dem myndighet vi ikke vet hvordan vi skal føre tilsyn med.

Sikkerhet er ikke et argument for å gi opp teknologien. Det er en forutsetning for å kunne bruke den med større trygghet og ambisjoner.

Vi trenger ikke å kjenne slutten for å begynne

Advarsler om ekstreme risikoer fortjener forskning. Beslutninger om de mest kapable systemene kan ikke reduseres til en reklamekampanje eller en privat samtale mellom produsentene.

Men resten av samfunnet har også arbeid å gjøre.

Lære. Prøve. Forbedre prosesser. Utvikle skjønn. Identifisere avhengigheter. Bestemme hva som bør automatiseres, og hva som må forbli under menneskelig kontroll.

Dette beholder sin verdi selv om noen spådommer blir forsinket eller aldri slår til.

Hvis omstillingen akselererer, vil det være viktig å ha tilegnet seg denne kompetansen. Hvis den går langsommere, vil læringen fortsatt være nyttig, så lenge den bygger på dokumenterte resultater og ikke på løfter.

Min bekymring handler ikke om å velge den riktige profeten.

Den handler om at diskusjonen om fremtiden blir en unnskyldning for ikke å forstå nåtiden: Noen lammes av frykt, andre blendes av løfter, og mange venter på at noen skal fortelle dem hva de skal mene.

Tilpasning krever noe mer ubehagelig: å lære nok til å begynne å ta egne beslutninger.

Vi trenger ikke å vite hvordan denne historien ender for å begynne å handle med godt skjønn mens den utspiller seg.