KI som bare tar beslutninger: mindre prat, flere oppgaver løst

Se for deg at en automatisert prosess mottar en e-post og må avgjøre hvem den skal sendes til. Du spør en assistent, og den svarer: «Ut fra innholdet i meldingen ser dette ut til å være en henvendelse om en leieavtale, så jeg vil anbefale …». Programmet ventet bare på en etikett: «leieforhold».

Gapet mellom det maskinen kan skrive, og det arbeidet trenger, begynner nå å få sine egne produkter. Jev, modellene fra ScaleDown og Decisions API retter oppmerksomheten mot svar som et annet program kan bruke direkte. Et alternativ. En skår. En opplysning hentet frem. Operasjonen avsluttes, og prosessen går videre.

Jeg har allerede skrevet om hvordan vi dimensjonerer KI når den blir en del av arbeidsprosessene. Her er jeg opptatt av neste steg: å endre hva slags svar vi ber om. Svært mye arbeid i yrkeslivet ender med et resultat som får plass i én rute.

Fra lange svar til beslutninger

De store språkmodellene har vent oss til å samtale med KI. Vi spør, får en forklaring og spør videre. Det formatet er svært godt egnet til å utforske et problem, utarbeide et dokument eller diskutere en strategi. En automatisert prosess trenger ofte å løse noe langt mer avgrenset: hvilken kategori som passer, hvilken betingelse som er oppfylt, eller hvilken vei prosessen skal ta.

TypeSafe presenterte Jev i september som en «System One»-modell. Den mottar informasjon og spørsmål med definerte svartyper og returnerer beslutninger med tilhørende sannsynligheter, uten å generere prosa. Svaralternativene inngår i oppdraget modellen får. TypeSafe.

Nå utvider ScaleDown denne utviklingen med spesialiserte modeller for klassifisering, uttrekk og oppsummering. I Classify, selskapets modell med begrenset dekoding – CDM – kan svaret bestå av en etikett og den tilhørende sannsynligheten. Extract finner tekstutdrag i dokumentet. Summarize skriver faktisk sammendrag: hvert verktøy har sin funksjon. Integrasjonen med LangChain Deep Agents gjør det allerede mulig å bruke dem i agentprosesser. LangChain.

Jeg ser en tredje bølge her: Etter at vi har vent oss til modeller som samtaler, og sett løsninger som Jev, begynner det å vokse frem et tilbud av verktøy som er spesialisert på å løse enkelte deler av arbeidet. Det nyttige resultatet blir en beslutning som passer inn i prosessen.

Hva modellen returnerer, betyr like mye som hva den forstår

OpenAIs kunngjøring torsdag denne uken forsterker denne retningen. Decisions API, basert på GPT-6 Luna, er nå allment tilgjengelig. Den returnerer sannsynligheter, alternativer eller skårer. Ifølge OpenAI kan den løse disse oppgavene opptil ti ganger raskere enn den samme modellen gjennom Responses API, og det tas ikke betalt for tokener i svaret. Offisiell dokumentasjon. Vi omtalte dette i nyhetene 23. oktober.

Jeg synes dette eksempelet er talende: Den samme modellen kan brukes til en samtale eller en avgrenset beslutning, med et grensesnitt og en kjøring som er spesialtilpasset. Endringen gjelder både måten vi bruker intelligensen på, og størrelsen på modellen.

Løftet er lavere kostnader og kortere ventetid, med mer forutsigbare svar for programmet som mottar dem. Dette er ferske kunngjøringer, og tallene kommer fra leverandørene. Også en modell med avgrensede svaralternativer kan velge feil, og den anslåtte sannsynligheten må brukes til å organisere kontrollen.

Den som vil forstå regningen, kan lese to utfyllende artikler: hva tokenforbruk egentlig innebærer og hvorfor en automatisering kan faktureres utenom chatabonnementet. Det nye her er at en oppgave kan fullføres uten å produsere et avsnitt.

Tre oppgaver som får plass i et kort svar

La oss gå tilbake til e-posten på advokatkontoret. Vi kan definere kategorier som kontrakter, fakturering, nye saker og annet, og vurdere hastegrad separat. Resultatet kan styre fordelingen til arbeidskøene. «Annet» gir rom for å fange opp at en melding trenger en ny vurdering. En lang forklaring slutter å være et obligatorisk steg for å sende e-posten videre.

Tenk så på en kontrakt med en tilhørende PDF på tre hundre sider. Vi vil finne signeringsdatoen, utløpsdatoen og bestemmelsen om oppsigelsesfrist. Et uttrekksverktøy kan returnere tekstutdragene og plasseringen deres i dokumentet, slik at vi kan kontrollere dem i sammenheng. Slik beskriver ScaleDown verktøyet sitt, Extract.

Store mengder inndata kan ende i et minimalt svar. ScaleDown oppgir et kontekstvindu på opptil én million tokener for disse modellene. Arbeidet består i å finne det vi ber om, i et stort materiale. Ved å hente ut bestemmelsen om oppsigelsesfrist får vi frem opplysningen advokaten trenger for å vurdere hvilken frist som gjelder.

Det tredje eksempelet er å avgjøre neste steg for en henvendelse: be om dokumentasjon, avtale et møte eller sende den til en advokat for vurdering. De mulige svarene fastsettes på forhånd. Systemet kan forberede denne første fordelingen og overlate vurderingen av saken til den som skal ha ansvaret for den.

I alle tre tilfellene finnes det et ledd mellom å motta informasjon og å handle på grunnlag av den. Det leddet kan være svært lite og likevel fjerne mye rutinearbeid.

Spørsmålet er fortsatt vårt

Å velge det riktige spørsmålet med avgrensede svaralternativer er en menneskelig oppgave. «Haster det?» krever at man blir enige om hva som regnes som hastesaker på det kontoret. «Trengs det en vurdering?» krever at man konkretiserer hvilke situasjoner som alltid skal sendes videre til et menneske. Modellen får dette kriteriet. Noen må formulere det og kontrollere hvordan det fungerer med eksempler.

Jeg ville begynt med en beslutning som gjentas ofte, og som i dag krever at noen leser før de krysser av i en rute. Jeg ville undersøkt om alternativene beskriver arbeidet godt, og om svaret gjør det mulig å ta neste steg. Der kan vi måle en konkret forbedring.

Jeg tror KIs fremtid i arbeidslivet vil ta form av en verktøykasse. Den store modellen til å tenke og skrive. Den lille og spesialiserte til å ta beslutninger. Og mennesket til å fastsette kriteriene, kontrollere og ta ansvar for det som betyr noe.