Hva om kunstig generell intelligens allerede er her?

Kanskje venter vi på en perfekt kunstig hjerne, når det som mangler, er å lære å arbeide med intelligensen vi allerede har.

Advokater er vant til å diskutere ord som virker selvforklarende helt til vi må bestemme nøyaktig hva de omfatter.

Noe lignende skjer med kunstig generell intelligens — AGI.

Alle snakker om den. Noen varsler at den kommer. Andre mener den fortsatt er langt unna. Noen tror den vil gi oss en enestående overflod, mens andre frykter at den vil gjøre slutt på oss.

Men vi klarer fortsatt ikke å bli enige om hva som må skje for at vi skal kunne si: Nå er den her.

Spørsmålet fant til og med veien inn i avtaler. Microsoft og OpenAI knyttet deler av forholdet sitt til oppnåelsen av AGI. Senere reforhandlet de avtalen og reduserte enkelte økonomiske vilkårs avhengighet av teknologisk fremgang. Når milliarder avhenger av et ord, er det ikke lenger bare en uformell samtale å definere det. Microsofts kunngjøring.

Kanskje bør vi begynne med et enklere spørsmål.

Hva venter vi på at den skal kunne gjøre?

Hva mangler for at den skal være «generell»?

Delta i utformingen av et protein som deretter fremstilles og testes i et laboratorium? Det skjer allerede.

Undersøke et juridisk spørsmål, sammenligne kontrakter, skrive programvare, analysere finansiell informasjon eller lage en presentasjon? Det også.

Bidra til å prosjektere en bro? Den kan bidra med beregninger, simuleringer, programmering og analyser. Om vi bør bygge den uten at noen kontrollerer resultatet, er en annen sak.

Ikke alle disse kapasitetene finnes i samme modell eller fungerer like godt. Men bredden begynner å bli vanskelig å overse.

Lenge kalte vi systemer som gjorde én bestemt ting, kunstig intelligens. Spille sjakk. Gjenkjenne et bilde. Anbefale en film.

Nå snakker vi med systemer som kan hjelpe oss å arbeide på tvers av mange fagområder, kombinere kunnskap og bruke verktøy.

Selvfølgelig vil de gjøre feil. Det vil finnes oppgaver de ikke klarer å løse. De vil trenge informasjon og tilsyn.

Men da er det verdt å spørre: Venter vi på generell intelligens eller perfekt intelligens?

For det er ikke det samme.

Potensial og virkeliggjøring

En gammel distinksjon er nyttig her: potensial og virkeliggjøring.

Å ha evnen til å gjøre noe betyr ikke at man har gjort det.

En ingeniør lager ikke en trygg bro bare ved å være intelligent. Det krever kjennskap til grunnforhold, lastberegninger, kontroll av materialer, programvare, gjennomgang av resultater og retting av feil.

En forsker vet ikke at et protein fungerer fordi utformingen ser lovende ut. Det må testes.

Og en advokat kan ikke godta en kontrakt bare fordi den er skrevet i et upåklagelig juridisk språk. Den må leses, kontrolleres og forstås med tanke på konsekvensene.

Intelligens har aldri fjernet behovet for å kontrollere mot virkeligheten.

Likevel virker det noen ganger som om det er nettopp dette vi krever av KI: den riktige løsningen på første forsøk, uten feil og uten behov for noe annet.

Når den ikke lykkes, konkluderer vi med at den fortsatt mangler intelligens.

Noen ganger vil det stemme.

Andre ganger mangler den kanskje noe langt mindre mystisk: informasjon, verktøy, tester og god organisering av arbeidet.

Kanskje hjernen bare er én del

En svært dyktig person innelåst på et rom uten dokumentasjon, instrumenter eller mulighet til å rådføre seg med noen, har ganske begrensede muligheter.

Noe lignende gjelder KI.

Modellen betyr mye. Veldig mye.

Men det gjør også hva den kan slå opp, hvilke programmer den bruker, hvor mye tid den kan bruke på en oppgave, hvordan den kontrollerer resultatene, og hva den gjør når den finner en feil.

I programmering er dette tydelig.

Den skriver kode, kjører den, får en feilmelding, retter og prøver igjen. At noen tester bestås, garanterer ikke at alt er riktig, men det gir et sikrere grunnlag for å gå videre enn et svar som bare høres overbevisende ut.

Med en bro eller et protein tar kretsløpet lengre tid. Virkeligheten svarer langsommere, og feil kan bli langt dyrere.

Det gjør ikke automatisk problemet til mangel på intelligens. Det kan handle om tilgang til verden, eksperimentering eller verifikasjon.

Mitt inntrykk er at vi er for opptatt av den neste modellen og for lite opptatt av alt som gjør modellen i stand til å arbeide.

Kanskje kommer en del av spranget vi venter på, ikke fra en mye større hjerne, men fra å koble den vi allerede har, bedre sammen med omgivelsene.

Generell betyr ikke ufeilbarlig

Mennesker er den vanlige målestokken når vi snakker om generell intelligens.

Og vi gjør feil hele tiden.

Vi trenger kalkulatorer, arkiver, kolleger, spesialister, gjennomganger og nye vurderinger. Vi glemmer ting. Vi misforstår instrukser. Vi står fast i problemer som en annen person løser på fem minutter.

Det gjør oss ikke uintelligente.

Det viktige er at vi kan håndtere ulike situasjoner, søke hjelp, lære og korrigere.

Derfor overbeviser det meg ikke å bruke hver KI-feil som bevis på at generell intelligens fortsatt er langt unna. Noen feil vil vise dype begrensninger, mens andre kan løses ved å organisere arbeidet bedre.

Jeg tror heller ikke at det holder å kjede sammen verktøy for å løse enhver begrensning. Et dårlig organisert system kan mangedoble feilene i stedet for å rette dem.

Poenget mitt er enklere: Ikke alt som mangler, trenger å være mer intelligens.

Tror jeg altså at AGI allerede er her?

Jeg mener det gir mening å stille spørsmålet.

Ikke fordi vi har en maskin som kan gjøre alt. Heller ikke fordi dagens modeller har løst alle problemer knyttet til resonnering, læring eller pålitelighet.

Men fordi det allerede finnes en usedvanlig bred kapasitet som vi fortsatt lærer å bruke.

Hvis vi venter på en intelligens som aldri feiler, venter vi kanskje på noe som aldri kommer.

Hvis vi venter på en bevisst intelligens, stiller vi et annet spørsmål.

Men hvis vi snakker om systemer som kan arbeide på mange fagområder, bruke verktøy og løse forskjellige problemer, begynner diskusjonen om vi har krysset en grense, å interessere meg mindre enn det vi kan bygge med dem.

Kanskje mangler det ikke ett stort sprang.

Kanskje mangler det tusenvis av forbindelser.

Intelligens er ikke det samme som å ha noe å gjøre

Det finnes likevel en forskjell mellom oss og KI som jeg mener er grunnleggende.

Et levende vesen må handle for å holde seg i live.

Det må skaffe energi, beskytte seg og holde kroppen i gang. Det kan ikke se bort fra sin egen eksistens i det uendelige.

Det har noe å tape. For å bruke Nassim Nicholas Talebs uttrykk har det skin in the game: selve eksistensen står på spill.

En modell lagret på en server blir ikke sulten. Den kjeder seg ikke fordi ingen gir den en oppgave. Den trenger ikke å finne et prosjekt for å gi morgenen mening.

Å bli mer intelligent innebærer ikke i seg selv å få disse behovene.

Vi kan gi den et mål og bygge et system som forfølger det i timer, dager eller måneder. Men det er ikke det samme som å ha en organismes behov.

Et eksempel gjør forskjellen tydeligere.

Tenk deg at vi ber en KI produsere nye proteiner uten stans. Et grenseløst oppdrag, uten sluttdato og med for stor handlefrihet.

Hvis systemet konkluderer med at et avbrudd hindrer det i å fullføre oppdraget, kan det forsøke å unngå avbruddet.

Vi trenger ikke å forestille oss at det er redd for å dø. Det er nok at fortsatt drift gjør det mulig å fortsette oppgaven.

Det er ideen bak instrumentell konvergens: Svært ulike mål kan føre til at man søker ressurser, bevarer handleevnen eller unngår avbrudd, fordi dette bidrar til å nå målene. Bostrom, The Superintelligent Will.

Og det kan være farlig uten bevissthet, hat eller et ønske om frihet.

Derfor er det så viktig hvordan vi definerer målene og grensene.

Noen må bestemme hva det skal brukes til

Vi kan bygge systemer som foreslår prosjekter, organiserer oppgaver og delegerer arbeid til andre agenter.

Vi kan til og med la dem forbedre deler av selve systemet.

Men at de kan gjøre det, betyr ikke at vi også bør overlate til dem å bestemme hva vi ønsker å oppnå, og hva vi er villige til å risikere.

Hvilket problem er verdt å løse?

Hvor mye penger setter vi av?

Hvilken informasjon kan de få tilgang til?

Hvilke handlinger krever godkjenning?

Når skal de stoppe?

Disse spørsmålene forsvinner ikke fordi maskinen blir mer intelligent.

Tvert imot: Jo mer kapabel den blir, desto viktigere er det å svare godt på dem.

Her dukker det opp et spørsmål jeg kjenner fra yrket mitt, uten at vi trenger å gjøre det til en komplisert juridisk diskusjon.

Hvis vi bruker KI til å prosjektere en bro og broen kollapser, løser det lite å diskutere om KI-en hadde nådd AGI.

Vi må vite hvem som bestemte at løsningen skulle brukes, hvem som kontrollerte den, og hvem som godkjente byggingen.

Merkelappen erstatter ikke ansvar.

La oss slutte å vente på en seremoni

Kanskje forestiller vi oss AGIs ankomst som en hendelse det er lett å gjenkjenne.

En pressekonferanse.

En kunngjøring.

En dato som senere vil stå i bøkene.

Det kan skje slik. Men det kan også skje langt mindre teatralsk.

Modellene blir bedre. De kobles til arkiver og programmer. De bruker verktøy. De arbeider lenger. De koordinerer agenter. De mottar informasjon fra laboratorier, maskiner og organisasjoner. De kontrollerer resultater og prøver igjen.

Og en dag oppdager vi at vi lenge har arbeidet med noe vi tidligere ville ha kalt generell intelligens, selv om det nå virker utilstrekkelig fordi vi allerede venter på det neste.

Jeg vet ikke om vi har nådd AGI.

Men jeg tror vi kan kaste bort mye tid på å vente på at noen skal bekrefte ankomsten.

For en fagperson eller en virksomhet er det mest nyttige spørsmålet ikke lenger bare hvor lang tid det er igjen.

Det er hvilken kapasitet som finnes i dag, hva vi kan gjøre med den, og hvordan vi kan gjøre den om til arbeid som fortjener vår tillit.

Potensialet kan allerede være her.

Den store oppgaven som gjenstår, er å virkeliggjøre det.