Kan en KI inngå en avtale på dine vegne og binde deg juridisk?

Tenk deg at du ber din kunstige intelligens finne et hotell til et møte. Du oppgir datoene, stedet og et omtrentlig budsjett. Agenten sammenligner alternativer, utveksler meldinger med hotellet og finner et passende rom.

Så langt fremstår det som et litt mer avansert søk.

Men så bekrefter den en pris som ikke kan refunderes.

Eller tenk på en bedrift som bruker en agent til å håndtere e-post. En leverandør foreslår å fornye en tjeneste på nye vilkår. Systemet tolker tilbudet som forenlig med instruksene det har fått, og svarer: «Enig, dere kan gå videre».

Har den bestilt hotellet? Har den fornyet avtalen? Kan brukeren senere avvise disse disposisjonene med den begrunnelsen at en kunstig intelligens godtok dem?

Svaret krever at vi undersøker hvordan hver disposisjon fant sted. En automatisert handling kan skape juridiske forpliktelser selv om en person ikke har gjennomgått hvert enkelt trinn.

Spørsmålet blir relevant fra det øyeblikket vi gir et system mulighet til å handle utenfor samtalen.

Meta gir et konkret eksempel. I presentasjonen av Muse beskriver selskapet en personlig agent som kan bruke nettleseren, fylle ut skjemaer, håndtere oppgaver og forhandle for brukeren. Det kunngjør også kjøp gjennom Link fra Stripe og forespørsler om godkjenning før bestemte handlinger, som å sende e-post eller kjøpe noe. Dette er funksjoner og sikkerhetstiltak beskrevet av leverandøren, ikke en garanti for feilfri drift eller universell tilgjengelighet. [1]

Den økonomiske siden fortjener også oppmerksomhet. Zuckerberg har uttrykt en forventning om å få inntekter gjennom et lite gebyr på transaksjoner. Det beskriver en forretningsintensjon; det fastslår verken en konkret sats eller generelle betalingsvilkår. [2]

Hvis assistenten deltar i kjøpene våre og leverandøren får inntekter fra dem, oppstår et nytt spørsmål: Hvordan vet vi hvilke interesser som påvirker anbefalingene? Dette må undersøkes sammen med tjenestevilkårene og informasjonen brukeren får.

Først bør vi skille mellom å anbefale, forhandle og akseptere.

En agent kan begrense seg til å sammenligne tilbud. Den kan be om pristilbud uten å forplikte noen. Den kan diskutere vilkår med forbehold om godkjenning. Eller den kan avgi en aksept som tar sikte på å avslutte handelen.

Dette er ulike handlinger, selv om de vises i samme samtale på skjermen.

Viktige beslutninger kan også treffes uten at det foretas et kjøp:

Agentens handling: svare på et tilbud via e-post. Spørsmål som må undersøkes: om meldingen utgjør en aksept. Agentens handling: fornye et abonnement. Spørsmål som må undersøkes: varighet, pris og mulighet for oppsigelse. Agentens handling: forhandle om en klage. Spørsmål som må undersøkes: om den godtar kompensasjon eller gir avkall på rettigheter. Agentens handling: kjøpe på vegne av en bedrift. Spørsmål som må undersøkes: fullmakter, budsjett og godkjente vilkår. Agentens handling: avbestille en reservasjon. Spørsmål som må undersøkes: gebyrer og tap av rettigheter. Agentens handling: godta en plattforms vilkår. Spørsmål som må undersøkes: forpliktelser som påtas, og opplysninger som kan brukes.

Dette er eksempler til analyse. Virkningene avhenger av instruksene, kommunikasjonen og reglene som gjelder.

I Spania har elektronisk avtaleinngåelse allerede et etablert rettslig grunnlag.

Artikkel 1262 i den spanske sivillovboken omtaler avtaler inngått ved hjelp av automatiske innretninger og knytter samtykket til avgivelsen av aksepten. Bruk av en maskin hindrer derfor ikke i seg selv at en avtale foreligger.

Artikkel 1259 gjelder avtaleinngåelse på en annens vegne uten fullmakt og åpner for etterfølgende godkjenning. En KI-agent gjør det imidlertid nødvendig først å presisere hvordan handlingen tilordnes: Den kan fungere som brukerens verktøy, gjennomføre en forhåndsavgrenset fullmakt eller avgi en erklæring som går ut over oppdraget. Den kommersielle betegnelsen «agent» avgjør ikke denne klassifiseringen. [3]

Den spanske loven om informasjonssamfunnstjenester anerkjenner elektroniske avtalers virkning når samtykke og de øvrige gyldighetsvilkårene foreligger. Den tillater også elektroniske dokumenter som dokumentbevis og opprettholder særlige krav for bestemte disposisjoner. En agent som kan fylle ut et skjema, opphever ikke et lovbestemt formkrav. [4]

Dette har en praktisk konsekvens: Vi bør ikke regne med at «jeg trykket ikke personlig på knappen» er et tilstrekkelig forsvar. Det må rekonstrueres hva som ble godkjent, hva systemet gjorde, og hva motparten mottok.

Norge reiser nærliggende spørsmål, men analysen må ta utgangspunkt i norsk rett.

Avtaleloven regulerer avtaleinngåelse og fullmakt. Etter § 10 kan en disposisjon foretatt i fullmaktsgiverens navn og innenfor fullmaktens grenser stifte rettigheter og plikter direkte for fullmaktsgiveren. § 11 skiller mellom fullmaktens grenser og interne instrukser, og tar blant annet hensyn til hva motparten visste eller burde ha visst.

Disse reglene hjelper oss å identifisere problemet, men hele den juridiske konstruksjonen om en menneskelig fullmektig bør ikke uten videre overføres til KI. Vi må avgjøre om vi står overfor en automatisert erklæring som kan tilordnes brukeren, og hvordan de relevante reglene virker. Reglene om feil gir heller ingen automatisk utvei ved ethvert uventet resultat. [5]

For en organisasjon som arbeider mellom Spania og Norge, er det dessuten viktig å vite hvilken lov som gjelder for disposisjonen. Assistentens språk eller serverens plassering er ikke nok til å svare på det.

Den europeiske unionen tilfører flere beskyttelseslag, men gir ikke ett samlet svar på all avtaleinngåelse ved hjelp av KI.

E-handelsdirektivet krever at rettsordningene tillater elektronisk avtaleinngåelse, og at en avtale ikke nektes rettsvirkning bare fordi dette mediet er brukt. Prinsippet legger til rette for automatisering; det avhjelper ikke i seg selv manglende samtykke, utilstrekkelig fullmakt eller et uoppfylt formkrav. [6]

I forbrukerforhold er forhåndsinformasjon, totalpris og disposisjonens vilkår fortsatt viktige. I Spania krever artikkel 98 i forbrukerlovgivningen en uttrykkelig bekreftelse på at bestillingen medfører betalingsplikt, og fastsetter konsekvenser hvis kravet ikke oppfylles.

Hvordan denne bekreftelsen skal dokumenteres når en agent deltar, fortjener en særskilt gjennomgang. Vi kan ikke anta at ethvert automatisert klikk oppfyller alle krav. Heller ikke at alle kjøp kan omgjøres: Angreretten har vilkår og unntak. [7]

KI-forordningen regulerer blant annet åpenhet for systemer som samhandler direkte med mennesker. Det kan være påbudt å opplyse om at samtalepartneren er KI i de tilfellene reglene omfatter. Men opplysningen dokumenterer ikke hvilke fullmakter systemet har til å akseptere et tilbud. Å identifisere samtalepartneren og å kjenne dens myndighet er to forskjellige kontroller. [8]

I Norge må vi i tillegg kontrollere innlemmelsen av hvert regelverk i EØS-avtalen og gjennomføringen i norsk rett. Den konsulterte EFTA-oppføringen viser fortsatt KI-forordningen som under vurdering for innlemmelse; den bør ikke automatisk fremstilles som gjeldende norsk rett. [9]

E-post kan bli et av de mest følsomme områdene.

En assistent med tilgang til e-post kan finne tilbud, klager og forslag til avtaleendringer. Før den får svare, bør vi skille mellom hva den kan forberede, hva den kan sende, og hva den kan godta.

Tenk deg instruksen: «Håndter fornyelser som ikke overstiger 200 euro».

Er det 200 euro per måned, per år eller per disposisjon? Kan den godta tre års bindingstid? Kan den bytte leverandør? Hva skjer hvis prisen er innenfor grensen, men vilkårene inneholder et betydelig gebyr?

Beløpet alene beskriver fullmakten dårlig.

Vi må også avgjøre hvordan mottatte meldinger skal behandles. En e-post kan inneholde instrukser som skal manipulere agenten. Derfor foreslår jeg en designregel: Innhold fra en tredjepart skal behandles som informasjon som må undersøkes, uten automatisk å bli gjort om til en godkjent instruks fra brukeren.

Mitt praktiske forslag er å definere fullmaktene før autonomien utvides.

Et nyttig oppdrag bør presisere hvilke disposisjoner som er tillatt, med hvilke leverandører, innenfor hvilket budsjett og i hvor lang tid. Det bør også angi hvilke vilkår som er uakseptable, og når et menneske må involveres.

Godkjenningen bør vise disposisjonen som faktisk skal utføres: motpart, totalbeløp, varighet, fornyelser og relevante vilkår. Den bør knyttes til denne versjonen. Hvis vilkårene senere endres, foreslår jeg å kreve en ny godkjenning.

Som designreferanse krever Muses egne retningslinjer for koblinger at relevant informasjon presenteres før en forpliktelse påtas, at ventende og bekreftede disposisjoner skilles, at duplikater unngås, og at kvitteringer gis. Dette er plattformregler, ikke en generell rettsregel, men de viser driftsproblemer det er fornuftig å løse. [10]

Deretter må det bevares tilstrekkelig dokumentasjon av det som skjedde: instruksen, tilbudet, godkjenningen og handlingen som ble utført, med egnede tiltak for tilgang og oppbevaring.

Hvis en konflikt oppstår, vil dokumentasjonen gjøre det mulig å skille mellom to spørsmål: om det foreligger en forpliktelse overfor leverandøren, og om det er grunnlag for et krav knyttet til KI-tjenestens funksjon. Det andre spørsmålet avgjør ikke automatisk det første.

Det internasjonale regelverksarbeidet tar allerede opp disse spørsmålene.

UNCITRAL vedtok i 2024 en modellov om automatisert avtaleinngåelse som omfatter bruk av KI ved inngåelse og oppfyllelse av avtaler, tilordning av resultater og enkelte uventede resultater.

Den sier noe om retningen på debatten. Som modellov er den ikke automatisk gjeldende lov i Spania eller Norge. [11]

I prosjektene vi bygger med agenter, har disse spørsmålene arkitektoniske konsekvenser fra starten. Hvis Alonides skal koordinere prosjektene mine og formidle instrukser, må jeg kunne skille mellom å koordinere arbeid og å påta seg forpliktelser på mine vegne.

Jeg kan ønske at den søker, sammenligner og forhandler. Jeg kan godkjenne bestemte rutinemessige disposisjoner. Og jeg kan forbeholde andre beslutninger til min egen gjennomgang.

Denne fordelingen må være definert og kunne kontrolleres.

Svaret på det innledende spørsmålet er derfor at en disposisjon utført gjennom KI kan komme til å binde deg juridisk. For å avgjøre om det skjer i et konkret tilfelle, må vi undersøke tilordningen av erklæringen, fullmaktene som er gitt, aksepten og reglene som gjelder.

Før du ber en KI ta seg av noe, bør du presisere hvor langt den kan gå.

«Finn et godt alternativ for meg» og «aksepter det tilbudet på mine vegne» fortjener forskjellige instrukser.