KI og virksomhetens dokumenter: det holder ikke å vite hvor PDF-ene ligger

Når en plattform henter ut, organiserer og gjenbruker informasjon fra dokumentene våre, må vi forstå mer enn hvor den lagrer filene. Vi må vite hva den gjør med innholdet.

Det enkleste bildet av kunstig intelligens er fortsatt en samtale: Jeg skriver et spørsmål og får et svar.

Men verktøyene for virksomheter kan gjøre langt mer.

Vi kan laste opp dokumenter, koble til mapper og legge hele arkiver inn i plattformer som leser dem, klassifiserer dem og gjør dem til en søkbar informasjonskilde.

Det gjør det mulig å finne bakgrunnsmateriale, sammenligne kontrakter, rekonstruere hendelsesforløpet i en sak eller utarbeide rapporter med utgangspunkt i organisasjonens dokumentasjon.

Det er en svært nyttig kapasitet. Men den endrer hva vi må undersøke før vi inngår en avtale.

Dokumentet er bare utgangspunktet

Tenk deg at vi legger to hundre saksmapper inn i en plattform.

Systemet kan lagre de originale PDF-ene, hente ut teksten, konvertere den til et format som Markdown og dele den opp i tekstbiter. Deretter kan det legge innholdet i databaser og opprette indekser for å finne det igjen.

Noen systemer bruker numeriske representasjoner — vektorer — som gjør det mulig å søke etter betydning, ikke bare nøyaktige ord. Et søk om «førtidig oppsigelse» kan dermed hente frem et avsnitt om å «avslutte avtalen før den utløper».

Når systemet henter frem disse tekstbitene og gir dem til en modell som skal utarbeide et svar, er det en vanlig form for RAG: generering støttet av gjenfunnet informasjon.

Vi trenger ikke å beherske terminologien for å forstå konsekvensen.

PDF-en er fortsatt en fil, men informasjonen i den kan bevege seg gjennom flere deler av systemet.

Den kan finnes som uthentet tekst, søkbare tekstbiter, sammendrag, svar eller nye dokumenter. Det er ikke alltid fullstendige kopier, men det er nye måter å bevare eller bruke innholdet på.

Derfor er spørsmålet «hvor er PDF-ene mine lagret?» ikke lenger tilstrekkelig.

Informasjonen finnes i stadig flere former

En konfidensiell klausul slutter ikke å være konfidensiell når den blir til tekst. En forretningsstrategi er fortsatt sensitiv når den opptrer i et sammendrag. Og et svar kan samle informasjon som tidligere var spredt over mange dokumenter.

Det er nettopp denne omorganiseringen som gjør verktøyet verdifullt.

Men det betyr også at vi må vite hvordan, hvor og til hvilke formål den uthentede informasjonen behandles, ikke bare hvor originalen lagres.

Hva blir bevart? Hva sendes til modellen? Hva kan hver bruker hente frem? Brukes innholdet til andre formål? Hva skjer med det avledede materialet når vi sletter dokumentet?

Vi bør ikke anta at sletting av den synlige PDF-en automatisk fjerner alt systemet har laget ut fra den.

To ting vi må undersøke før vi inngår en avtale

Det første er hva plattformen faktisk gjør.

Vi trenger en forståelig forklaring på informasjonens vei: fra dokumentet mottas til et svar leveres, inkludert uthenting, lagring, søkesystemer og eksterne tjenester som brukes.

Det andre er hvilke forpliktelser leverandøren påtar seg.

Hva informasjonen kan brukes til, hvordan personopplysninger og konfidensiell informasjon beskyttes, hvem som har tilgang, hvor lenge den lagres, og hvordan sletting håndteres.

En teknisk forklaring erstatter ikke avtalen. En avtale forklarer heller ikke alene hvordan systemet fungerer.

Vi trenger begge deler.

Det spiller også en rolle hvem som står imellom

Mange spesialiserte plattformer bruker modeller fra andre selskaper.

Denne mellomleverandøren kan være den som mottar dokumentene, henter ut teksten, organiserer kunnskapsbasen og bestemmer hvilken informasjon som sendes til modellen.

Derfor er det ikke nok å kjenne KI-leverandørens vilkår. Vi må også vite hva plattformen vi har inngått avtale med direkte, gjør, og hvilke forpliktelser den påtar seg.

Det gjør ikke mellomleverandøren til et problem. Den kan tilby svært verdifulle funksjoner og kontroller. Men den er en del av informasjonens vei og må inngå i vurderingen.

En enkelt forespørsel er ikke det samme som et permanent arkiv

Å laste opp tre dokumenter for en enkelt oppgave gir ikke samme eksponering som å ha to hundre komplette saksmapper liggende på en plattform i årevis.

Volumet, lagringstiden, hvem som har tilgang, og mengden informasjon som kan kobles sammen, endrer seg.

Derfor er en vellykket prøve med noen få PDF-er ikke nok til å beslutte å legge inn hele organisasjonens arkiv.

Først må tjenesten vurderes: en due diligence som står i forhold til det vi skal betro den.

Å dele mindre er også et alternativ

I enkelte tilfeller er det verdt å vurdere anonymisering eller pseudonymisering før informasjonen sendes, forutsatt at det kan gjøres på en god måte uten å ødelegge det som trengs for oppgaven.

Ikke som en erstatning for leverandørens forpliktelser, men som en ekstra beskyttelse.

Selv når alle oppfyller sine forpliktelser, kan det være fornuftig å unngå at de mottar informasjon de ikke trenger. Særlig når innholdet skal omformes og fordeles mellom ulike deler av systemet.

Utnytt kapasiteten, forstå informasjonens vei

Dette handler ikke om å være redd for skyen eller å mistro KI-tjenester av prinsipp.

Det handler om å forstå hva vi inngår avtale om.

Før spurte vi hvor dokumentene skulle lagres. Nå må vi også spørre hva som skal bygges med informasjonen de inneholder.

For vi betror ikke bare noen PDF-er. Vi godkjenner en måte å behandle, organisere og bruke organisasjonens kunnskap på.