OpenAI begynner å merke tekst og erkjenner grensene for å oppdage opprinnelsen

Andre saker · 5. oktober

New York stiller de store KI-laboratoriene spørsmål under ed

Komiteen med hele New York City Council holdt 5. oktober høringen «Examining the Risks Posed by Artificial Intelligence». Saksdokumentene omfatter forslag om virkningen av algoritmiske verktøy på kommunalt ansatte og om uautoriserte KI-fremstillinger av offentlige verv; referatet var fortsatt et utkast uten endelige lovgivningsresultater.

CNBC rapporterte at representanter for Anthropic, OpenAI, Google og Meta forklarte seg under ed. Rådets leder Julie Menin kalte svarene på et spørsmål om juridisk ansvar ved alvorlig økonomisk skade eller dødsfall for «troubling at best».

Forbehold. De mest dramatiske spådommene fra tidligere ansatte og andre vitner er meninger eller påstander i høringen, ikke dokumenterte fakta. Verken høringen eller forslagene som ble behandlet, er vedtatte regler.

Hvorfor det er viktig Sikkerhetsdebatten beveger seg fra frivillige løfter til offentlige spørsmål om ansvar, tilsyn og konsekvenser. For virksomheter og fagfolk er det avgjørende ikke bare hva laboratoriene lover, men hvilke konkrete plikter lovgivere kan ende med å innføre.

Andre saker · 5. oktober

Google foreslår kontekstavhengige tillatelser for agenter

Google Research publiserte en workshoprapport med bidrag fra mer enn 50 deltakere fra akademia og næringsliv. Rapporten skiller agenter fra deterministisk programvare gjennom ustrukturerte grensesnitt, sannsynlighetsbaserte kontrollflyter og autonomi eller delegering, og hevder at disse egenskapene gjør enkelte tradisjonelle kontroller utilstrekkelige.

Forslaget kombinerer sandboxing, agentidentitet, dynamisk autorisasjon, kontekstuell resonnering, brukersentrerte kontroller og økosystemstyring. Det skisserer også policy-motorer som vurderer om en informasjonsflyt er passende før data forlater arbeidsområdet, og «Agent Gym»-miljøer for å teste lange, kjedede samspill mellom flere agenter.

Forbehold. Dette er en forskningsagenda fra en workshop sent i 2025. Det er ikke en vedtatt standard, et tilgjengelig produkt eller dokumentasjon på at kontrollene fungerer i stor skala.

Hvorfor det er viktig Én tillatelse er ikke nok når oppgaven endrer seg, nye verktøy dukker opp eller underagenter kobles inn. Den praktiske ideen er å vurdere hver informasjonsflyt og handling opp mot formål og kontekst, samtidig som tekniske grenser håndheves utenfor modellen.

Andre saker · 5.–6. oktober

Claude Code styrker tillatelsene og retter to regresjoner kort tid etterpå

Claude Code 2.1.290 la til informasjon som skiller tillatelsessjekker for hovedagenten fra underagenter, og inkluderte organisasjonens påkrevde godkjenningsnivå i kontrollhendelser for verktøy. Versjonen rettet også blant annet automatisk godkjenning av koblinger som ikke bare var lesende i planmodus, lesing via lenker utenfor arbeidsmappen og nekt-regler som ikke omfattet enkelte bilder, omtaler eller shell-utvidelser.

Versjon 2.1.291 rettet deretter en regresjon i 2.1.290 som kunne miste svar på tillatelsesforespørsler i skyøkter, og en annen fra 2.1.288 som kunne miste de siste meldingene når brukeren avsluttet.

Forbehold. Dette er leverandørens utgivelsesnotater. Det ble ikke publisert CVE-er eller uavhengige tester av utnyttbarhet, og notatene dokumenterer rettelser, ikke bekreftede angrep.

Hvorfor det er viktig Grensene rundt en agent avhenger like mye av programvaren som håndhever tillatelser som av modellen. Den raske oppfølgingsrettelsen minner også om at en sikkerhetsoppdatering kan innføre nye feil og bør testes før bred utrulling.

Andre saker · 5. oktober

OpenAI tester visuelle annonser under bildegenerering

OpenAI varslet et nytt visuelt annonseformat i ChatGPT og flere verktøy for måling, attribusjon og merkevareegnethet. TechCrunch rapporterer at testen skal starte senere i oktober i USA, med tydelig merkede annonser ved siden av bildene brukeren ber om; OpenAI sier at annonsene ikke skal påvirke svarene.

Forbehold. Dette er en varslet test, ikke en generell utrulling. Påstanden om at annonsene ikke påvirker svarene, er et løfte fra leverandøren og ikke en uavhengig revidert konklusjon.

Hvorfor det er viktig Reklame inne i en kreativ samtale krever et tydelig skille mellom innhold og markedsføring. Det gjør det også nødvendig å undersøke hvilke signaler som brukes til målretting og måling, og om kommersielle insentiver kan endre opplevelsen selv om selve svaret formelt forblir uendret.