Oppsigelse i OpenAI vekker ny debatt om lansering av stadig kraftigere modeller

STYRING · USA · rapportert 3.–4. oktober

Reuters/WSJ: Jay Clayton skal lede ny rådgivende KI-gruppe

Reuters rapporterer, med henvisning til Wall Street Journal og et intervju med Jay Clayton, at president Donald Trump har utpekt USAs etterretningsdirektør til administrasjonens nye KI-rådgiver. Clayton skal etter opplysningene lede en «Super Intelligence Force» som innen 120 dager skal legge frem en rapport om risiko og muligheter ved KI.

Gruppen skal gjennomgå systemene for rapportering av sikkerhetsbrudd, hacking og andre hendelser og anbefale hvordan den føderale responsen kan styrkes innenfor eksisterende fullmakter. Det er et utrednings- og rådgivningsoppdrag, ikke dokumentasjon på at en ny regulator med egne håndhevingsfullmakter er etablert. Detaljene i mandatet er her basert på Reuters’ omtale av WSJ, ikke et separat kontrollert vedtak fra Det hvite hus.

Hvorfor det er viktig KI-spørsmål knyttes tettere til nasjonal sikkerhet og hendelseshåndtering. Det interessante blir hvilke anbefalinger gruppen gir, og hva myndighetene faktisk gjør med dem.

AGENTER · TILLATELSER · ANTHROPIC · 3. oktober; tidligere rettelser 2. oktober

Claude Code retter feil som kunne svekke agentens tilgangsgrenser

Claude Code 2.1.289 retter flere tilfeller der handlinger som skulle blokkeres eller kreve godkjenning, ikke ble behandlet som forventet i bestemte konfigurasjoner. Dette er rettelser i programvaren som kjører agenten og kontrollerer tillatelsene, ikke forbedringer i selve modellen.

Ett eksempel gjelder sammensatte terminalkommandoer på administrerte maskiner med brukerinstallerte utvidelser. Et annet gjelder leseforbud som ikke ble håndhevet for enkelte filer åpnet via symbolske lenker fra kodeeditoren. Anthropic rettet også et tilfelle der en brukerinstallert utvidelse kunne endre beskrivelsen av innloggingsverktøy fra en organisasjonsstyrt MCP-server.

Dagen før kom rettelser for enkelte farlige slettekommandoer og for kontroller som kunne bli hoppet over ved feil. Oppdateringene kommer etter introduksjonen av Claude Mods 1. oktober, som lar utvidelser endre flere deler av Claude Codes oppførsel. Utgivelsesnotatene dokumenterer rettelser, ikke at angripere faktisk har utnyttet feilene.

Hvorfor det er viktig Det holder ikke at modellen forsøker å følge instruksjonene. Programvaren rundt den må også håndheve begrensningene. En regel om at en fil ikke skal leses, må fungere uansett hvilken vei agenten bruker for å nå den.

PERSONVERN · ENHETER · APPLE · 2. oktober

Apple varsler strengere kontroll med Full Disk Access

Apple har varslet ekstra kontroller rundt Full Disk Access i macOS. Tillatelsen gir en app bred tilgang til beskyttede data, blant annet for at sikkerhetskopiering skal fungere. Den er ikke det samme som ubegrenset kontroll over alle funksjoner på maskinen.

Apple sier at enkelte utviklere bruker mekanismen på måter som kan eksponere filer, e-post, meldinger og nettleserhistorikk uten at brukeren forstår rekkevidden. Selskapet vil derfor kreve en mer eksplisitt brukerhandling. Kunngjøringen oppgir foreløpig verken dato eller macOS-versjon for de nye kontrollene.

Utspillet følger en offentlig konflikt om Metas Muse-agent. Enkelte brukere hevdet at den hadde lest meldinger uten det samtykket de mente å ha gitt. Meta avviser dette og sier at både Full Disk Access og Messages-tilkoblingen må aktiveres av brukeren. Apple har ikke konkludert med at Muse omgåtte macOS-tillatelsene.

Hvorfor det er viktig Når en agent kan lese dokumenter, e-post og meldinger og deretter handle på informasjonen, må brukeren forstå hva tilgangen innebærer. Tydeligere godkjenning er viktig, men det er også muligheten til å avgrense og trekke tilbake tillatelsene.

BEDRIFT · KOMPETANSE · 2. oktober

Anthropic vil bruke 100 millioner dollar på å utdanne 10 000 Claude-ingeniører

Anthropic har lansert Claude Frontier Academy med en forpliktelse på 100 millioner dollar og et mål om å utdanne 10 000 Frontier Deployed Engineers innen utgangen av 2027. Dette er et investeringsløfte og et utdanningsmål, ikke penger som allerede er brukt eller ingeniører som allerede har fullført.

De første deltakergruppene omfatter ansatte fra Accenture, Bain, Capgemini, Deloitte, McKinsey, Morgan Stanley, Novo Nordisk og Commonwealth Bank of Australia. Programmet kombinerer praktisk opplæring med en tolv ukers periode der deltakeren leder et virkelig Claude-prosjekt i egen virksomhet.

Anthropic mener mangel på implementeringskompetanse er en sentral flaskehals. Satsingen kan også leses som en økosystemstrategi: leverandøren utdanner dem som senere skal designe, sikre og drifte systemer rundt plattformen.

Hvorfor det er viktig Virksomheter trenger mer enn tilgang til en god modell. De trenger mennesker som kan integrere den og ta ansvar for driften. Opplæring fra leverandøren kan hjelpe, men kan også gjøre virksomheten mer avhengig av samme plattform.