OpenAI presenterer GPT‑6 Cyber for utvalgte Daybreak Red-kunder

Andre nyheter

2. Capgemini skal lede et vurderingskonsortium med Wavestone og LNE for EUs KI-kontor

EU · TILSYN · 5. NOVEMBER

Capgemini kunngjorde at selskapet er valgt til å lede et konsortium med Wavestone og LNE, Laboratoire National de Métrologie et d’Essais, en fransk offentlig institusjon. Konsortiet skal støtte EU-kommisjonens KI-kontor i vurderingen av cyberrisiko ved KI-modeller for allmenne formål: systemer som kan brukes til mange ulike oppgaver. Oppdraget omfatter kartlegging av trusler, utvikling av vurderingsverktøy og metoder, og tekniske tester ved behov. [2]

Poenget er at tilsynet får verktøy til å undersøke evner, i tillegg til å lese dokumentasjon. For leverandørene kan slike vurderinger gjøre sikkerhetspåstander om til spørsmål som kan etterprøves: Hvilket angrep muliggjør modellen, under hvilke betingelser og med hvilke kontroller? Meldingen beskriver et oppdrag som skal støtte tilsynet, ikke ferdige testresultater eller en sertifisering av modeller. [2]

3. USAs justisdepartement kunngjør Super Intelligence Task Force mot ulovlig KI-bruk

USA · JUSTIS · KUNNGJORT 5. NOVEMBER

Justisdepartementet kunngjorde Super Intelligence Task Force, ledet av Stanley Woodward, Associate Attorney General, og Stephen Weiss, Associate Deputy Attorney General. Det uttalte målet er å håndtere ulovlig bruk fra statlige og statsstøttede aktører, grenseoverskridende kriminelle organisasjoner, enkeltpersoner og selskaper. Meldingen fremhever svindel, kritisk infrastruktur og nasjonal sikkerhet. [3]

Weiss trekker også frem interne kontroller som skal sikre at teknologien virker som tiltenkt. For en virksomhet er det relevant å kunne forklare hvem som godkjente en handling, og hvilke kontroller som var i drift. Dette er en organisatorisk kunngjøring, ingen ny plikt for virksomheter eller rettslig endring i Spania eller Norge. Det blir relevant å følge hvordan samordningen omsettes i konkrete tiltak. [3]

4. Q2 kunngjør AIUC-1-sertifisering av bankassistenten Q2 Assistant

BANK · KONTROLL AV AGENTER · 5. NOVEMBER

Q2 opplyser at Q2 Assistant har fått AIUC-1-sertifisering. Assistenten kan hente informasjon og utføre oppgaver i selskapets bankprodukter. Ifølge Q2 kombinerte vurderingen tester som forsøker å fremprovosere feil, med en ekstern revisjon av kontroller: skille mellom data, håndheving av tillatelser, logging av samhandling og etterlevelse. Den omfattet risiko for datalekkasjer, uautoriserte handlinger og instruksjonsinjeksjon: meldinger som forsøker å lede assistenten bort fra den legitime oppgaven. [4]

Nyheten er sertifiseringen av dette konkrete produktet. En bank som vurderer å kjøpe det, bør be om rapporten, versjonen som ble undersøkt, og tillatelsene testene omfattet. Vurderingen av assistenten må kunne knyttes til bankens planlagte bruk. AIUC-1 er en privat sertifisering; den er ikke en godkjenning fra et banktilsyn. [4]

5. Arcjet lanserer Himalia 1 og tilbyr tidlig tilgang til Thebe 1 og Carme 1

SIKKERHET · ONDSINNEDE INSTRUKSJONER · 5. NOVEMBER

Arcjet kunngjorde at Himalia 1 er allment tilgjengelig, som detektor for instruksjonsinjeksjon i KI-applikasjoner. Thebe 1, for programmeringsagenter, og Carme 1, for autonome sikkerhetsagenter, tilbys med tidlig tilgang. Løsningen tilpasser deteksjonen til oppgaven: En mistenkelig kommando i kundeservice kan være legitim ved kodegjennomgang eller undersøkelse av et angrep. [5]

Problemet gjelder innhold en agent finner på nettsider, i e-post eller i kodearkiver: Det kan inneholde ordre som skal endre agentens atferd. Før kjøp bør man undersøke både angrep som slipper gjennom, og legitime oppgaver som blokkeres. Spesialiseringen Arcjet kunngjør, dokumenterer ikke i seg selv effekten. Begrensede tillatelser er fortsatt en nødvendig barriere når programmet kan handle. [5]