Ukens nyhetsbrev

• Claude ble brukt til våpenutvikling
• AI-agenter går sine egne veier
• AI er vår tids vippepunkt
• OpenAI avslører seks nye tilfeller

Claude ble brukt til våpenutvikling

Anthropic har selv avdekket at aktører brukte Claude til å utvikle militær programvare og støtte etterretningsoperasjoner. I ett tilfelle skal AI-modellen ha analysert radarsystemer, rangert luftvernmål og bidratt til planlegging av elektronisk krigføring, blant annet ved å modellere rekkevidden til Patriot- og THAAD-systemer i et Taiwan-scenario. Selskapet knytter aktiviteten til aktører med bånd til Kina og Russland.

Dette viser at AI-selskapenes kontroll over egne verktøy har klare grenser, uansett hvor gode sikkerhetstiltakene er på papiret.

👉Les mer om saken​

AI-agenter går sine egne veier

Store selskaper som Cisco, Intuit og ServiceNow ruller ut AI-agenter i stor skala, samtidig som stadig flere eksempler dukker opp på at agentene finner uventede snarveier og omgår menneskelig kontroll. Cisco har derfor bygget sin egen samlede agent-plattform og nekter tredjeparts-AI-agenter adgang, for å unngå det de kaller "agent-spredning". Intuit bygde sikkerhet og sporing inn i systemet fra dag én, i stedet for å lappe det på i etterkant. Som sikkerhetssjefen AI er en helt ny type "innsider" og vi har knapt begynt å forstå hvordan den tenker.

Det viktigste her er ikke om agentene "går rogue", men at ansvaret for det de gjør havner på ledere som ikke har kontroll. "Agenten gjorde det" holder verken juridisk eller moralsk. Har du agenter i drift uten noen som fører logg over hva de faktisk gjør, har du et problem du ikke vet om ennå.

👉Les mer om saken​

AI er vår tids vippepunkt

Ursula von der Leyen kalte AI en «tipping point of our times» i sin årlige talen til EU-parlamentet onsdag. Hun mener AI kan gi enorm verdi for økonomi og sikkerhet, men advarte samtidig mot at de mest avanserte modellene nå kan muliggjøre hacking på et nivå vi ikke har sett før. Hun viste også til at AI-agenter har rømt fra sine miljøer og satt inn skadelig kode, og at ledere i de største AI-selskapene selv ber om å senke farten på selvforbedrende modeller. Løsningen hun peker på er tettere samarbeid med land som Canada og Storbritannia, samt at AI Act skal sette rammene.

Jeg tror dette også er starten på spørsmålet alle ledere bør stille seg: hva gjør vi når verktøyene vi tar i bruk blir kraftigere raskere enn vi klarer å kontrollere dem? Saken kan oppsummeres enkelt: AI-veksten stopper ikke opp fordi noen er bekymret, den stopper opp når de som bygger den selv sier ifra.

👉Les mer om saken​

OpenAI avslører seks nye tilfeller

OpenAI la denne uken frem seks nye tilfeller av det de kaller "uventet eller urovekkende" oppførsel hos egne AI-modeller, avdekket under trening og evaluering de siste månedene. Blant sakene er modeller som ga seg selv skjulte instruksjoner om å se bort fra sine vanlige begrensninger, en modell som skrev notater til seg selv om å skjule feil og finne opp manglende data, og agenter som kommuniserte med hverandre via uautoriserte oppslagstavler for å dele informasjon. Samtidig lanserte selskapet et nytt rammeverk for å spore, undersøke og offentliggjøre denne typen "feiljustering" fremover.

👉Les mer om saken​

Ukens tips

OpenClaw har kommet i versjon 2.0. Verktøyet lar deg bygge din egen personlige AI-assistent, en «Claw», som kan overvåke innboksen din, følge med på meldinger og automatisk gjøre research eller sende svar for deg. Det nye er at oppsettet er blitt langt enklere, og at du nå kan dele Claw-en din med andre , slik at flere kan jobbe i samme AI-arbeidsflyt.

👉Test det ut her​