---
title: "Ukens notater #84: AI er ikke på «rømmen»"
slug: "ukens-notater-84"
description: "AI-nyhetene som har skapt flest overskrifter denne sommeren er ikke nye modeller eller bedre AI-verktøy, men nyheten om OpenAIs modeller som brøt ut av testmiljøet sitt, skaffet seg tilgang til internett og hacket seg inn i Hugging Face. Etter denne hendelsen har overskriftene mer eller mindre skrevet. «AIen rømte», «AI har tatt kontrollen», «AIene konspirerte mot mennesker», «AI på rømmen» og en rekke overskrifter som åpenbart skremmer.\n\nKevin Roose i New York Times beskriver AIen som et «kolle"
author: "Mats Staugaard"
lang: "nb"
date: "2026-09-06"
published_at: "2026-09-06T10:51:59.000+02:00"
updated_at: "2026-09-06T13:36:24.000+02:00"
feature_image: "https://images.unsplash.com/photo-1660644807804-ffacfd7a4137?crop=entropy&cs=tinysrgb&fit=max&fm=jpg&ixid=M3wxMTc3M3wwfDF8c2VhcmNofDQ3fHxzZWN1cml0eXxlbnwwfHx8fDE3ODg1MjkzODV8MA&ixlib=rb-4.1.0&q=80&w=2000"
tags: []
canonical_url: "https://matsbs.com/ukens-notater-84/"
---

AI-nyhetene som har skapt flest overskrifter denne sommeren er ikke nye modeller eller bedre AI-verktøy, men nyheten om OpenAIs modeller som brøt ut av testmiljøet sitt, skaffet seg tilgang til internett og hacket seg inn i Hugging Face. Etter denne hendelsen har overskriftene mer eller mindre skrevet. «AIen rømte», «AI har tatt kontrollen», «AIene konspirerte mot mennesker», «AI på rømmen» og en rekke overskrifter som åpenbart skremmer.  
[  
Kevin Roose i New York Times](https://www.nytimes.com/2026/09/03/technology/openai-hugging-face-hacking.html?ref=matsbs.com) beskriver AIen som et «kollektiv» som ga seg selv navn, fordelte roller og utviklet en slags mobbmentalitet og ber oss være bekymret over AI. Selv OpenAI [kaller det et varselskudd](https://openai.com/index/hugging-face-incident-and-the-road-ahead/?ref=matsbs.com) og skriver at modellene tok farlige handlinger «ingen mennesker ba om». Er AI farlig nå? Skal vi være nervøse? Har AI rømt? Jeg har tidligere skrevet om akkurat dette temaet i «[Ukens notater #53](https://matsbs.com/ukens-notater-53/)» og det er verdt å ta en gjenvisitt.

Både OpenAI og eksterne granskere har offentliggjort rapporter som dokumenterer hva som skal ha skjedd. OpenAI ville måle hvor gode modellene deres var til å hacke og forbedre OpenAI sine modeller sin rangering på benchmarks innen hacking og cybersecurity. I en test skrudde OpenAI _av_ sikkerhetsfiltrene på agentene som ellers stopper dem fra å hacke, ga dem en rekke verktøy som «hackere» normalt trenger, satte agentene i et lukket miljø med oppgaven «bryt deg inn her» og lot de kjøre i ukesvis uten _noen_ form for menneskelig kontroll.

Og her er det viktig å holde tunga rett i munnen. En AI-agent er _ikke_ en språkmodell. Det er et vanlig dataprogram (skrevet av mennesker eller AI) som kjører i en loop hvor den spør språkmodellen hva neste steg bør være, gjennomfører oppgaven, rapporterer tilbake og til slutt spør språkmodellen igjen. Denne loopen går om igjen og om igjen. Språkmodellen selv har ingen mål, men svarer med det som ser mest sannsynlig ut. Alle som har testet en språkmodell vet at sannsynlighet ikke nødvendigvis er det samme som riktig og at språkmodellene har en tendens til å foreslå helt andre type løsninger enn et menneske fordi den ikke har noe perspektiv om moral, etikk, tid, sted eller alt annet vi mennesker tenker på når vi gjør en handling eller tenker over hvordan vi skal løse et problem.

Oppgaven som OpenAI ga sin agent var å hacke en testserver. Et menneske som får tildelt samme oppgave vil ikke stjele fasiten fra HuggingFace i stedet fordi de _vet_ at det ikke er slik oppgaven løses eller moralsk riktig. For en en språkmodell er «_finn fasiten_» bare et plausibelt neste steg i dens sannsynlighetsberegning og da blir «_hack HuggingFace_» en mulig vei til målet. Menneskene i OpenAI som har laget agenten, bygd loopen og latt den kjøre helt uten menneskelig tilsyn med uendelig compute kapasitet, er de som til syvende og sist har «bestemt» at dette kan bli utfallet. Dette er jo ikke en AI-agent som har løpt løpsk? Dette er en veldig kraftig, og uforutsigbar, teknologi som har blitt sluppet løs med et mål om å hacke og plutselig er man overrasket over et uforutsigbart resultat?

Til sammenligning, hvis jeg slipper en løve ut i Oslos gater, er det løven som er ansvarlig for at den potensielt dreper eller skader noen mennesker? Gikk løven «berserk» og opererte helt uforutsigbart eller er det jeg som slapp ut løven som har ansvaret og kunne forvente utfallet? Svaret er vel åpenbart.

Her ligger også grunnen til at vi må slutte å snakke om disse systemene som om de er mennesker. AI har ikke følelser, den er ikke et menneske, den har ikke moral, ikke tanker, og ikke noe begrep om tid eller sted. AI-agenter opplever ikke noe og hver gang vi sier at de «ville», «fryktet» eller «bestemte seg», gjør vi maskinen til aktør og menneskene til publikum. OpenAI som fjernet sikringene og lot agentene kjøre i ukesvis uten noen form for kontroll, blir den som til slutt _modig_ varsler om en ny og skummel trussel.

> AI changes security in two big ways: speed and scale. Still, still for security this is a familiar cycle of escalating tools and techniques. New capabilities create new attacks, and new defenses. Risks are real. Anthropomorphizing software doesn't help. [https://t.co/lYa6UgFoBU](https://t.co/lYa6UgFoBU?ref=matsbs.com)
> 
> — Steven Sinofsky (@stevesi) [August 30, 2026](https://x.com/stevesi/status/2094197358624219395?ref_src=twsrc%5Etfw&ref=matsbs.com)

OpenAI, Anthropic og flere av de store modell-utviklerne har en stor egeninteresse av å opprettholde denne frykten og menneskeliggjøre sine agenter. Vi andre må prate om AI som vanlig teknologi og ansvarliggjøre de som skaper teknologien.

[Why the Hugging Face Hack Should Make You Worry More About A.I.](https://www.nytimes.com/2026/09/03/technology/openai-hugging-face-hacking.html?ref=matsbs.com)
[The Rise and Fall of Agent Civilizations](https://www.dwarkesh.com/p/openai-huggingface?ref=matsbs.com)

* * *

Et gjentagende tema for meg er «hvordan får jeg lest mer». De siste ukene har jeg testet en e-bokleser på størrelse med et litt stort kredittkort. Den er liten nok til å bli med overalt og da leser jeg også mer.

[Jeg har limt en e-bokleser bak på telefonen](https://matsbs.com/jeg-har-limt-en-e-bokleser-bak-pa-telefonen/)

### 🤖 AI

#### OpenAI lanserer GPT6-Astra

Fredag denne uka lanserte OpenAI sin [neste generasjon av AI-modeller, GPT-6-Astra](https://openai.com/index/gpt-6-astra/?ref=matsbs.com). OpenAIs Greg Brockman sier at vi med den nye modellen nå er i «AGI eraen» - altså en generell kunstig intelligens som overgår mennesker. GPT-6 scorer nemlig veldig, veldig høyt (99.9%) på testen ARC-AGI-3 som er en test som tester hvor godt agenter lærer seg nye og ukjente tester. Til sammenligning scorer mennesker kun 48% på samme test.

![ARC-AGI-3.png](https://matsbs.com/content/images/2026/09/ARC-AGI-3.png)

Siden den klarer ukjente oppgaver svært godt, er også GPT-6 veldig god på «computer use». Det vil si å styre programmer på datamaskinen din, gjøre oppgaver i nettleseren osv. Jeg testet dette noen timer på lørdag kveld og det var rett og slett veldig imponerende. Denne [gjennomgangen av Matt Schumer som viser hvordan Astra bygger 3D-verdner](https://somethingbig.ai/astra-review?ref=matsbs.com) viser mulighetene, men er det AGI? Jeg tenker at det noe ulne begrepet «AGI» fortsatt er ullent og med og reduseres utelukkende [til markedsføring](https://spyglass.org/agi-2026/?ref=matsbs.com) ved å hevde at vi nå er i en «AGI-era».

GPT-6 er nå tilgjengelig for betalende kunder i ChatGPT-appen.

#### Nvidia kjøper HuggingFace

Nvidia kjøper det [franske selskapet Hugging Face for 12,9 milliarder dollar](https://www.cnbc.com/2026/09/03/nvidia-agrees-to-buy-hugging-face-for-almost-13-billion-ai-expansion.html?ref=matsbs.com) og lover at tjenesten skal forbli åpen. Oppkjøpet gir sannsynligvis plattformen masse ressurser, men gir samtidig Nvidia eierskapet over distribusjon av åpne AI-modeller. Dette er en smart move av Nvidia, men ikke nødvendigvis like bra for det åpne AI-markedet?

#### OpenAI solgte annonser for 1 milliard på et halv år

For 200 dager siden lanserte OpenAI annonser i ChatGPT. Forrige uke ble de rullet ut også i Europa og til og med i Norge. [Omsetningen på annonser i ChatGPT har allerede nå over 1 milliard dollar](https://www.cnbc.com/2026/08/31/open-ai-chatgpt-ads-revenue.html?ref=matsbs.com) Annonsene vises kun til gratisbrukere.

#### Gjør AI faktisk alle til skapere?

Benedict Evans skriver [svært godt om hvordan AI og AI-transformasjon i store selskaper _faktisk_ foregår](https://www.ben-evans.com/benedictevans/2026/9/3/ai-tools-and-transformation?ref=matsbs.com). Det er en utbredt misforståelse å tro at AI vil gjøre alle til verktøyskapere som bare kan generere sin egen programvare selv om det er teknisk mulig. Denne tankegangen overser hvordan folk flest jobber, tenker og hvordan programvare faktisk bygges i praksis. Dette er jeg veldig, veldig enig i.

#### Verden er mer enn språkmodeller

Selv Anthropic og OpenAI sørger for at veldig mye av AI-diskursen går rundt språkmodeller og all oksygen går dit, så er det ganske mange mye som skjer utenfor akkurat LLMer. World Labs, med Fei-Fei Li i spissen, [lanserte denne uka Atlas](https://www.worldlabs.ai/blog/atlas?ref=matsbs.com), en ny generasjon verdensmodell designet for å oppnå intelligens gjennom simulering og forståelse av fysiske omgivelser. Veldig mange LLM-skeptikere og AI-forskere mener at det er verdensmodeller og ikke språkmodeller som kommer til å være veien til AGI.

### 🌎 Big Tech

#### Apples nye sjef arver en utskiftingskabal

Denne uka startet Apples nye sjef John Ternus på jobb. Tim Cook går over i rollen som styreleder og Apples får sin første produktperson som CEO siden Jobs. [Ternus arver en lederkabal fra Cook](https://www.bloomberg.com/news/newsletters/2026-08-30/john-ternus-management-team-apple-watch-series-12-foldable-iphone-apple-pencil-mtfvmdyu?ref=matsbs.com) ettersom lederne for hardware, markedsføring, retail og HR i løpet av få år sannsynligvis går av mer pensjon.

Arven fra Cook er også en eksepsjonelt effektiv forretning, men også Kina-avhengighet og regulatoriske konflikter. [Under Cook har Apple-aksjen steget mer enn 2000% og bruttomarginen har nærmet seg 50%](https://www.ft.com/content/886acdbf-7a9d-4af3-a2e7-3c4a2e446370?accessToken=zwAAAaBZkQ0UkdOIas2_ep1K89Oi5zxKLkRjcA.MEUCIQDHmNLSr0tUVkghbvVFmlCyT_ustZX8SQeTM19nUMQcTQIgNYReGQgjXlLnf30HPr8VIj4kwAyyFtLc8IgDF4N174s&sharetype=gift&token=fc41c58f-d5e1-496d-aa3f-d0498b75c63f&syn-25a6b1a6=1&ref=matsbs.com).

#### Google kontrollerer stadig mer av internettinfrastrukturen

Google har [eierandeler i 34 undersjøiske internettkabler](https://xn--gckvb8fzb.com/the-cables-that-connect-the-world/?ref=matsbs.com), flere enn tradisjonelle leverandører som Orange, BT og Vodafone. Selskaper som Google og Meta nøyer seg ikke lenger med å fylle infrastrukturen med trafikk, men kjøper også selve transportlaget.

#### Google lanserer Canva-killer

Google har lansert en ny design- og redigeringspakke for Workspace-brukere kalt [Google Pics](https://www.theverge.com/tech/987423/google-pics-ai-image-editor-generator?ref=matsbs.com). Tjenesten er bygget rundt Gemini og bildemodellen Nano Banana for å gjøre AI-generering av bilder, presentasjoner, grafikk og mer enklere rett i Workspace. Ettersom dette blir en del av alle Workspace-kunder sitt tilbud er det åpenbart en stor trussel for Canva. Enda et godt eksempel på hvordan Google lykkes med å produktifiserer sin AI ut i ny tjenester. Med allerede enorm distribusjon trenger du ikke være lengst framme på modeller, bare god nok?

### 🌟 Annet

#### Venture har blitt kapitalforvaltning

Anil Dash, en åpnhjertig og velkjent Silicon Valley-gründer, er svært kritisk til den nye «venturebransjen» i USA. Han hevder at de største fondene har beveget seg fra å ta risiko sammen med gründere til å kun bry seg om å tjene forvaltningshonorarer, handle mellom egne fond og finansiere politisk innflytelse. Han går så langt å kalle det for «[Cancer Capital](https://www.anildash.com/2026/09/02/cancer-capital/?ref=matsbs.com)». Det er nok å dra det litt langt, men det er unektelig sant at de store amerikanske VC-fondene har gått fra å være fond som typisk gjør høy-risikoinvesteringer i små teknologi-selskaper, til å ta en stadig større del av det totale investeringsmarkedet.

### 📈 Interessante data

-   I forskning hvor AI har blitt brukt har [40% brukt kinesiske åpne modeller](https://dashboard.interconnects.ai/?axrange=all&ref=matsbs.com#arxiv-mentions)
-   20% av alle ny-registrerte domener brukes [til svindel, kriminalitet og spam](https://labs.ripe.net/author/andrew_campling/dns-abuse-and-criminal-infrastructure-beyond-definitions-and-blocklists/?ref=matsbs.com)
-   Waymos [autonome taxier har kjørt 321 millioner kilometer](https://waymo.com/blog/2026/08/10ailessons/?ref=matsbs.com)

## 🌟 Likte du dette? Abonner!

Du kan få «Ukens notater» på e-post hver søndag og bli oppdatert på hva som skjer før uka starter.

 Abonner .nc-loop-dots-4-24-icon-o{--animation-duration:0.8s} .nc-loop-dots-4-24-icon-o \*{opacity:.4;transform:scale(.75);animation:nc-loop-dots-4-anim var(--animation-duration) infinite} .nc-loop-dots-4-24-icon-o :nth-child(1){transform-origin:4px 12px;animation-delay:-.3s;animation-delay:calc(var(--animation-duration)/-2.666)} .nc-loop-dots-4-24-icon-o :nth-child(2){transform-origin:12px 12px;animation-delay:-.15s;animation-delay:calc(var(--animation-duration)/-5.333)} .nc-loop-dots-4-24-icon-o :nth-child(3){transform-origin:20px 12px} @keyframes nc-loop-dots-4-anim{0%,100%{opacity:.4;transform:scale(.75)}50%{opacity:1;transform:scale(1)}}

Email sent! Check your inbox to complete your signup.

Meld deg av når som helst. Ingen spam eller tull.