---
title: "Ukens notater #53: Er AI farlig?"
slug: "ukens-notater-53"
description: "\nYoshua Bengio er en av AIens «gudfedre», blant verdens mest siterte forskere og denne uka besøkte han Norge. På en scene på Universitet i Oslo var salen delt mellom håp og dommedag. En professor i Bergen ville helst forby teknologien fullstendig. Regjeringen ville helst rulle den ut i alle etater. Midt i dette sto Bengio og forsøkte å tegne opp en vei som ikke er styrt av frykt eller hype, men av nøktern risikovurdering og AI som en helt vanlig teknologi.\n\nHvor farlig er egentlig AI er et spørs"
author: "Mats Staugaard"
lang: "no"
date: "2025-11-16"
published_at: "2025-11-16T11:03:01.000+01:00"
updated_at: "2025-11-16T11:03:01.000+01:00"
feature_image: "https://images.unsplash.com/photo-1615188753786-564107f5dcd7?crop=entropy&cs=tinysrgb&fit=max&fm=jpg&ixid=M3wxMTc3M3wwfDF8c2VhcmNofDMwfHx0ZXJtaW5hdG9yfGVufDB8fHx8MTc2MzEzNTEzNHww&ixlib=rb-4.1.0&q=80&w=2000"
tags: ["notater"]
canonical_url: "https://matsbs.com/ukens-notater-53/"
---

  
Yoshua Bengio er en av AIens «gudfedre», blant verdens mest siterte forskere og denne uka besøkte han Norge. På en scene på Universitet i Oslo var salen delt mellom håp og dommedag. En professor i Bergen ville helst forby teknologien fullstendig. Regjeringen ville helst rulle den ut i alle etater. Midt i dette sto Bengio og forsøkte å tegne opp en vei som ikke er styrt av frykt eller hype, men av nøktern risikovurdering og AI som en helt vanlig teknologi.  
  
Hvor farlig er egentlig AI er et spørsmål jeg har fått av mange og et spørsmål jeg også stiller meg selv. Dette spørsmålet har kvernet i mitt eget hode lenge og jeg har virkelig slitt med å forstå hvordan dommedagsprofetiene har fått så stort fotfeste som de har fått. Snakker man om AI trekkes det veldig raskt analogier mot Terminator-filmene (en av mine barndomsfavoritter!), Skynet og roboter som kommer for å utrydde menneskeheten. En av årsakene er kanskje det famøse oppropet om å [sette all AI-utvikling på pause i 6 måneder](https://futureoflife.org/open-letter/pause-giant-ai-experiments/?ref=matsbs.com) som ble signert av et stort antall AI-forskere, teknologer og ledere i 2023. Elon Musk var en av de som signerte og ledet an oppropet. I dag er han all-in på AI og hans xAI er en av de ledende AI-modellene. Handlet det egentlig om regulering for å redusere hastigheten til konkurrentene?  
  
En annen som har fyrt opp under «doomer»-narrativet er Eliezer Yudkowsky. Hans nylig utgitte bok «[If Anyone Builds It, Everyone Dies](https://www.amazon.com/Anyone-Builds-Everyone-Dies-Superhuman/dp/0316595640?ref=matsbs.com)» som jeg omtalte i «[Ukens notater #44](https://matsbs.com/ukens-notater-44/)» har helt bensin på bålet. Eliezer mener i fullt alvor at superintelligens vil utslette oss innen få år. Ikke fordi en superintelligent AI er ond, men fordi vi mennesker er irrelevante oppe i det hele. Elizer sitt narrativ er åpenbart skremmende og det selger. Det høres også vitenskapelig ut, men det er i praksis spekulativ filosofi kledd i teknisk terminologi.  
  
I podcasten «Deep Questions» av Cal Newport (forfatteren bak glimrende bøker som [Digital Minimalism](https://www.amazon.com/gp/product/0525536515/ref=as_li_qf_asin_il_tl?ie=UTF8&tag=stuhac-20&creative=9325&linkCode=as2&creativeASIN=0525536515&linkId=df480f3d3d20e5615f22defc9bea667c&ref=matsbs.com) og [Deep work](https://www.amazon.com/Deep-Work-Focused-Success-Distracted-ebook/dp/B00X47ZVXM?ref_=ast_author_mpb&ref=matsbs.com)) bruker han episoden «[The Case Against Superintelligence](https://podcasts.apple.com/no/podcast/deep-questions-with-cal-newport/id1515786216?l=nb&i=1000735022877&ref=matsbs.com)» på å plukke argumentene til Eliezer og «doomer»-narrativet fra hverandre (Takk til [Thomas](https://www.linkedin.com/in/sosialethomas/?ref=matsbs.com) for tips). Cals konklusjon er ganske enkel. Dagens modeller er verken intelligente eller handlende. De er statistiske systemer som gjetter neste ord basert på mønstre i treningsdata. Punktum. Når de settes inn i agentsystemer som kan handle, er det mennesker som definerer handlingene. Det finnes ingen vilje, ingen mål, ingen agenda. De mest dramatiske eksemplene som Eliezer trekker frem er i realiteten mønstergjenkjenning. Språkmodellen har sett lignende scenarier i treningsdata, og fullfører historien slik statistikken tilsier. Det ser ut som atferd, men det er bare tekst og statistikk. En av årets mest [siterte AI-forskningsrapporter bekrefter dette og sammenligner](https://machinelearning.apple.com/research/illusion-of-thinking?ref=matsbs.com) de resonnerende AI-modellene med personer med overdreven selvtillit:

> _The AI reasoning models fail mirrors how overconfident individuals often struggle with genuinely challenging problems. Both represent sophisticated forms of intellectual imposture that can persist precisely because they're so convincing on the surface_

Vi må med andre ord begynne å prate om AI som vanlig teknologi. Vi må slutte å behandle AI som noe mystisk, grenseløst, uforståelig og antrepomorfismere teknologien. Det er akkurat det Arvind Narayanan og Sayash Kapoor argumenterer for i deres 15,000 ord lange «[AI as Normal Technology](https://www.normaltech.ai/p/ai-as-normal-technology?ref=matsbs.com)» Historien viser at ny teknologi som regel blir fremstilt som både mirakuløs og farlig, men når vi analyserer den nøkternt (som teknologi) mister den mye mystikken. Når vi normaliserer AI som teknologi, blir debatten bedre fordi risikoene blir konkrete og håndterbare.

Det er akkurat her jeg selv lander. Jeg mener store deler av AI-debatten har blitt forurenset av hype og begge sider av debatten blåser opp teknologien til å være noe mer enn den er. Dagens modeller er ikke intelligente vesener, men de er veldig, veldig kraftfulle verktøy.

AI er farlig på akkurat samme måte som alle andre kraftige teknologier og verktøy er farlige. Dynamitt, elektrisitet, internett, atomkraft, bioteknologi er alle farlige teknologier i feil hender. Ingen av dem bar intensjon om å være farlige, men alle har forandret verden og skapt nye former for risiko. Noen av dem har vi fortsatt ikke kontroll på, men det er ikke teknologien som skaper faren. Det er mennesker som bruker teknologien.

Det betyr at trusselen ikke er superintelligens eller bevisste maskiner. Trusselen er eksponentielle verktøy i hendene på mennesker som vil noe. Dette ble også eksemplifert denne uka av [Anthropic som beskriver hvordan en kinesisk statlig aktør utnyttet Claude](https://www.anthropic.com/news/disrupting-AI-espionage?ref=matsbs.com) og agentiske AI-verktøy til å gjennomføre cyberspionasjekampanje. AI både muliggjorde raskere og mer omfattende angrep enn hva som var mulig tidligere. Dette krever robust regulering åpenhet og institusjoner som forstår hva de faktisk gjør og ikke handler på impuls eller den siste spekulative narrative som trender.  
  
Vi må behandle AI som en normal teknologi med unormalt stor påvirkning.

[Verdens mest anerkjente KI-professor er redd for KI. - Men nå tror jeg at jeg har en løsning.](https://www.aftenposten.no/norge/i/wgyJe4/ki-professor-yoshua-bengio-med-ny-teknologi-for-trygg-kunstig-intelligens?ref=matsbs.com)
[AI as Normal Technology](https://www.normaltech.ai/p/ai-as-normal-technology?ref=matsbs.com)
[Ep. 377: The Case Against Superintelligence](https://podcasts.apple.com/no/podcast/deep-questions-with-cal-newport/id1515786216?l=nb&i=1000735022877&ref=matsbs.com)

Denne uka har jeg også vært gjest på Danske Bank sin podcast «[Danske Bænkers](https://danskebank.no/bedrift/produkter-og-tjenester/raadgivning/investeringer/podcast?ref=matsbs.com)» hvor temaet var teknologi, AI og hvordan vi skal bevege oss fra hype til hverdagsbruk 👇🏻

[AI – fra hype til hverdagsbruk](https://podcasts.apple.com/no/podcast/danske-b%C3%A6nkers/id1377633097?l=nb&i=1000736509294&ref=matsbs.com)

### 🤖 AI

#### OpenAI lanserer GPT 5.1

OpenAI lanserte denne uka GPT-5.1 med to modeller, Instant og Thinking, som ifølge OpenAI skal gi mer vennlige svar, følge dine instruksjoner bedre og adaptiv resonnering. OpenAI [viser selv fram noen eksempler på hvordan 5.1 svarer annerledes enn 5](https://openai.com/index/gpt-5-1/?ref=matsbs.com) og i mine øyne er dette en regresjon.  
  
5.1 er åpenbart mer «vennlig» og svarer vesentlig mer personlig på spørsmålet «_I'm feeling stressed and could use some relaxation tips_». Jeg er ikke interessert i at svaret skal starte med «_I’ve got you, Ron — that’s totally normal, especially with everything you’ve got going on lately»._ Jeg vil ha et nøkternt svar fra en datamaskin, ikke et antropomorfistisk svar hvor datamaskinen later som den forstår meg.

#### Anthropic blir lønnsomme før OpenAI

[Anthropic ser ut til å nå lønnsomhet langt raskere enn OpenAI](https://www.wsj.com/tech/ai/openai-anthropic-profitability-e9f5bcd6?st=BpeqWE&reflink=desktopwebshare_permalink&ref=matsbs.com) ved å fokusere på bedriftskunder og unngå de mest kostbare satsingene som bilde- og videogenerering. OpenAI jager derimot massiv skala med enorme investeringer i datasentre, høy burn og tynnere marginer, i håp om at etterspørselen og nye produkter vil betale seg på lengre sikt. Men hvis modellene egentlig ikke har noe moat, er det ikke infrastrukturen som egentlig kommer til å være avgjørende?

#### Google DeepMind viser fram SIMA2

[Google DeepMind viste denne uka fram SIMA 2](https://deepmind.google/blog/sima-2-an-agent-that-plays-reasons-and-learns-with-you-in-virtual-3d-worlds/?ref=matsbs.com) som er en AI-agent som spiller i 3D-spill helt av seg selv. Den følger ikke bare instruksjoner i 3D-spillverdener, men greier også å resonnerer om mål, samarbeider i samtale og forbedrer seg selv gjennom egen erfaring på tvers av spill. Det interessante her er ikke at agenten kan spille et spill, men at disse spillene ligner veldig på den virkelige verden og åpenbart er det en robot trenger til å kunne løse oppgaver. Fortsatt tidlig, men veldig spennende!

#### Språkmodeller er verdiløse om 5 år skal vi tro Yann LeCun

Yann LeCun, en av AI-gudfedrene, mener [dagens store språkmodeller vil være utdaterte innen fem år](https://www.newsweek.com/nw-ai/ai-impact-interview-yann-lecun-artificial-intelligence-2054237?ref=matsbs.com) og argumenterer for at fremtidens AI må bygge verdensmodeller som kan forstå, forutsi og planlegge. Han avviser også de eksistensielle truslene fra AI-doomers. Ryktet tilsier også at han har sagt opp i Meta. Wall Street Journal har også en [glimrende profil av LeCun](https://www.wsj.com/tech/ai/yann-lecun-ai-meta-0058b13c?st=JMU7Q1&reflink=article_copyURL_share&ref=matsbs.com).

#### ElevenLabs får Matthew McConaughey og en haug med andre kjendiser på laget

Matthew McConaughey, Michael Caine og mange andre [kjendiser har inngått avtaler med ElevenLabs](https://variety.com/2025/digital/news/matthew-mcconaughey-michael-caine-ai-voice-elevenlabs-1236574041/?ref=matsbs.com) for å lage AI-genererte versjoner av stemmene sine. McConaughey investerer også i selskapet. Kjendisene blir en del av ElevenLabs nye _Iconic Voice Marketplace_, som tilbyr etisk lisensiering av kjente stemmer. Eieren av stemmen sitter fortsatt med kontrollen på hvor de ønsker stemmen brukt.

#### GPUer som pant

Datasenter-selskaper som CoreWeave og Nebius vokser raskt ved å låne store summer for å kjøpe Nvidia-GPUer og så bruker de selve maskinvaren som pant for å få lånet hos bankene. Denne modellen kan dog bli veldig sårbar hvis GPUene raskt taper seg i verdi. [Kan en nedskrivnings-tsunami velte hele AI-regnestykket?](https://arpu.hedder.com/gpus-as-collateral/?ref=matsbs.com)

#### Google følger Apple med privat sky

Google lanserer denne uka [Private AI Compute](https://www.theverge.com/news/818364/google-private-ai-compute?ref=matsbs.com). En ny sky som skal levere AI-compute samtidig som persondata holdes private, helt lik Apples Private Cloud Compute. Hvis Google skal benytte seg av avansert AI på sine klokker, telefoner og sende alt fra private bilder og helseopplysninger til skyen for behandling, må de bygge teknologi hvor folk stoler på at dette ikke brukes til det Google tjener pengene sine på. Markedsføring.  
  

### 🌎 Big Tech  

#### Apple gjør endringer i App Store

Denne uka lanserte Apple «[Mini Apps Partner Program](https://techcrunch.com/2025/11/13/apple-halves-commissions-for-mini-app-makers/?ref=matsbs.com)», som halverer provisjonen til 15% for kjøp i «miniapper» som Apple definerer som selvstendige, webbaserte opplevelser inne i en større, native app. Så lenge de bruker Apples betalingsløsning og støtter Apples APIer så skal utviklere få selge slike apps med vesentlig lavere andel til Apple. Hvem er det som akkurat har lansert «miniapper» inne i en app? [OpenAI](https://matsbs.com/ukens-notater-48/).  
  
I tillegg til denne endringen, gjorde de også mindre justeringer i [sine retningslinjer for app-utviklere](https://developer.apple.com/news/?id=ey6d8onl&ref=matsbs.com). Hvis du nå skal bruke eksterne AI-leverandører og sende persondata ditt, må du tydelig gi sluttbrukeren beskjed. Gjett når du slipper? Hvis du bruker [Apples on-device AI hvor dataen aldri forlater telefonen](https://matsbs.com/ukens-notater-52/).

#### EU prøver å kaste ut Huawei og ZTE

[EU vurderer å gjøre tidligere anbefalinger om å fase ut Huawei og ZTE](https://www.bloomberg.com/news/articles/2025-11-10/eu-eyes-banning-huawei-from-mobile-networks-of-member-countries?embedded-checkout=true&ref=matsbs.com) fra EU-landenes mobilinfrastruktur rettslig bindende med mulige sanksjoner for land som ikke følger opp. Fascinerende nok var EU ganske lunkne til dette frem til nylig.

### 🔎 Small Tech  

#### Regjeringen pauser sårt trengt techvisum

[Regjeringen har satt techvisum på vent til etter 2026](https://www.shifter.no/nyheter/regjeringen-trykker-pa-pauseknappen-for-techvisum/437322?ref=matsbs.com), til tross for at Stortinget ba om en ordning senest innen statsbudsjettet for 2026. Dette er for meg helt uforståelig. Exit-skatten har gjort det vanskelig å tiltrekke seg talent til startups og vi trenger ikke fler kjepper i hjulene akkurat nå. Talenter må alltid være velkommen til Norge.

### 🌟 Annet  

#### VISA piloterer stablecoins

_Gradually, then suddenly_ er det noe som heter og det er akkurat den følelsen jeg sitter med hva gjelder krypto- og stablecoins. Stadig fler tradisjonelle finansielle aktører beveger seg nå mot stablecoins. [Visa tester nå ut utbetalinger i stablecoin direkte til folks kryptolommebøker](https://www.bloomberg.com/news/articles/2025-11-12/visa-tests-usdc-stablecoin-payouts-targeting-global-gig-workers-influencers?embedded-checkout=true&ref=matsbs.com), med sikte på raskere og mye, mye billigere globale utbetalinger.

#### Tim Berners-Lee er fortsatt optimistisk til internett

Tim Berners-Lee fant opp HTML og det vi definerer som dagens internett. [Nilay Patel intervjuer Tim om hvorfor han fortsatt er optimistisk til nettet](https://www.theverge.com/podcast/814552/tim-berners-lee-world-wide-web-ai-future-interview?ref=matsbs.com), selv om makt har konsentrert seg i lukkede plattformer, og hvordan åpenhet, standarder og desentralisering kan gi brukerne tilbake digital suverenitet. Viktig og bra intervju!

#### Kinesiske elbiler tar raskt markedsandeler

Europeiske bilprodusenter mister raskt markedsandeler globalt mens kinesiske merker som BYD, Chery og SAIC ekspanderer og ventes å nå rundt 30 % global markedsandel innen 2030. [Norske Wallenius Wilhelmsen rapporterer om massiv vekst i bilfrakt](https://www.ft.com/content/c84b947b-cf71-4699-a336-a80045923613?ref=matsbs.com) ut av Kina og skifter fokus mot å hjelpe nye kinesiske merker med internasjonal ekspansjon, selv om USA og EU strammer inn med høyere tollsatser. Hvordan Europeiske bilprodusenter havnet her kommer til å bli studert lenge tror jeg.  

### 📈 Interessante data  

-   Sony har [solgt 84.2 millioner Playstation 5](https://www.engadget.com/gaming/playstation/sony-has-sold-842-million-playstation-5s-since-launch-123004469.html?ref=matsbs.com) siden lansering
-   I EU har Apple blitt tvunget til å vise et «nettleservalg» vindu på iOS som har resultert i at [Opera rapporterer om 5x vekst](https://investor.opera.com/news-releases/news-release-details/ios-users-benefit-browser-alternatives-opera-reports-5x-growth?ref=matsbs.com). Dette valget må Apple vise på grunn av Digital Markets Act (DMA), men gjelder foreløpig ikke i Norge.

![](https://matsbs.com/content/images/2025/11/default-browser-dma.jpg.webp)

## 🌟 Likte du dette? Abonner!

Du kan få «Ukens notater» på e-post hver søndag og bli oppdatert på hva som skjer før uka starter.

 Abonner .nc-loop-dots-4-24-icon-o{--animation-duration:0.8s} .nc-loop-dots-4-24-icon-o \*{opacity:.4;transform:scale(.75);animation:nc-loop-dots-4-anim var(--animation-duration) infinite} .nc-loop-dots-4-24-icon-o :nth-child(1){transform-origin:4px 12px;animation-delay:-.3s;animation-delay:calc(var(--animation-duration)/-2.666)} .nc-loop-dots-4-24-icon-o :nth-child(2){transform-origin:12px 12px;animation-delay:-.15s;animation-delay:calc(var(--animation-duration)/-5.333)} .nc-loop-dots-4-24-icon-o :nth-child(3){transform-origin:20px 12px} @keyframes nc-loop-dots-4-anim{0%,100%{opacity:.4;transform:scale(.75)}50%{opacity:1;transform:scale(1)}}

Email sent! Check your inbox to complete your signup.

Meld deg av når som helst. Ingen spam eller tull.