The AI Puppet Dance

Einar Waaler Høst (Norkart) · JavaZone 2026, Room 1 Programsiden på JavaZone

Den mest filosofiske og mest kompromissløst kritiske talken på denne siten så langt. Der de andre foredragene diskuterer hvordan organisasjoner bør adoptere KI, stiller Einar et mer grunnleggende spørsmål: møter vi kunstig intelligens med vår egen intelligens skrudd på, eller av? Talken er strukturert som et angrep på hvordan vi snakker om KI – narrativene, metaforene og de ubesvarte spørsmålene som gjør at diskusjonen sjelden blir presis nok til å være nyttig.

"Idiotspørsmål" må forkastes før vi kan tenke klart

Einar bruker filosofen Lars Svendsens skille mellom dumhet (mangel på kunnskap) og idioti (dårlig tenkning), og hevder at mesteparten av den offentlige KI-debatten består av idiotspørsmål – spørsmål som høres ut som meningsfulle posisjoner, men som kollapser et sammensatt tema til ett bit informasjon.

▶ Se dette i opptaket

"Er du for eller mot KI?" er et idiotspørsmål – like meningsløst som å spørre om noen er for eller mot teknologi, fordi "KI" dekker 60+ års forskning, ikke bare dagens generative bølge. "Er KI hype?" er det også: noe kan være vilt overhypet og nyttig i konteksten det faktisk passer. Selv "kan vi lage en maskin som er smartere enn mennesker?" er et idiotspørsmål, fordi intelligens er en abstraksjon – ikke en egenskap du kan måle som en fysisk størrelse – og sammenligningen låner en rikdom av mening fra menneske-til-menneske-sammenligninger som ikke overfører til maskiner. Et bedre spørsmål: hvilke oppgaver mennesker i dag løser med sin intelligens, kunne i prinsippet vært løst raskere, billigere eller bedre av en maskin?

Narrativene forsterker hverandre til et bilde av at alt er uunngåelig

Hoveddelen av talken dissekerer en rekke tilbakevendende fortellinger som former hvordan vi handler – ikke fordi de er sanne, men fordi de er effektive:

• Revolusjonsnarrativet – "KI endrer alt". Einar ber deg gå ut og se på havet: det meste rundt deg er upåvirket. Det mer presise, men mindre slagkraftige, er at KI kan endre noen ting innenfor visse domener.
• Tognarrativet – "toget går fra stasjonen", som spiller på frykten for å bli hengende etter. Einar påpeker ironien: det er aldri Titanic som letter anker. Metaforen finnes for å skape hastverk, ikke for å beskrive virkeligheten.

▶ Se dette i opptaket

• Tro-på-neste-versjon – dagens problemer løses i neste modell. Men selvkjørende biler har vært "et par år unna" i over et tiår.
• Ekstrapolasjonsnarrativet – troen på at fremgangen vil fortsette lineært eller eksponentielt, når de fleste teknologier faktisk flater ut etter en innledende rask fase.
• Geni-narrativet – "de som bygger dette er for smarte til å ta feil". Historien er full av smarte idioter: Alan Turing trodde på telepati, Newton var alkymist.
• AGI-er-nært-forestående – en påstand fremstilt som aksiomatisk sannhet av både optimister og pessimister, fordi den skaper en selvforsterkende sløyfe: jo mer imponerende dagens verktøy virker, jo mer trolig virker AGI, og jo mer trolig AGI virker, jo mer imponerende må fremgangen være.

▶ Se dette i opptaket

• Singularitetsnarrativet – Ray Kurzweils idé om at en maskin smartere enn oss kan lage en enda smartere maskin, i uendelig rekursjon. Bygger på samme feilslutning: at intelligens er en essens, ikke en abstraksjon.

flowchart LR
    A["Generative KI-verktøy<br/>virker imponerende i dag"] --> B["Styrker troen på at<br/>AGI er nært forestående"]
    B --> C["Rettferdiggjør uendelig<br/>avkastning (singularitet)"]
    C --> D["Rettferdiggjør enhver<br/>investering, uansett tall"]
    B -.forsterker.-> A

Poenget er ikke at disse narrativene er isolerte overdrivelser – de forsterker hverandre og maler et bilde av uunngåelighet, presentert som observasjon når det egentlig er markedsføring. Et bedre utgangspunkt er Neil Postmans syv spørsmål om ny teknologi: hvilket problem løser den, hvem sitt problem er det, hvilke nye problemer skaper den, hvem rammes/tjener mest, og hvilke makteforskyvninger følger?

Sølvkulen har en definisjon – og den holder foreløpig ikke

Fred Brooks' 1986-essay "No Silver Bullet" definerer en sølvkule som en størrelsesorden bedre – i produktivitet, pålitelighet og enkelhet.

▶ Se dette i opptaket

Hvis programvareutvikling var å frakte murstein, ville en 10x produktivitetsøkning vært et rent gode. Men programvare har mange "illities" – sikkerhet, vedlikeholdbarhet, testbarhet – og flaskehalsteorien tilsier at total gevinst begrenses av den svakeste lenken. En 10x økning i produktivitet monner lite hvis de andre egenskapene ikke følger med. Resultatet kan bli det Einar kaller en "sølv-bumerang": det som så ut som en sølvkule, kommer tilbake og treffer deg selv. Han trekker også frem at anekdoter om individuell produktivitet ("levd erfaring", verdt å lytte til) og ledere som venter forgjeves på ROI, kan begge være sanne samtidig – fordi systemet du bygger for, er alltid større enn du tror, og til syvende og sist må virke i en verden med ekte konsekvenser.

"Sand i smørbrødet", og hvorfor «menneske i loopen» ikke holder vann

Hallusinasjon er, som Einar formulerer det, bare navnet vi gir output vi ikke liker – en uunngåelig konsekvens av arkitekturen, ikke en feil som lar seg fjerne helt. Metaforen han bruker: du har alltid litt sand i smørbrødet. Løsningen er ikke å late som sanden er borte, men å velge oppgaver der litt sand er akseptabelt – og innse at i noen sammenhenger (automatisk genererte undertekster, for eksempel) blir "litt sand" den nye normalen, uten at noen protesterer.

▶ Se dette i opptaket

Her lander talken sitt skarpeste angrep: "menneske i loopen" er, ifølge Einar, en avledningsmanøver – ikke en reell sikkerhetsmekanisme. Mennesker er dårlige til å verifisere arbeid de selv er koblet fra, og løftet om menneskelig kontroll river i to umulige mål samtidig: effektivitet (hele poenget med automatisering) og sikkerhet (som krever at mennesket faktisk bremser prosessen). Han kaller fenomenet "output blindness" – jo mer fornøyd du er med at noe ser ferdig ut, jo dårligere blir du til å se de åpenbare feilene, selv når du aktivt inspiserer. Norsk offentlig sektor har allerede egne eksempler: en KI-generert kampanjeplakat fra en kommune med en halv baby liggende på en tallerken, ukommentert helt til noen andre påpekte det.

▶ Se dette i opptaket

Skader som sjelden telles med

Siste del av talken går gjennom en liste kostnader som normalt faller utenfor ROI-regnestykket: energi- og ressursforbruk i en allerede presset verden, tap av levebrød for alle hvis arbeid kan brukes til å trene en modell til å gjøre det samme arbeidet, overproduksjon (når kostnaden ved å lage noe går mot null, kan output fra én entusiastisk kollega drukne alt annet i støy), og ondsinnet bruk som – i motsetning til godartet bruk – bare trenger å lykkes én gang for å være "verdt det". Løgn er, som han formulerer det, den nye teknologiens "killer application", fordi modellene ikke har noe begrep om sannhet, bare sannsynlighet. Dypfalske videoer av politikere som trekker seg fra valg er allerede en realitet, ikke en fremtidsspekulasjon.

Han avslutter med et skarpt punkt om overvåkingskapitalisme og "enshittification" (Cory Doctorow): tech-selskapenes forretningsmodell er ikke annonser, men å selge innflytelse – og mønsteret (tiltrekk brukere, maksimer verdi for kundene som betaler for innflytelsen, maksimer kortsiktig profitt) har spilt seg ut identisk de siste 20 årene. Å dele stadig mer av livet ditt med disse systemene, uten at du lenger vet hva det brukes til, er ikke lenger uvitenhet – det er et valg.

Nøkkeltakeaways

• Mange av spørsmålene som dominerer KI-debatten er "idiotspørsmål" – de reduserer et sammensatt tema til ett bit informasjon og bør forkastes til fordel for mer presise spørsmål (Neil Postmans syv spørsmål er et godt utgangspunkt).
• KI-narrativer (revolusjon, toget, neste versjon, ekstrapolasjon, geni, AGI-er-nært, singularitet) forsterker hverandre til et selvbekreftende bilde av uunngåelighet – presentert som observasjon, men fungerer som markedsføring.
• Brooks' definisjon av en sølvkule krever en størrelsesorden bedre i produktivitet, pålitelighet og enkelhet samtidig – flaskehalsteorien tilsier at rå kodehastighet alene ikke holder.
• Hallusinasjon er strukturell, ikke en feil som forsvinner – spørsmålet er hvilke oppgaver som tåler "litt sand i smørbrødet".
• "Menneske i loopen" er ofte en avledningsmanøver, ikke en reell sikkerhetsmekanisme – mennesker er dårlige til å verifisere arbeid de er koblet fra, og "output blindness" gjør det verre, ikke bedre, med erfaring.
• Kostnadene som sjelden telles med – energiforbruk, tapt levebrød, overproduksjon, ondsinnet bruk, og forretningsmodellen bak "gratis" KI-tjenester – bør være del av enhver seriøs vurdering av om og hvordan man adopterer KI.