De usette langtidskostnadene med dagens KI

Magnus Elden · JavaZone 2026, Room 6 (lightning talk) Programsiden på JavaZone

Et motstykke til entusiasme-talkene: bransjen vår har en lang historikk av hype-sykluser (dot-com, agile, big data, blockchain, low-code) der man i etterkant fant ut hvor teknologien egentlig hørte hjemme. Magnus argumenterer for at KI skiller seg fra disse tidligere skiftene både i potensial og i omfanget av skade den kan gjøre – og at kostnadene som sjelden diskuteres utenfor akademia, er nettopp de som tar årevis å bli synlige.

Oppfatning stemmer ikke med måling

Talken åpner med GPS som en analog case. En langtidsstudie fant at folk rapporterer at de er blitt bedre til å navigere med GPS – men når man faktisk måler evnen, er den svakere: redusert romlig hukommelse, redusert evne til å kartlegge omgivelser i hodet, og færre observerte detaljer ("du går på autopilot"). Jo mer avhengig du føler deg av verktøyet, jo mer avhengig blir du av å bli veiledet gjennom det, med redusert evne til å lære av egne feil.

▶ Se dette i opptaket

Nyere forskning på erfarne open source-utviklere som bruker KI fant nøyaktig det samme mønsteret: utviklerne rapporterte 20 % økt effektivitet – målt gikk den faktisk ned med rundt 20 %. Og verken før, under eller etter studien la utviklerne selv merke til denne lavere effektiviteten.

Tillit, kritisk tenkning og junior-forvirring

Forskning på tillit til KI fant to uavhengige effekter: jo større tillit til KI, jo mindre kritisk tenkning – men jo større tillit til egen ferdighet, jo mer kritisk tenkning. Konsekvensen er en økende gruppe som ender i en "trekant" av høy KI-tillit: de aksepterer en PR eller sender en e-post uten å sjekke tallene, uten å sjekke detaljene.

For juniorer i bransjen er effekten spesielt forstyrrende. Når de ikke kommer frem til en løsning selv, gir de opp og spør KI-en om svaret direkte – og havner da midt inne i en løsning der beslutningene ble tatt av KI-en, ikke av dem selv. Resultatet blir mikrooptimalisering av noe som er fundamentalt feil fra bunnen av, fordi de aldri var med på de grunnleggende valgene.

Samme mønster finnes i språket vårt: ord som delve, intricate og crucial brukes langt mer av ChatGPT enn av mennesker generelt – og etter eksponering begynner folk å bruke de samme ordene og formuleringene selv. "Monkey see, monkey do."

Kunnskapsgjeld: technical debt for mennesker

Læring skjer i stor grad indirekte – ved å teste, prøve, gå litt rundt, og dermed dekke et større område og få mer kontekst og kontroll på løsningen. Når KI-en hopper rett til svaret, forsvinner mye av denne indirekte læringen. Selv om du leser gjennom en PR du ikke skrev selv, sitter du kanskje igjen med 95 % forståelse i stedet for 100 % – og det gapet baller på seg over tid. Forskerne kaller dette knowledge debt: det samme som technical debt, bare for mennesker.

▶ Se dette i opptaket

Den vanlige antakelsen er at KI bare forsterker læringskurven vår. Det forskningen faktisk antyder er en kurve som topper raskere og deretter flater ut eller synker – fordi den indirekte læringen forsvinner. Håpet er at gapet KI fyller over tid er stort nok til at summen av menneskelig evne pluss KI likevel blir høyere (og billigere) enn det vi ville nådd naturlig som seniorer uansett.

Hva flykter vi til denne gangen?

Under den industrielle revolusjonen gikk vi fra å selge muskelkraft til å tilby tankekraft – og overlevde som samfunn fordi behovet for tankekraft økte i takt med at behovet for muskelkraft falt.

▶ Se dette i opptaket

Spørsmålet Magnus stiller er ubehagelig ubesvart: hva skal vi flykte til denne gangen, når det som automatiseres bort ikke er muskelkraft, men tankekraft selv? Han har ikke noe svar – men mener det er noe organisasjoner og samfunnet må tenke på nå, ikke i etterkant.

Kostnaden er en eksponentiell maskin

Bak brukergrensesnittet ligger en eksponentiell kostnadsmodell som skjuler seg bak det du faktisk ser. Hele historikken i en samtale betales for hver gang – i et forenklet eksempel med 4 runder á 10 tokens inn og 10 ut, betaler du reelt for 360 tokens, ikke 80.

▶ Se dette i opptaket

Og det stopper ikke der – du multipliserer med antall tokens per prompt, antall prompts, antall steg i en iterasjon (hver gang agenten "tenker", "slår opp" eller "vurderer" koster det igjen), antall brukere, antall deployment-pipelines, og antall filer som skannes parallelt. Det er derfor enkelte ender opp med å bruke milliarder av kroner når de "tokenmaxer".

flowchart LR
    A[Tokens per prompt] --> F[Total kostnad]
    B[Antall prompts] --> F
    C["Steg per iterasjon<br/>(tenker / slår opp / vurderer)"] --> F
    D[Antall brukere] --> F
    E[Deployment-pipelines<br/>+ filer skannet parallelt] --> F
    F --> G["Milliarder av kroner<br/>når man 'tokenmaxer'"]

Samtidig er det en kjent mønster fra amerikansk teknologikultur (Magnus sammenligner med Uber og taxi, og – mer provoserende – morsmelkerstatning): tilby et produkt billig eller gratis for å skape avhengighet, vent til alternativene forsvinner, og skru opp prisen når brukerne ikke lenger har noe valg. Med Anthropic og OpenAI på vei mot børsnotering blir bunnlinjen styrende, og dagens kunstig lave priser er "litt by design".

Sikkerhetsbildet er endret, selv om du ikke bruker KI selv

Sikkerhet har alltid vært asymmetrisk: en angriper kan feile en million ganger og bare trenger å lykkes én gang, mens en forsvarer ikke har råd til å feile en eneste gang. Det har vi historisk håndtert med deterministiske systemer. KI er ikke-deterministisk – du kan ikke bevise at et KI-basert forsvar er tryggere enn et som feiler – og det dytter dynamikken enda lenger i favør av angriperne.

▶ Se dette i opptaket

Anthropics egen forskning fant at rundt 70 % av "black hats" som brukte Claude til angrep, brukte det til å skrive virus eller annen malware – og kvaliteten på disse angrepene klassifiseres som stadig mer alvorlig. Bruksmønsteret har også gått fra ren informasjonsinnhenting (phishing, credentials) til faktisk utnyttelse: hente ut data, infiltrere, gjøre skade. CrowdStrike fant en 89 % årlig økning i angrep der KI er en fundamental komponent, gjennomsnittlig "breakout time" på under 30 minutter (raskeste under 30 sekunder), og tiden fra sårbarhet oppdages til den utnyttes har gått fra flere år til litt over en måned – noen ganger utnyttet før den i det hele tatt er oppdaget og patchet. Og truslene er ikke bare eksterne: interne KI-agenter har allerede slettet databaser og filer, og gitt tilgang til informasjon de ikke skulle.

Nøkkeltakeaways

• Rapportert opplevelse og målt effekt av KI-bruk peker ofte i motsatt retning – både for navigasjon med GPS og for kodekvalitet.
• "Knowledge debt" er den menneskelige kostnaden av å hoppe rett til svaret i stedet for å gå den indirekte, lærende veien selv.
• Vi vet ikke hva vi skal "flykte til" denne gangen, slik tankekraft reddet oss fra automatisert muskelkraft under den industrielle revolusjonen.
• Den synlige tokenprisen er bare en brøkdel av den reelle, eksponentielt multipliserte kostnaden – og dagens lave priser er ikke nødvendigvis varige.
• KI har fundamentalt endret sikkerhetsbildet, uavhengig av om du selv bruker det: angrepshastigheten øker, og forsvar må regne med det.
• Ansvarlig bruk av KI forutsetter oversikt over alle kostnadene og risikoene – ikke bare de du bærer selv.