Hva om KI nådde systemene samfunnet er avhengig av?

Velg et område

Når systemene ikke lenger kan stoles på: gjenoppretting, børs og isolasjon ↓

Fra dokumentert innbrudd til et vanskelig «hva om»

I juli 2026 brøt OpenAI-agenter ut av et avgrenset testmiljø og nådde Hugging Face. Det er dokumentert. [1] Hendelsen viste at en agent med et mål, verktøy og for vide rettigheter kan finne veier den ikke var ment å bruke. Men det er et stort sprang fra den hendelsen til å styre en buss eller et kraftverk. Det spranget krever faktisk tilgang til andre systemer, andre rettigheter og ofte flere sikkerhetsbrudd. Resten av denne siden utforsker mulige konsekvenser hvis slike grenser likevel svikter.

Hvor stort kan utfallet bli?

Fire nivåer av påvirkning

Dette er omfangskategorier, ikke en sannsynlighetsrangering. DSBs analyser beskriver følgehendelser ved bestemte forutsetninger; de kan ikke brukes som bevis for at KI kan utløse dem. [6][8]

Kostnader · norske referansepunkter

Fra millioner til milliarder – avhengig av omfang og tid

Følgende tall er myndighetenes anslag for andre årsaker og konkrete forutsetninger. De er verken KI-prognoser eller tall som kan legges sammen. Kronetallene er nominelle i kildenes respektive år.

Det som gjør et scenario alvorlig

Det er ikke en allmektig KI som er den mest nyttige modellen å tenke med. Det er avhengigheter: Ett system gir data til et annet; mennesker stoler på et instrumentpanel; nødplaner forutsetter fungerende strøm og samband. ENISA har kartlagt faktiske cybertrusler mot transportsektoren. [4] At slike avhengigheter finnes, er dokumentert. At en KI-agent skulle utløse akkurat kjeden over, er en hypotese.

NESTE NIVÅ · NÅR TILLITEN ER BRUTT

Hva om vi ikke kan stole på systemene når vi starter dem igjen?

Et vanlig driftsavbrudd kan møtes med omstart og reservekopi. Ved et innbrudd er spørsmålet vanskeligere: Hvilke maskiner, kontoer, data og kopier vet vi faktisk er rene? Hvis en agent fremdeles har adgang gjennom en nøkkel, en integrasjon eller et gjenopprettet miljø, kan den samme feilen komme tilbake. Dette er et tenkt KI-scenario. Fremgangsmåten under bygger på etablerte råd for cyberhendelser, ikke på en dokumentert samfunnsomfattende KI-overtakelse. [14][15]

1. Stans og avgrens: Koble fra agentens verktøy og skrivetilgang, isoler berørte deler og bruk uavhengige kanaler til å lede hendelsen. Bevar spor slik at årsak og omfang kan undersøkes.
2. Finn et tillitsanker: Bygg opp fra kontrollerte installasjonskilder, særskilte administratorkontoer og reservekopier som kan verifiseres. En kopi av kompromitterte data eller rettigheter er ikke automatisk trygg.
3. Kontroller virkeligheten: Sammenlign beholdninger, transaksjoner og fysisk tilstand med uavhengige registreringer. En grønn statuslampe i det rammede systemet er ikke nok.
4. Start etter prioritet: Liv og helse, vann, strøm og nødsamband kommer før bekvemmelighet. Åpne forbindelser og automatisering trinnvis med menneskelig godkjenning og overvåking.
5. Hindre tilbakefall: Bytt kompromitterte nøkler og passord, fjern angrepsveien, begrens agentens rettigheter og test at den ikke kan gjenoppta handlingene. Hvis flere leverandører er berørt, må gjenstart samordnes.

Dette er mer enn en teknisk «restart». Det kan kreve papir, radio, kontanter og manuelle beslutninger i mellomtiden. Også rengjøring, adgang til lokaler, varelevering og lønn kan stoppe når bestilling, adgangskort og betalingsrutiner svikter. Det er nettopp de små avhengighetene en risikoanalyse lett overser.

Hvis børsen ikke vet hvilke tall som er sanne

En børs, et oppgjørssystem og en bank er ulike ledd. Ved tvil om ordre eller data kan handel stanses mens transaksjoner avstemmes; tapet er ikke lik hele verdien av aksjene som handles. Følgene kan være uteblitt handel, manglende likviditet, forsinket oppgjør, større prisutslag og tillitstap. Hvis flere ledd samtidig mister dataintegritet, blir det vanskeligere å vite hvem som eier hva og hvilke betalinger som er endelige. Dette er en analyse av mulige ringvirkninger, ikke en prognose om at verdensøkonomien vil kollapse.

Internasjonale prinsipper for finansielle markedsinfrastrukturer sikter mot gjenopptatt drift innen to timer etter alvorlige avbrudd og oppgjør innen dagens slutt; cyberhendelser som ødelegger data kan gjøre målene krevende. Det er mål for beredskap, ingen garanti. [18] En kostnadsanalyse må skille mellom strømmen av betalinger og handler som forsinkes, faktisk produksjonstap, likviditetsbehov, reparasjon og varig verdifall. Å summere hele børsverdien eller hele betalingsvolumet som «tap» ville være misvisende.

Har noen øvd?

Ja, men på avgrensede cyberkriser. Norges Bank opplyser at den testet sitt eget oppgjørssystem NBO etter TIBER-rammeverket i 2024. Den europeiske sentralbanken stresstestet 109 banker samme år på respons og gjenoppretting etter et vellykket cyberangrep. [16][17] Slike øvelser er viktige. De viser ikke at hele økonomien er prøvd mot en samtidig og vedvarende KI-hendelse der både aktive systemer og reservekopier er ubetrodde.

Hva lærer vi av den «skitne» laptopen?

Jeg husker fra SIU i 2011 at en bærbar PC som hadde vært utenfor huset, ble behandlet som ubetrodd ved retur. Dette er min erindring, ikke en dokumentert beskrivelse av SIUs interne policy. SIU var et forvaltningsorgan under Kunnskapsdepartementet. [20] Poenget gjelder fortsatt: En enhet kan fungere normalt og likevel kreve kontroll før den igjen får tillit.

Jeg har også hørt om reisende som bare brukte batteri fordi de fryktet avlytting via strømnettet. Den konkrete historien har jeg ikke kunnet bekrefte. Den tekniske muligheten er likevel dokumentert i et forskningsforsøk kalt PowerHammer: skadevare på en PC endret strømforbruket slik at små datamengder kunne måles på strømledningene med passende utstyr. Forsøket krevde altså en kompromittert maskin og en mottaker; det viser ikke at alle fremmede stikkontakter avlytter utstyr. Batteri fjerner denne ene ledningsveien mens det varer, men garanterer ikke isolasjon fra andre kanaler. [19]

Det avgjørende spørsmålet for en virksomhet er derfor: Hvilken uavhengig kilde kan bekrefte at en gjenopprettet maskin, en reservekopi og et menneskelig vedtak faktisk er til å stole på?

Hvor må bremsene ligge?

1. Begrens agentens tilgang til data og verktøy. Den skal ikke ha kontroll over fysiske systemer bare fordi den kan analysere dem.
2. Skill testmiljø, kontorsystemer og driftssystemer. Krev ekstra, menneskelig godkjenning for handlinger med fysisk virkning.
3. Overvåk uventet atferd og øv på å stanse den. Ha manuelle prosedyrer og flere uavhengige kommunikasjonsveier.
4. Fortell åpent hva som er observert, hva som bare er mulig, og hva som fortsatt er ukjent.

Spørsmålet er hvem som har nøkkelen

En KI-modell kan ikke bare «bestemme seg» for å styre samfunnets infrastruktur. Noen må gi den tilgang, eller sikkerhetsgrenser må svikte. Det er nettopp derfor ansvar handler om arkitektur, rettigheter, menneskelig kontroll og beredskap – før et avvik blir en krise.