Refleksjon · KI og kontroll
KI kan bli enklere å kjøre på små maskiner. Det gir nye muligheter – og et vanskelig spørsmål om kontroll når kopier kan flytte seg videre.
Begynn å lese ↓
Jeg er vant til systemer som har en eier, en plassering og en driftsplan. En server kan stoppes. En konto kan sperres. Et nettverk kan isoleres. Men hva skjer når et system kan opprette nye kopier på maskiner som ingen enkelt aktør har oversikt over?
Det er spørsmålet jeg sitter igjen med etter Anthropic-rapporten fra 12. oktober 2026. Den beskriver hvordan små KI-modeller kan få programvare til å kjøre på ulik maskinvare, og undersøker deler av kjeden som kan gjøre selvspredning mulig. Det er et konkret forskningsbidrag, men ikke dokumentasjon av en KI som allerede har overtatt støvsugere verden over. [1]
Bekymringen er ikke at strømknappen slutter å virke. Bekymringen er at ingen vet hvor alle knappene er.
Dette er en kildebasert refleksjon. Forsøksresultater, forskernes prognoser og mine egne vurderinger er skilt fra hverandre. Ingen skadelig kode eller fremgangsmåte for spredning publiseres her.
Forskerne kjørte en modell fordelt over 15 Android-TV-bokser. Enhetene bidro med hver sin del av modellen. Dette viser at en modell kan bruke rimelig maskinvare sammen; det viser ikke at boksene ble erobret selvstendig på internett.
Spredning ble undersøkt i et isolert nettverk med Android-emulatorer og tilgang uten autentisering. Agentmodellen kjørte separat; etter vellykket oppsett startet testopplegget en ny agentkopi. Dette er ikke det samme som at hele agenten flyttet seg selv over på småenhetene.
Forskerne fremskriver utviklingen og anslår at tilstrekkelig små modeller kan få nødvendige ferdigheter innen relativt kort tid. En generell kapabilitetskurve er imidlertid ikke en direkte måling av fremtidig spredningsevne.
Opplysningene over kommer fra rapportens metode og forsøksbeskrivelse. De bør leses samlet, ikke bare gjennom overskriften. [1]
En modell består blant annet av store filer med tallverdier, ofte kalt modellvekter. I en mulig angrepskjede blir disse filene en del av skadevaren. Flere enheter kan i prinsippet dele både lagring og beregning. Det krever kompatibel maskinvare, nok minne, kommunikasjon og en måte å få kjørt programvaren på.
Robotstøvsugere og smarte hvitevarer nevnes som mulige verter i trusselmodellen. Rapportens konkrete demonstrasjon bruker TV-bokser. Den forskjellen betyr noe: mulighet på én type maskinvare dokumenterer ikke at alle apparater kan brukes. [1]
Arbeidet med Petals viser også at distribuert modellkjøring har legitime forsknings- og bruksområder. Å dele beregningen er i seg selv ikke et angrep. Tilgang uten tillatelse og ukontrollert videreføring er det avgjørende skillet. [2]
Jeg leser derfor dette som et varsel om en mulig utvikling, ikke en beskrivelse av en uunngåelig hendelse. Nettverkstilgang er heller ikke automatisk det samme som at en enhet kan utnyttes.
En distribuert orm kan være vanskelig å fjerne fullstendig. Noen enheter kan være offline under oppryddingen, og svake enheter kan bli infisert på nytt. Ansvaret fordeles mellom produsenter, eiere, tjenesteleverandører og nettoperatører.
Men det finnes fortsatt inngrep: isolere maskiner, stanse nettverkstrafikk, rette sårbarheter og fjerne programvaren. Anthropic peker selv på synlig nettverkstrafikk og karantene som mulige forsvar. Det er et vesentlig forbehold til formuleringen «ingen av-knapp». [1]
Min vurdering er at vi bør ta dette alvorlig uten å gjøre usikkerhet til sikker kunnskap. En ansvarlig produsent bør kunne forklare hvor lenge et apparat får sikkerhetsoppdateringer. En driftsansvarlig bør vite hvilke enheter som finnes og hva de får kommunisere med. Et KI-system bør ha minst mulig tilgang i utgangspunktet.
For meg handler dette også om forholdet mellom mulighet og ansvar. Når vi gjør det lettere å bygge agenter, bør vi samtidig gjøre det lettere å avgrense dem, se hva de gjør og stoppe handlingene deres.
At små modeller kan kjøre på egne maskiner, gir også muligheter: læring, mindre avhengighet av nett og bedre kontroll over enkelte dataflyter. En lokal tekstchat er noe helt annet enn en selvspredende agent.
Jeg har derfor laget en praktisk startguide med nedlastbar kode. Den gir modellen tekst å svare på, men ingen tilgang til å kjøre kommandoer, lese filene dine eller spre seg.
Prøv lokal KI på din egen datamaskin →Dokumentasjon og etterprøvbarhet
Anthropic er både KI-leverandør og avsender av forskningen. Dette er deres egen rapport, ikke en uavhengig bekreftelse av alle resultatene. Tidspunkt for fremtidig selvspredning er usikkert. Denne siden rapporterer ikke om en påvist infeksjon hos brukere.