Din maskin.
Din lokale KI.

En egen KI – hva betyr det egentlig?

Jeg liker tanken på å kunne forstå verktøyene jeg bruker. En språkmodell på egen datamaskin er en konkret måte å begynne på: Du laster ned en ferdig modell, kjører den lokalt og lager et lite grensesnitt rundt den.

Her trener vi ikke en ny grunnmodell. Vi setter opp en lokal tekstassistent med Ollama og en liten Python-klient. Det gir et sted å prøve formuleringer, forklare begreper og utforske enkel kode. Kvaliteten varierer, og svarene må kontrolleres.

Start med maskinen du allerede har

Arbeidsminne og modellstørrelse er viktigere enn at maskinen er ny. Tabellen er mine forsiktige startanslag for korte tekstsamtaler, ikke produsentgarantier eller målte hastigheter. Modellfilens størrelse er mindre enn samlet minnebehov: operativsystemet, kjøremotoren og samtalen trenger også plass.

Startpakken tilbyr gemma3:1b og gemma3:4b. Modellregisteret oppgir omtrent 0,8 og 3,4 GB nedlasting ved kontroll. Gemma 3 er valgt som et enkelt eksempel, ikke som påstand om å være nyest eller best. Sett av minst 10–15 GB ledig disk til en liten installasjon og oppdateringsmargin. [3]

Mac: Ollama oppgir macOS 14 eller nyere. Apple Silicon støtter CPU/GPU; Intel-Mac bruker CPU og kan være langt tregere. Windows: Ollama oppgir Windows 10 22H2 eller nyere og egne driverkrav for GPU. Følg leverandørens oppdaterte krav før installasjon. [4] [5]

LM Studio som alternativ: Et grafisk grensesnitt kan være enklere enn Terminal. Leverandøren anbefaler minst 16 GB RAM og oppgir egne OS- og prosessorkrav. Kravene er ikke identiske med Ollamas. [6]

Fra nedlasting til første lokale samtale

1. Installer to forutsetninger

   Last ned Ollama og Python 3.10 eller nyere fra de offisielle nettstedene. Start Ollama. Startpakken installerer ikke disse programmene automatisk og ber ikke om administratorpassord.

2. Pakk ut startpakken og åpne terminalen der

   På Mac/Linux bruker du kommandoene under. På Windows åpner du cmd og bytter python3 med py -3. Python er ikke nødvendigvis ferdig installert på Mac.

3. Slå av Ollamas skyfunksjoner

   python3 ians_chat.py --configure-local

   Les spørsmålet og bekreft med y. Programmet bevarer eksisterende innstillinger og tar en sikkerhetskopi før det setter lokal modus. Avslutt Ollama helt og start det igjen. Kontroller deretter logglinjen Ollama cloud disabled: true. Ikke overskriv en eksisterende oppsettsfil manuelt. [7]

4. Last ned én modell

   python3 ians_chat.py --setup --model gemma3:1b

   Bekreft modellnedlastingen med y. Dette krever internett. Med mer minne kan du velge gemma3:4b i stedet.

5. Start chatten

   python3 ians_chat.py --model gemma3:1b

   Skriv et spørsmål. Første svar kan ta tid mens modellen lastes. /clear starter en ny samtale, /quit avslutter. Prøv eksempelvis «Forklar forskjellen på RAM og lagring med et hverdagslig eksempel». Etter nedlasting kan du prøve uten internett.

Les koden. Last ned. Prøv selv.

Teststatus: Koden er syntakskontrollert og funksjonstestet mot en simulert lokal Ollama-API. Modellgenerering på fysisk Mac, Windows og Linux er ikke verifisert her. Maskinhastighet og svarenes kvalitet er derfor ikke dokumentert av IANS.

Lokalt betyr mer kontroll – når oppsettet faktisk er lokalt

Chatklienten bruker bare en fast loopback-adresse, godtar to bestemte lokale modellnavn, ignorerer proxyinnstillinger og følger ikke HTTP-videresendinger. Den lagrer ikke chatten til fil. Modellen får ingen verktøy for nettlesing, filtilgang eller kommandoer. API-formatet følger Ollamas dokumentasjon. [8]

Dette er ikke en garanti for hele datamaskinen. Ollama må være riktig konfigurert, og terminalbuffer, sikkerhetskopier eller andre programmer kan beholde informasjon. Nedlasting og programoppdateringer bruker nettverk. En modell som slutter på «cloud», eller en ekstern tilkobling i et annet program, kan sende innhold bort fra maskinen.

Ikke åpne modellserveren mot internett. Bruk bare egne eller tillatte data, og kontroller lisensen før kommersiell bruk. Åpne modellvekter betyr ikke automatisk at alle deler av treningen er åpne, at bruk er uten vilkår, eller at svarene er riktige. [9]

Hvem bygger dette – og hvor langt er de kommet?

Det finnes ikke én samlet «privat KI». Noen bygger modeller, andre lager kjøreprogrammer, grensesnitt eller maskinvare. Tabellen er et utvalg dokumenterte leveranser og samarbeid, kontrollert 15. oktober 2026. Den er ikke en rangering eller en fullstendig markedsoversikt.

Ja, samarbeidene er konkrete: modellutviklere samarbeider med kjøremotorer og maskinvareleverandører. At to programmer kan lese samme modellformat, er likevel ikke i seg selv et formelt partnerskap. Jeg bruker betegnelsen samarbeid der primærkilden uttrykkelig beskriver det.

Min lesning av utviklingen: Det blir enklere å flytte mellom lokal kjøring og sky, samtidig som lokal programvare får flere agentfunksjoner. Det er nyttig, men gjør «kjører på min maskin» til et spørsmål vi må undersøke i innstillingene, ikke bare stole på i markedsføringen.

Begynn med en samtale – utvid med hensikt

En liten modell med en avgrenset oppgave er et godt sted å lære. Først når du vet hva du trenger, gir det mening å vurdere dokumentoppslag, større modeller eller agenter som kan handle på dine vegne.

For meg er verdien ikke at alle må bygge en egen KI. Verdien er å kunne se hvor dataene går, hva maskinen faktisk gjør og hvilke tillatelser vi velger å gi den.