Du brauchst kein Abo, um KI zu nutzen. Ein brauchbares Modell läuft auch auf dem Laptop, den du schon hast — sachlich, auf deiner eigenen Hardware, und die Daten verlassen den Raum nicht. Für ein Notariat, eine Treuhand oder eine Arztpraxis ist das keine Spielerei. Es ist der Unterschied, ob ein Klientendossier an einen fernen Server geht oder auf dem eigenen Schreibtisch bleibt.

Lokale KI klingt technisch, aber die Alltagsversion ist einfach. Du installierst eine kleine Anwendung, sie lädt ein Modell auf deinen Computer, und ab dann kannst du zusammenfassen, entwerfen und übersetzen lassen — offline, privat, ohne monatliche Rechnung. Dieser Leitfaden zeigt dir, was du brauchst, was gut funktioniert und wo du anfängst.

Was lokale KI eigentlich heisst

Die meisten KI, die du kennst — ChatGPT, Claude, Copilot — läuft auf Servern, die du nicht kontrollierst. Du schickst deinen Text in ein Rechenzentrum, und eine Antwort kommt zurück. Lokale KI ist das Gegenteil: Das Modell läuft auf deinem eigenen Computer. Dein Dokument, deine Frage und die Antwort bleiben alle auf deinem Gerät.

Ein Modell ist nur eine Datei — ein paar Gigabyte gelernte Muster. Liegt sie einmal auf deiner Festplatte, arbeitet sie wie jedes andere Programm: Du öffnest sie, nutzt sie, schliesst sie. Nichts wird irgendwohin geschickt.

Ist mein Laptop stark genug?

Die ehrliche Antwort: für die kleinen Aufgaben wahrscheinlich ja. Die neueren Modelle sind überraschend leicht.

  • Ein Mac mit M1-Chip oder neuer (ab 2020) führt kleine Modelle entspannt aus.
  • Ein Windows- oder Linux-PC mit 16 GB Speicher und einer neueren Grafikkarte packt die kleineren Modelle gut.
  • Ein bescheidener Rechner schafft ein kompaktes Modell für kurze Zusammenfassungen und Entwürfe — es ist nur etwas langsamer.

Fang mit einem kleinen Modell an. Ist es dir zu langsam oder zu schwach, kannst du jederzeit aufsteigen — aber die meisten sind überrascht, wie viel ein kleines Modell schon kann.

Die Werkzeuge zum Anfangen

Es gibt zwei freundliche Einstiegspunkte, beide kostenlos:

Ollama

Ollama ist ein kleines Kommando, das du installierst, und mit einer Zeile lädst du ein Modell herunter und startest es. Es bleibt im Hintergrund und antwortet aus einem Terminalfenster.

LM Studio

LM Studio ist eine Anwendung mit normalem Fenster, einem Suchfeld für Modelle und einer Oberfläche zum Schreiben — sie fühlt sich von der ersten Minute vertraut an.

Beide führen dieselbe Art von Modellen aus. Nimm, was sich besser anfühlt; du kannst später wechseln.

Was lokale KI gut kann — und was nicht

Bleib realistisch, dann wirst du nicht enttäuscht:

  • Gut darin: Dokumente zusammenfassen, Mails und Briefe entwerfen, gegenlesen, Notizen in sauberen Text bringen, zwischen Deutsch, Französisch und Englisch übersetzen.
  • Schwächer darin: die schwierigsten Denkaufgaben, sehr lange Dokumente oder alles, wo ein kleiner Fehler zählt und kein Mensch das Ergebnis prüft.

Ein kleines lokales Modell ist eine fleissige Assistenz, keine Spezialistin. Für die Routinearbeit im Büro — genau die, die deine Woche auffrisst — reicht es locker. Für den letzten Blick bleibst du verantwortlich.

Eine erste Übung: ein Dokument zusammenfassen

Hier ein guter erster Test mit einem Brief oder einem kurzen Vertrag, der schon auf deinem Schreibtisch liegt. Nimm noch kein echtes Klientendossier — fang mit etwas Harmlosem an, etwa einem Versicherungsbrief oder einer alten Sitzungsnotiz.

Fasse diesen Brief in fünf einfachen Sätzen zusammen. Nenne die Fristen, die Beträge und alles, was ich tun muss. Bleib in der Sprache des Briefs.

Lies das Ergebnis. Ist es klar und richtig, hast du gerade gelernt, wozu das Werkzeug da ist. Stimmt etwas nicht, hast du auch etwas Nützliches gelernt: wo du selbst noch hinschauen musst.

Wann lokal besser ist als Cloud — und wann nicht

Wähle lokal, wenn:

  • im Dokument Berufsgeheimnis, Patientendaten oder Klientenangaben stecken, die du keiner fremden Person mailen würdest;
  • du Privatsphäre willst, ohne die Bedingungen eines Anbieters zu lesen;
  • du ein festes Werkzeug ohne monatliche Gebühr willst.

Bleib bei einem Cloud-Werkzeug, wenn:

  • du für eine schwere, unkritische Aufgabe das stärkste Modell brauchst;
  • du eine Funktion brauchst, die lokale Werkzeuge noch nicht bieten;
  • die Gewohnheit deines Teams wichtiger ist.

Viele Betriebe landen bei einem Mittelweg: lokal für die heikle Routinearbeit, ein Cloud-Werkzeug für den Rest, und klare Regeln, was wohin gehört.

Datenregeln, die sich lohnen

Lokale KI behält deine Daten auf deinem Gerät, aber dieselben Gewohnheiten gelten trotzdem:

  • Der Mensch bleibt vorn — jeder Entwurf wird gelesen, bevor er rausgeht.
  • Sichere, was zählt — ein lokales Modell speichert deine Dateien nicht für dich.
  • Bleib aktuell — aktualisiere die Anwendung, wenn sie fragt, damit du eine gepflegte Version laufen hast.

Eine Seite, drei Zeilen, fertig. Lokale KI soll weniger Sorgen bringen, nicht neue Pendenzen.

Das Ergebnis

Du kannst innerhalb einer Stunde eine nützliche, private Assistenz auf dem Laptop laufen lassen, den du schon hast — ohne Abo, ohne Rechenzentrum, ohne Aufwand. Fang mit einem kleinen Modell und einer echten Aufgabe an. Lass es zusammenfassen, entwerfen und die Routinearbeit aufräumen, behalte die heiklen Dossiers zu Hause, und du hast den sanftesten ersten Schritt in die KI gemacht, den es gibt.