Die meisten Schweizer Unternehmen gehen davon aus, dass sie ein Cloud-Abo benötigen, um leistungsfähige KI zu nutzen — aber der echte Kostenfaktor ist, dass Kundendaten das Gebäude verlassen. Der DS4-Motor, den Redis-Ersteller antirez in nur einer Woche baute, ändert das: Er führt Frontier-KI-Modelle wie DeepSeek V4 Flash und GLM 5.2 vollständig auf Ihrer eigenen Hardware aus, mit null pro-Token-Kosten und allem, was auf dem Firmensitz bleibt.
Was DS4 eigentlich ist
DS4 (auch DwarfStar oder ds4.c genannt) ist kein generelles Framework — es ist eine einzelne Engine, die antirez für ein Modell-Familie schrieb: DeepSeek V4 Flash/PRO, V4.1 Flash, GLM 5.2/5.3 und Qwen 3.8 Flash Next. Er verwendet keinen llama.cpp-Code, sondern leiht sich dessen GGUF-Quantisierungs-Ideen unter MIT-Lizenz.
Der Trick ist ein asymmetrischer 2/8-Bit-Quantisierungs-Plan: Route-Experten, die den grössten Teil der 284B-Parameter ausmachen, werden auf IQ2_XXS/Q4_K zusammengepresst, da jeder Experte nur einen Bruchteil der Tokens verarbeitet — während Aufmerksamkeit, gemeinsame Experten und Ausgabeebenen bei schärferem Q8_0 verbleiben.
Damit lässt sich ein Modell mit 284 Milliarden Parametern auf einem Mac mit 128 GB RAM ausführen, oder auf einer GPU‑Box mit 256 GB+.
Warum das für ein kleines Schweizer Unternehmen zählt
Zwei Dinge halten kleine Büros sonst davon ab, KI auf ihre Daten loszulassen: Kosten und Datenschutz. DS4 ist frei und MIT-lizenziert — es gibt kein Abo, keine pro-Token-Gebühr. Das Modell bleibt auf Ihrem Mac, Ihrer NAS oder Ihrem kleinen Server. Nach Schweizer Datenschutzgesetz ist das eine weit einfachere Geschichte, die Sie Kunden erzählen können, als deren Dateien an einen Server im Ausland zu schicken. Für Ärzte, Notare, Treuhänder und alle, die mit sensiblen Dokumenten arbeiten, ist das oft der entscheidende Punkt.
Hardware, die Sie brauchen
- Bestes: Apple‑Silicon‑Mac mit 128 GB RAM (Q4‑Quant, ca. 153 GB)
- Minimum: 96 GB RAM mit dem leichtesten Quant (IQ2_XXS, ca. 81 GB)
- GPU‑Route: NVIDIA DGX Spark/Ada‑Lovelace (CUDA) oder AMD Strix Halo (ROCm) für noch leichtere Lasten
Ein vernünftiger Weg, es auszuprobieren
Klonen Sie das Repository, bauen Sie für Ihren Backend-Typ und ziehen Sie die Gewichte von Hugging Face. Starten Sie, indem Sie nur einen Dokument-Ordner füttern und einfache Fragen stellen. Nutzen Sie es eine Woche lang und beobachten Sie, wie oft es Ihnen die Suche in alten E-Mails und Ordnern erspart. Erst danach entscheiden Sie, ob Sie es breiter einsetzen. So arbeitet strongwinds: kein Hype, kein grosser Knall. Ein echtes Problem, ein ehrlicher Test und eine Entscheidung auf Basis dessen, was Sie tatsächlich gesehen haben.