Jede Woche gibt es einen neuen KI-Service mit einem Preislabel, und für Schweizer KMU und Selbständige können die Kosten schnell ins Gewicht fallen. Doch viele Routineaufgaben — Weiterleitung von Kliene-Mails, Kategorisierung von Rechnungen, Priorisieren von Support-Tickets — benötigen nur einfache Klassifizierung, kein vollwertiges Modell. Kev ist ein open-source Klassifikations-API, den Sie selbst betreiben können, mit Grössen von 0,8B bis 27B Parametern, wobei das 4B-Modell der süsse Platz ist, der auf einem Laptop-GPU oder sogar CPU für grundlegende Workloads läuft.

\n\n

Was Kev eigentlich macht

\n\n

Kev beantwortet Ja/Nein, Multiple-Choice- oder Bewertungsfragen zu einem Text und gibt kalibrierte Wahrscheinlichkeiten in einem Durchlauf zurück. Es ist gebaut für Ticket-Routing, Moderation und Klassifizierung — nicht für freie Textgenerierung. Denken Sie daran als wire-kompatible Drop-in-Ersatz für bezahlte Dienste wie Jev (das geschlossene Modell hinter TypeSafe's System One API), except you host it yourself or run the 4B model locally on a machine you own.

\n\n

Drei Aufgaben, die sich zuerst lohnen

\n\n

In unserer Arbeit mit Schweizer Freelancern, Notaren, Ärztinnen und kleinen Büros zahlen sich fast immer drei Klassifizierungsaufgaben aus:

\n\n
    \n
  • Ticket-Routing. Eingehende Kunden-E-Mails oder Support-Anfragen können automatisch dem richtigen Team zugewiesen oder für Nachverfolgung markiert werden, basierend auf Keywords.
  • \n
  • Dokument-Kategorisierung. Verträge, Briefe und Angebote können nach Typ, Dringlichkeit oder erforderlicher Aktion klassifiziert werden — ohne Kundendaten an eine Cloud-API zu senden.
  • \n
  • Entscheidungsunterstützung. Angebote, Vorschläge oder Compliance-Checklisten können gescannt und in ein Ja/Nein-Rating zusammengefasst werden, damit Sie schnell entscheiden können, ohne jedes Wort zu lesen.
  • \n
\n\n

Beginnen Sie mit genau einer davon. Eine Aufgabe, ein Kanal, ein klarer Gewinn.

\n\n

Welche Modellgrösse benötigen Sie tatsächlich?

\n\n

Kev liefert vier Grössen zusammen als "Kev 1.0": 0,8B, 4B (das empfohlene Standartmodell), 9B und 27B. Auf held-out "new source" Daten legt das eigene Benchmark-Projekt Kev-27B bei 0,851 Genauigkeit gegen Jev's 0,857 — ein Punktestandifferspruch nach eigener Messung. Trotzdem per das README legt Kev-4B auf einem H100 sechs Fragen in 18,1ms Modellzeit beantwortet, und ein Container bedient etwa 101 Anfragen pro Sekunde. Das 4B-Modell ist das, das tatsächlich lokal auf vielen Use-Cases läuft, und es hinterlegt die Genauigkeit des 27B nur um einen Punkt — aber wenn Sie keine GPU haben, kann das 0,8B-Modell dennoch einfache Dokumente klassifizieren, wenn auch langsamer.

\n\n

Die Datenregel, die Sie absichert

\n\n

Bevor Sie etwas in ein Werkzeug einfügen, gilt eine Regel: Behandeln Sie Kundendaten als vertraulich — auch in einem freundlichen Chatbot. Nach dem Schweizer Datenschutzgesetz (DSG) sollten Sie keine identifizierbaren Kundeninformationen — Namen, medizinische Notizen, Finanzdetails — ungeprüft in ein öffentliches Konsumwerkzeug eingeben. Die praktische Lösung ist einfach: Anonymisieren oder ersetzen Sie zuerst die identifizierenden Angaben, und nutzen Sie für sensible Arbeit in Medizin, Recht oder Finanzen eine freigegebene oder lokale Lösung. Kev's wire-kompatible API bedeutet, dass Sie das 4B-Modell auf Infrastruktur betreiben können, die Sie kontrollieren, und Ihre Daten bleiben on-premises.

\n\n

Das ist die ehrliche Version von “Anfangens”. Keine Transformation, keine Agenten, kein Hype — nur eine wiederkehrende Klassifizierungsaufgabe, die Ihnen nicht mehr den Nachmittag frisst.