Jede Woche gibt es einen neuen KI-Service mit einem Preislabel, und für Schweizer KMU und Selbständige können die Kosten schnell ins Gewicht fallen. Doch viele Routineaufgaben — Weiterleitung von Kliene-Mails, Kategorisierung von Rechnungen, Priorisieren von Support-Tickets — benötigen nur einfache Klassifizierung, kein vollwertiges Modell. Kev ist ein open-source Klassifikations-API, den Sie selbst betreiben können, mit Grössen von 0,8B bis 27B Parametern, wobei das 4B-Modell der süsse Platz ist, der auf einem Laptop-GPU oder sogar CPU für grundlegende Workloads läuft.
\n\nWas Kev eigentlich macht
\n\nKev beantwortet Ja/Nein, Multiple-Choice- oder Bewertungsfragen zu einem Text und gibt kalibrierte Wahrscheinlichkeiten in einem Durchlauf zurück. Es ist gebaut für Ticket-Routing, Moderation und Klassifizierung — nicht für freie Textgenerierung. Denken Sie daran als wire-kompatible Drop-in-Ersatz für bezahlte Dienste wie Jev (das geschlossene Modell hinter TypeSafe's System One API), except you host it yourself or run the 4B model locally on a machine you own.
\n\nDrei Aufgaben, die sich zuerst lohnen
\n\nIn unserer Arbeit mit Schweizer Freelancern, Notaren, Ärztinnen und kleinen Büros zahlen sich fast immer drei Klassifizierungsaufgaben aus:
\n\n- \n
- Ticket-Routing. Eingehende Kunden-E-Mails oder Support-Anfragen können automatisch dem richtigen Team zugewiesen oder für Nachverfolgung markiert werden, basierend auf Keywords. \n
- Dokument-Kategorisierung. Verträge, Briefe und Angebote können nach Typ, Dringlichkeit oder erforderlicher Aktion klassifiziert werden — ohne Kundendaten an eine Cloud-API zu senden. \n
- Entscheidungsunterstützung. Angebote, Vorschläge oder Compliance-Checklisten können gescannt und in ein Ja/Nein-Rating zusammengefasst werden, damit Sie schnell entscheiden können, ohne jedes Wort zu lesen. \n
Beginnen Sie mit genau einer davon. Eine Aufgabe, ein Kanal, ein klarer Gewinn.
\n\nWelche Modellgrösse benötigen Sie tatsächlich?
\n\nKev liefert vier Grössen zusammen als "Kev 1.0": 0,8B, 4B (das empfohlene Standartmodell), 9B und 27B. Auf held-out "new source" Daten legt das eigene Benchmark-Projekt Kev-27B bei 0,851 Genauigkeit gegen Jev's 0,857 — ein Punktestandifferspruch nach eigener Messung. Trotzdem per das README legt Kev-4B auf einem H100 sechs Fragen in 18,1ms Modellzeit beantwortet, und ein Container bedient etwa 101 Anfragen pro Sekunde. Das 4B-Modell ist das, das tatsächlich lokal auf vielen Use-Cases läuft, und es hinterlegt die Genauigkeit des 27B nur um einen Punkt — aber wenn Sie keine GPU haben, kann das 0,8B-Modell dennoch einfache Dokumente klassifizieren, wenn auch langsamer.
\n\nDie Datenregel, die Sie absichert
\n\nBevor Sie etwas in ein Werkzeug einfügen, gilt eine Regel: Behandeln Sie Kundendaten als vertraulich — auch in einem freundlichen Chatbot. Nach dem Schweizer Datenschutzgesetz (DSG) sollten Sie keine identifizierbaren Kundeninformationen — Namen, medizinische Notizen, Finanzdetails — ungeprüft in ein öffentliches Konsumwerkzeug eingeben. Die praktische Lösung ist einfach: Anonymisieren oder ersetzen Sie zuerst die identifizierenden Angaben, und nutzen Sie für sensible Arbeit in Medizin, Recht oder Finanzen eine freigegebene oder lokale Lösung. Kev's wire-kompatible API bedeutet, dass Sie das 4B-Modell auf Infrastruktur betreiben können, die Sie kontrollieren, und Ihre Daten bleiben on-premises.
\n\nDas ist die ehrliche Version von “Anfangens”. Keine Transformation, keine Agenten, kein Hype — nur eine wiederkehrende Klassifizierungsaufgabe, die Ihnen nicht mehr den Nachmittag frisst.