Decision Models und Jev – Definition, Funktionsweise und Kosten

Was sind Decision Models?

Decision Models, auch Entscheidungsmodelle genannt, sind KI-Modelle, die strukturierte Entscheidungen statt frei formulierter Antworten ausgeben. Typische Ergebnisse sind eine Kategorie oder ein Score; manche Systeme geben zusätzlich eine Wahrscheinlichkeit aus. Anwendungen nutzen die Ergebnisse etwa, um Inhalte zu klassifizieren oder Anfragen weiterzuleiten. Software kann sie direkt weiterverarbeiten, statt sie aus längeren Antworttexten auszulesen.

Bei klar umrissenen Aufgaben können Decision Models schneller, günstiger und zuverlässiger sein als allgemeine Sprachmodelle. Das macht sie interessant für interne Abläufe, in denen Kontext bewertet werden muss und feste Wenn-Dann-Regeln nicht ausreichen. Eine ausgegebene Wahrscheinlichkeit kann helfen, das Ergebnis einzuordnen und unsichere Fälle zur Prüfung weiterzugeben.

Der Begriff wird nicht einheitlich verwendet. Manche Anbieter meinen damit ein speziell trainiertes Modell, andere eine API oder ein Sprachmodell, das Antworten in einem vorgegebenen Format ausgibt. Deshalb sind Trainingsansatz, erlaubte Ausgaben und Ergebnisse für den konkreten Einsatz aussagekräftiger als der Produktname allein.

Ein Beispiel: Ein System sortiert eine Support-Anfrage als „Produktberatung“ oder „Kundenservice“ ein und leitet sie an den passenden Prozess weiter. Ein Sprachmodell kann dieselbe Aufgabe mit Structured Outputs erledigen; dafür braucht es nicht zwingend ein separates Decision Model.

Wie funktionieren Decision Models?

Der Ablauf hat meist vier Schritte:

1. Aufgabe und Optionen festlegen: Das Team definiert, welche Kategorien, Aktionen oder Werte zulässig sind.

2. Anfrage und Kontext bereitstellen: Das Modell erhält die Informationen, die es für die Auswahl braucht.

3. Entscheidung ausgeben: Das Ergebnis kommt in einem festgelegten Format zurück, zum Beispiel als Kategorie oder Score.

4. Fehlerfälle abfangen: Das Team testet die Entscheidung mit realistischen Beispielen und legt fest, wann ein Mensch übernehmen soll.

Eine Wahrscheinlichkeit kann dem nachgelagerten System als Hinweis dienen, wie sicher das Modell seine Entscheidung einschätzt. So lassen sich klare Fälle automatisch bearbeiten und unsichere zur Prüfung weiterleiten. Das funktioniert nur dann verlässlich, wenn die Wahrscheinlichkeiten für den konkreten Einsatz kalibriert sind. Ein fester Ausgabetyp allein garantiert keine richtige Entscheidung.

Auch Structured Outputs und Function Calling können maschinenlesbare Ergebnisse liefern. Ob ein spezialisiertes Decision Model mehr leistet, hängt vom Modell, der Schnittstelle und den Testergebnissen ab, nicht allein vom Ausgabeformat. Vergleiche deshalb die Systeme mit denselben Aufgaben und Daten.

Kosten und Latenz: was sich vergleichen lässt

Bei klar umrissenen Aufgaben können Decision Models günstiger und schneller sein als allgemeine Sprachmodelle. Ihre strukturierten Ausgaben fallen oft kürzer aus und vermeiden zusätzliche Tokens für Erklärungen. Die Gesamtkosten hängen trotzdem vom Modellpreis, der Eingabelänge, dem Hosting und dem Nutzungsvolumen ab. Bei selbst gehosteten Modellen kommen Infrastruktur und Betrieb hinzu.

Die Antwortzeit hängt vom Modell, der Hardware und dem jeweiligen Systemaufbau ab. Herstellerwerte und Demo-Zeiten zeigen daher nicht automatisch, wie schnell ein Modell mit den eigenen Anfragen und unter realer Last antwortet.

TypeSafe AI nennt für Jev 0,042 US-Dollar pro Million Input-Tokens und eine Antwortzeit von 70 bis 500 Millisekunden (Quelle: TypeSafe AI, 2026; Preisangaben, 2026). Das sind Herstellerwerte. Die tatsächlichen Gesamtkosten und die Leistung hängen vom konkreten Workflow ab, deshalb sollten Modelle mit denselben Aufgaben und Qualitätskriterien verglichen werden.

Open-Source-Modelle können lokal betrieben und angepasst werden. „Kostenfrei“ sind sie dadurch nicht: Rechenleistung, Integration, Monitoring und Wartung gehören in die Kalkulation. Der Vorteil kann in mehr Kontrolle über Modell und Betrieb liegen, nicht zwingend in niedrigeren Gesamtkosten.

Bei branchly richtet sich der Plattformtarif nach den aktiven Sessions, nicht nach der Zahl einzelner Modellaufrufe. Starter kostet 1.000 Euro pro Monat und umfasst 2.000 aktive Sessions; Professional kostet 2.000 Euro und umfasst 6.000. Die Session-Limits werden über das Jahr betrachtet, sodass saisonale Schwankungen berücksichtigt werden. Ein Plattformtarif lässt sich deshalb nicht direkt mit einer API-Abrechnung pro Token vergleichen (Quelle: branchly, 2026).

Decision Models und Sprachmodelle im Vergleich

Die Ansätze schließen sich nicht aus. Ein Sprachmodell kann eine Anfrage verstehen oder erklären; ein Decision Model kann anschließend eine festgelegte Entscheidung ausgeben. So lassen sich offene Kommunikation und strukturierte Entscheidungen im selben Workflow kombinieren.

Jev von TypeSafe AI: worum es beim Hype geht

TypeSafe AI beschreibt Jev als Modell für strukturierte Entscheidungen und nennt RLCD (Reinforcement Learning on Constructive Decisions) als Trainingsansatz. Der Anbieter zufolge gibt Jev zum Beispiel eine Auswahl oder einen Score mit zugehöriger Wahrscheinlichkeit aus. Die veröffentlichten Angaben zu Preis und Antwortzeit stammen ebenfalls von TypeSafe AI. Sie sagen noch nicht, wie gut Jev eine konkrete Aufgabe im Unternehmenseinsatz löst.

Die Aussage „keine Halluzinationen“ braucht ebenfalls Einordnung. Gibt ein Modell nur Werte aus einem festgelegten Format aus, kann es keine freie Antwort außerhalb dieses Formats formulieren. Es kann trotzdem die falsche Auswahl treffen. Ein begrenztes Antwortformat verhindert also keine inhaltlichen Fehler.

Auch Tempo und Preis hängen davon ab, womit verglichen wird. Vor dem Einsatz sollten Unternehmen eigene Testfälle verwenden und prüfen, wie oft das Modell falsch entscheidet und welche Gesamtkosten bei erwarteter Nutzung entstehen.

Was uns an Jev besonders interessiert

Klassische Machine-Learning-Klassifikatoren und semantische Klassifikationsmodelle sind nicht neu. Spannend an Jev finden wir den allgemeineren Ansatz: ein Entscheidungsmodell, das sich über verschiedene Domänen hinweg einsetzen lässt, ohne für jeden Workflow neu trainiert zu werden. Hinzu kommt die Wahrscheinlichkeit, mit der das Modell seine Entscheidung ausgibt. Zusammen mit dem niedrigen Preis macht diese Kombination Jev für interne Entscheidungsprozesse interessant.

Wir bei branchly haben Jev selbst getestet. Aus Datenschutzgründen setzen wir es derzeit noch nicht produktiv ein. Wir sehen großes Potenzial und planen, Decision Models in mehreren Workflows zu verwenden.

Open-Source-Ansätze und die OpenAI Decisions API

Nach der Vorstellung von Jev wurden Open-Source-Projekte wie Laya und OpenJev als Alternativen diskutiert. Sie verfolgen das Prinzip strukturierter Ausgaben, unterscheiden sich aber bei Modellbasis, Trainingsdaten, Lizenz und Reifegrad. Community-Benchmarks können bei der Orientierung helfen; ein einzelner Benchmark belegt nicht die Leistung in einem anderen Einsatzgebiet.

Vor einem produktiven Einsatz sind Lizenzbedingungen, Wartungsstatus, Sicherheitsanforderungen und die Möglichkeit zur Reproduktion der Testergebnisse zu prüfen. Selbsthosting schafft mehr Einfluss auf den Betrieb, bringt aber Infrastruktur und laufende Verantwortung mit sich.

OpenAI kündigte im September 2026 eine Decisions API in einer Preview an. In der Ankündigung ging es um Ausgaben aus einem vorgegebenen Antwortbereich statt um frei formulierte Erklärungen. Verfügbarkeit, Leistungsdaten und Preise einer Preview können sich ändern. Für eine Beschaffungsentscheidung zählen daher die aktuellen Produktunterlagen und ein eigener Test, nicht eine Demo allein.

Decision Models im Website-Einsatz

Ein Decision Model kann eine klar umrissene Aufgabe übernehmen, etwa eine Anfrage zu sortieren oder weiterzuleiten. Bei offenen Produktfragen braucht ein System dagegen Zugriff auf relevante Inhalte und die Fähigkeit, Rückfragen im Dialog zu beantworten. Welche Technik passt, richtet sich nach der Aufgabe auf der Website.

branchly ist eine AI Layer für Websites. Chat und AI Search helfen Besuchern, Inhalte zu finden und Fragen zu klären; weitere Module führen sie zu passenden nächsten Schritten. Agentic RAG, Hybrid Search, NLP und Conversational AI bilden die technische Grundlage. Die Interaktionen geben Marketingteams Einblick darin, wonach Besucher suchen.

Ein Decision Model wäre ein möglicher Baustein für eine klar begrenzte Auswahlaufgabe. branchly steht für die umfassendere Website-Erfahrung: mehrere AI-Module, über die Besucher Inhalte finden und mit dem Angebot interagieren.

Verwandte Begriffe

• Agentic RAG
• Retrieval-Augmented Generation (RAG)
• Natural Language Processing (NLP)
• Conversational AI
• KI-Chatbot
• EU AI Act