Zum Inhalt springen

Kaeso 0.6: ein Gateway für Chat und Medien, mit Alias-Routen und einem MCP-Portal

Kaeso 0.6.0 ist erschienen. Apps erzeugen Bilder, Sprache und Video über dasselbe Gateway wie Chat, Gemini-Apps verbinden sich unter /v1beta, Aliasse werden zu Routen mit Fallbacks und Aufteilungen, und jedes Projekt bekommt ein MCP-Portal. Hier steht, was sich geändert hat und wie Sie aktualisieren.

Veröffentlicht
Lesezeit
5 Min.
Autor
Kaeso Team
Ein blasser Verlauf aus Lavendel und Blauviolett, diagonal abfallend gefaltet, mit warmem Licht in einer Ecke

Kaeso 0.6.0 ist das bisher größte Release. Es brauchte sieben veröffentlichte Release-Kandidaten und fast 250 Pull Requests, und es ändert, was eine Kaeso-Installation sein kann: nicht mehr nur der Ort, durch den Chat-Anfragen laufen, sondern auch der, über den die Bilder, die Sprache, die Videos und die Tools einer Organisation gehen, mit denselben Schlüsseln, Limits, Protokollen und Kosten.

Dieser Artikel geht die wichtigsten Neuerungen durch. Das vollständige Changelog listet jede Änderung, und die inkompatiblen Änderungen stehen am Ende dieser Seite.

Medien über ein Gateway

Apps erzeugen jetzt Bilder, Videos, Sprache, Transkripte, Musik und Soundeffekte über Kaeso, mit den SDKs, die sie bereits nutzen:

  • Bilder über die Images API von OpenAI: Generierungen, Bearbeitungen und gestreamte Teilbilder, mit Modellen von OpenAI, SpaceX, Google, OpenRouter, Vercel, Together AI, QwenCloud, Zhipu AI, MiniMax und ElevenLabs.
  • Sprache und Transkripte über die Audio API von OpenAI, bei jedem eingebauten Anbieter, der sie anbietet, und Sprache auf Wunsch als Ereignisse gestreamt.
  • Video über die Videos API von OpenAI bei SpaceX, Google AI Studio, Gemini Enterprise Agent Platform, MiniMax, Zhipu AI, OpenRouter, Together AI, QwenCloud und ElevenLabs. Kaeso führt jeden Auftrag unter einer eigenen ID, fragt den Anbieter, solange er läuft, streamt die fertige Datei und rechnet den Auftrag einmal ab, wenn er endet.
  • Die eigenen SDKs von ElevenLabs rufen dessen Endpunkte für Sprache, Stimmwechsel, Soundeffekte, Musik, Transkription und Bilder mit einem Kaeso-Schlüssel auf, Echtzeitsitzungen eingeschlossen.

Jede Medienanfrage zählt gegen dieselben Budgets und Ratenlimits wie Chat, erscheint im Anfrageprotokoll und hat Kosten. Die Konsole zeigt, was jede Anfrage erzeugt hat, etwa ein Bild, die gesprochenen Zeichen oder die Länge eines Videos, und nennt Kosten ohne Preis Unbekannt statt 0 $. Mit Medien aufbewahren kann eine Organisation die Bilder, Audiodateien und Dateien protokollierter Anfragen aufbewahren und im Log-Inspektor wiedergeben. Die Einstellung ist standardmäßig aus.

Bilder, Sprache und Video über dasselbe Gateway wie Chat zeigt jedes davon mit Code.

Gemini-Apps und dreizehn neue Anbieter

Apps, die für Gemini geschrieben sind, mit den google-genai-SDKs oder mit einfachen REST-Aufrufen, nutzen Kaeso jetzt als Basis-URL unter /v1beta/ und erreichen von dort jedes Modell des Projekts, Claude und GPT eingeschlossen. Streams, Thinking, Tool-Aufrufe, Token-Zählungen, Embeddings und Modelllisten funktionieren. Gemini-Apps über Kaeso hat die Einzelheiten.

Dreizehn Anbieter sind jetzt eingebaut: Zhipu AI, MiniMax, Google AI Studio, Gemini Enterprise Agent Platform, ElevenLabs, Fireworks AI, Nebius Token Factory, SambaNova, Scaleway, Hugging Face Inference Providers, die gehostete NIM API von NVIDIA, Baseten und SiliconFlow. Fügen Sie einen Schlüssel hinzu, und ihre Modelle antworten in jedem App-Format. Eigene Anbieter nennen jetzt die Serversoftware, auf der sie laufen, eine von fünfzehn wie vLLM, SGLang, Ollama, LM Studio oder llama.cpp, sodass Kaeso jedem sendet, was er erwartet. Die Seite der Anbieter listet sie alle.

Aliasse werden zu Routen

Ein Alias war bisher ein anderer Name für ein Modell. Jetzt hält er eine Route: Fallbacks, wenn ein Modell scheitert, Bedingungen auf einen Header, den Aufrufer, das Format oder die Größe der Anfrage, und gewichtete Aufteilungen nach Anfrage, Aufrufer oder Header. Ein ganzseitiger Editor baut die Route als Baum, beginnt mit Vorlagen, und sein Tab Testen schickt eine Anfrage durch den Entwurf und färbt jeden Schritt nach seiner Antwort.

Scheitert ein Schritt aus einem Grund, der anhält, etwa ein abgelehnter Schlüssel, ein leeres Guthaben oder ein Ratenlimit, überspringen spätere Anfragen ihn eine Weile, und alle Gateways der Installation teilen das über Valkey. Der Antwort-Header kaeso-route nennt jeden Schritt, den eine Anfrage versucht hat. Fallbacks, Bedingungen und Aufteilungen mit Alias-Routen erklärt, wie Sie eine bauen.

Ein MCP-Portal für jedes Projekt

Jedes Projekt hat jetzt ein MCP-Portal unter /mcp/<project>. Organisationen verbinden entfernte MCP-Server, Projekte schalten deren Tools einzeln ein, und MCP-Clients wie claude.ai, ChatGPT und Cursor rufen diese Tools über Kaeso auf, mit seiner Anmeldung, seinen Rechten, Limits und Protokollen. Ändert ein Server die Definition eines Tools, hält Kaeso das Tool zurück, bis jemand die Änderung freigibt. Das MCP-Portal erzählt die ganze Geschichte.

Eine neue Konsole

Die Übersicht der Organisation in der Demo: Läuft jetzt, Kaeso 0.6.0 mit seinem Release-Artwork, darunter die Aktivität der letzten 14 Tage mit Anfragen, Tokens, Cache-Treffern, den Ausgaben des Monats, Kosten und fehlgeschlagenen AnfragenDie Übersicht der Organisation in der Demo: Läuft jetzt, Kaeso 0.6.0 mit seinem Release-Artwork, darunter die Aktivität der letzten 14 Tage mit Anfragen, Tokens, Cache-Treffern, den Ausgaben des Monats, Kosten und fehlgeschlagenen Anfragen
Abb. 01Die Übersicht der Organisation, die neue Startseite der Konsole.
  • Übersichtsseiten sind Startseiten, mit dem Release, das die Installation betreibt, Aktivität, Ausgaben, Projekten, Mitgliedern, Schlüsseln, MCP-Servern und den letzten Änderungen.
  • Die Analysen zeigen die Nutzung nach Minute und Stunde, je Projekt, Modell, Schlüssel und Mitglied: zuerst die Summen des Zeitraums und ein gut lesbares Diagramm, dann, was die Nutzung treibt, Zuverlässigkeit, Effizienz und Ausgaben.
  • Der Playground probiert jede Art von Modell nebeneinander mit einem Prompt aus: Chat mit Bildern und PDFs, Bilder, Sprache, Soundeffekte, Musik, Transkription mit aufgenommenem oder angehängtem Audio, und Video mit Fortschritt und Abbrechen.
  • Konto › Benachrichtigungen lässt jede Person wählen, welche E-Mails sie bekommt, sofort, täglich oder nie, mit einer Wochenübersicht und einem monatlichen Kostenbericht.
Analysen der Demo-Organisation: Anfragen, Tokens, Kosten und Fehlerquote der letzten 30 Tage, jeweils mit den 30 Tagen davor verglichen, über einem Diagramm der Anfragen pro Tag mit dem Zeitraum davor als gestrichelter LinieAnalysen der Demo-Organisation: Anfragen, Tokens, Kosten und Fehlerquote der letzten 30 Tage, jeweils mit den 30 Tagen davor verglichen, über einem Diagramm der Anfragen pro Tag mit dem Zeitraum davor als gestrichelter Linie
Abb. 02Analysen, mit den Summen des Zeitraums und einem gut lesbaren Diagramm zuerst.

Schneller und schwerer zu brechen

Kaeso prüft und dekodiert große Agent-Anfragen viel schneller: Eine Claude-Code-Anfrage von 200 KB dauert weniger als eine Millisekunde. Anfragen warten nicht mehr an gemeinsamen Sperren, Einstellungen, Modelle und Limits eines kalten Projekts laden, während der Body ankommt, und die Zugangsdaten der Anbieter werden im Hintergrund erneuert. Ein Transkriptions-Upload von 25 MiB erhöht den Spitzenspeicher des Gateways um das Doppelte seiner Größe statt um das Sechsfache.

Das Release schließt außerdem eine Reihe von Sicherheitslücken, die vor der Veröffentlichung im Review gefunden wurden. Darunter: Das Gateway teilt ein Speicherbudget auf die Antworten aller Anbieter auf, sodass eine große Antwort oder ein endloser Stream ihm nicht mehr den Speicher ausgehen lassen kann. Clients des MCP-Portals unterliegen den Regeln der Organisation für Zwei-Faktor-Authentifizierung und Single Sign-on. Ein Schlüssel, der auf einige Modelle beschränkt ist, sieht keine Videos und Bilder mehr, die mit anderen erzeugt wurden.

Überall installieren

Kaeso installiert sich jetzt mit einem Befehl:

curl -fsSL https://kaeso.app/install.sh | sh

Das Installationsskript lädt das neueste Release herunter, schreibt seine Einstellungen und seinen Hauptschlüssel, startet ein gestopptes Docker, prüft DNS-Eintrag und Zertifikat der Domain und schaltet den Updater ein, sodass Update in der Konsole vom ersten Start an funktioniert. In einer Cloud oder auf einer Hosting-Plattform betreiben Vorlagen dasselbe Release auf Render, Railway, DigitalOcean, Fly.io, AWS, Azure, Google Cloud, Coolify, Dokploy und CapRover. Wo Sie Kaeso betreiben vergleicht sie, mit einer Anleitung für jede.

Bevor Sie aktualisieren

0.6.0 enthält inkompatible Änderungen. Lesen Sie sie, bevor Sie eine bestehende Installation aktualisieren:

  • Führen Sie das Installationsskript einmal aus. Installationen früherer Releases führen das Installationsskript mit --update im Ordner der Installation aus; danach funktioniert Update in der Konsole.
  • Ihr eigener Reverse Proxy muss auch /v1beta/ und /v2/ an das Gateway leiten und WebSocket-Upgrades für die Echtzeitsitzungen von ElevenLabs durchlassen.
  • Kein Standardprojekt. Kaeso öffnet mit der Übersicht der Organisation, und neue Mitglieder treten nur den Projekten bei, die ihre Einladung nennt.
  • Die Einstellungen der Modelldaten heißen jetzt [kpmr]. Benennen Sie [models_dev] in [kpmr] und KAESO_MODELS_DEV_SYNC in KAESO_KPMR_SYNC um, bevor Sie aktualisieren; ein übrig gebliebener Abschnitt [models_dev] hält das Gateway an.
  • Zeiten in Mikrosekunden. Die Felder request_upload_ms, overhead_ms und processing_ms des Anfrageprotokolls sind jetzt _us-Felder, ohne Alias.
  • Die UI-Bibliothek exportiert nur dokumentierte Komponenten, und Base64Source::data von kaeso-kpp enthält dekodierte Bytes.

Die Upgrade-Anleitung (öffnet in einem neuen Tab) hat die Schritte.

Probieren Sie es aus

Die Live-Demo (öffnet in einem neuen Tab) läuft mit 0.6.0 und Beispieldaten: Öffnen Sie die Analysen, die Alias-Routen und den Playground, um die neue Konsole zu sehen, ohne etwas zu installieren. Wenn Sie bereit sind, installieren Sie Kaeso (öffnet in einem neuen Tab), und sagen Sie uns, was Sie davon halten.

Von Kaeso Team

Auf dieser Seite

Ihr Gateway.Ihre Request-Logs.

curl -fsSLhttps://kaeso.app/install.sh | sh