Zum Inhalt springen

Gemini-Apps über Kaeso, mit Claude und GPT dahinter

Apps, die für die Gemini-API geschrieben sind, mit den google-genai-SDKs oder einfachen REST-Aufrufen, nutzen Kaeso jetzt als Basis-URL unter /v1beta und erreichen jedes Modell im Projekt. Wie Sie eine App umstellen, was funktioniert und was Kaeso unterwegs übersetzt.

Veröffentlicht
Lesezeit
2 Min.
Autor
Kaeso Team
Ein blasser Verlauf aus tiefem und hellem Blau, in senkrechten Falten wie ein Vorhang, mit warmem Licht in einer Ecke

Kaeso hat schon immer die Formate gesprochen, in denen Apps geschrieben sind: Chat Completions und Responses von OpenAI und Messages von Anthropic. Mit 0.6.0 spricht es auch das von Gemini. Eine App, die mit den google-genai-SDKs von Google oder mit einfachen Gemini-REST-Aufrufen geschrieben ist, nutzt Kaeso als Basis-URL und erreicht jedes Modell im Projekt, von Gemini bis Claude und GPT.

Eine App in zwei Zeilen umstellen

Geben Sie dem Client einen Kaeso-Schlüssel und die Adresse von Kaeso. Das SDK hängt /v1beta selbst an:

import osfrom google import genai client = genai.Client(    api_key=os.environ["KAESO_API_KEY"],    http_options={"base_url": "https://kaeso.example.com"},) response = client.models.generate_content(    model="claude-haiku-5-5",    contents="Write a haiku about gateways.",)print(response.text)

In TypeScript, mit @google/genai:

import { GoogleGenAI } from "@google/genai"; const ai = new GoogleGenAI({  apiKey: process.env.KAESO_API_KEY,  httpOptions: { baseUrl: "https://kaeso.example.com" },}); const response = await ai.models.generateContent({  model: "claude-haiku-5-5",  contents: "Write a haiku about gateways.",});console.log(response.text);

Das Modell ist jedes Modell aus dem Katalog des Projekts oder ein Alias. Das SDK sendet den Schlüssel in x-goog-api-key, das Kaeso wie Authorization: Bearer annimmt.

Was funktioniert

AufrufPfad
GenerierenPOST /v1beta/models/{model}:generateContent
StreamenPOST /v1beta/models/{model}:streamGenerateContent?alt=sse
Tokens zählenPOST /v1beta/models/{model}:countTokens
EinbettenPOST /v1beta/models/{model}:embedContent, :batchEmbedContents
Modelle auflistenGET /v1beta/models, GET /v1beta/models/{model}

Streams, Thinking, Tool-Aufrufe, Token-Zählungen, Embeddings und Modelllisten funktionieren. Jeder Fehler unter /v1beta kommt im Gemini-Format zurück, sodass die eigene Fehlerbehandlung des SDKs weiter funktioniert. Andere Gemini-Methoden wie batchGenerateContent, Dateien oder gecachte Inhalte bekommen 404 statt einer halb funktionierenden Antwort.

GET /v1beta/models listet die Modelle, die der Schlüssel aufrufen darf, benannt als models/<name>, wie die Gemini-API sie nennt, gefolgt von den Aliassen des Projekts, die auf sie zeigen, in Seiten zu 50 mit pageToken.

Was Kaeso unterwegs übersetzt

Ruft eine Gemini-App Claude oder GPT auf, übersetzt Kaeso die Anfrage in das Format dieses Modells und die Antwort zurück in das von Gemini. Einige Einzelheiten zählen in der Praxis:

  • Reasoning über Tool-Aufrufe hinweg. Das Gemini-Format hat kein Feld für das Reasoning eines anderen Anbieters. Kaeso behält das Reasoning des Modells vor jedem Tool-Aufruf und fügt es im nächsten Zug der App wieder an, sodass eine Agent-Schleife nicht den Faden verliert.
  • Thought Signatures. Ruft eine Gemini-App ein Gemini-Modell auf, gehen ihre Thought Signatures unverändert hin und her. Kaeso ruft Gemini-Modelle in ihrem eigenen Format auf, sodass Signaturen Tool-Schleifen in jedem App-Format überstehen, nicht nur im Gemini-Format.
  • Keepalives. Nach 15 Sekunden ohne Ausgabe schreibt Kaeso ein Keepalive. Im Gemini-Format ist das eine Leerzeile, denn google-genai liest jede andere Zeile eines Streams als JSON.
  • Medien. Bilder, die Gemini-Modelle erzeugen, erreichen Gemini-Apps, und Gemini-Apps bekommen Audioantworten von Chat-Completions-Modellen.
  • Was sich nicht übersetzen lässt, wird genannt. Hat ein Modell keine Entsprechung für ein Feld, lässt Kaeso es weg und nennt es im Header kaeso-left-out, oder passt es an und nennt es in kaeso-adapted. Nichts verschwindet still.

Mit Ihrem eigenen Proxy nutzen

Installationen aus dem Installationsskript und den Plattformvorlagen leiten /v1beta/ bereits weiter. Läuft Kaeso hinter einem eigenen Reverse Proxy, leiten Sie /v1beta/ neben /v1/ an das Gateway. Kaeso streamt Gemini-Antworten nur als Server-Sent Events, also bekommt ein Stream ohne alt=sse 400; die SDKs senden es immer.

Auch die eigenen Modelle von Google

Zwei der dreizehn Anbieter, die 0.6.0 eingebaut hat, sind von Google: Google AI Studio, mit einem API-Schlüssel, und Gemini Enterprise Agent Platform, mit einem API-Schlüssel für den Express-Modus oder einem Dienstkontoschlüssel, die auch ihre Claude-, Partner- und offenen Modelle erreicht. Fügen Sie einen davon als Anbieter hinzu, und seine Modelle antworten Apps in jedem Format, auch in denen von OpenAI und Anthropic.

Nächste Schritte

Von Kaeso Team

Auf dieser Seite

Ihr Gateway.Ihre Request-Logs.

curl -fsSLhttps://kaeso.app/install.sh | sh