跳到正文

Gemini 应用经由 Kaeso,背后是 Claude 和 GPT

Gemini API 应用,无论用 google-genai SDK,还是直接调用 REST,只需把基础 URL,换成 Kaeso 的地址,就能在 /v1beta 下,访问项目里的任何模型。本文介绍如何切换应用、哪些可用,以及途中的格式转换。

发布日期
阅读时间
4 分钟
作者
Kaeso Team
淡雅的深浅蓝色渐变,呈竖直的褶皱,如同帘幕,一角透着暖光

Kaeso 一直支持应用所用的格式:OpenAI 的 Chat Completions 和 Responses,以及 Anthropic 的 Messages。从 0.6.0 起,它也支持 Gemini 的格式。用 Google 的 google-genai SDK 或直接用 Gemini REST 调用编写的应用,可以把 Kaeso 作为基础 URL,访问项目中的每个模型,从 Gemini 到 Claude 和 GPT。

两行代码切换应用

给客户端一个 Kaeso 密钥和 Kaeso 的地址。SDK 会自己加上 /v1beta:

import osfrom google import genai client = genai.Client(    api_key=os.environ["KAESO_API_KEY"],    http_options={"base_url": "https://kaeso.example.com"},) response = client.models.generate_content(    model="claude-haiku-5-5",    contents="Write a haiku about gateways.",)print(response.text)

在 TypeScript 中,使用 @google/genai:

import { GoogleGenAI } from "@google/genai"; const ai = new GoogleGenAI({  apiKey: process.env.KAESO_API_KEY,  httpOptions: { baseUrl: "https://kaeso.example.com" },}); const response = await ai.models.generateContent({  model: "claude-haiku-5-5",  contents: "Write a haiku about gateways.",});console.log(response.text);

模型可以是项目目录中的任何模型,也可以是别名。SDK 用 x-goog-api-key 发送密钥,Kaeso 会像接受 Authorization: Bearer 一样接受它。

哪些可用

调用路径
生成POST /v1beta/models/{model}:generateContent
流式POST /v1beta/models/{model}:streamGenerateContent?alt=sse
计算 TokenPOST /v1beta/models/{model}:countTokens
嵌入POST /v1beta/models/{model}:embedContent、:batchEmbedContents
列出模型GET /v1beta/models、GET /v1beta/models/{model}

流式传输、思考、工具调用、Token 计数、嵌入和模型列表都能正常工作。/v1beta 下的每个错误都以 Gemini 格式返回,因此 SDK 自己的错误处理照常有效。其他 Gemini 方法,例如 batchGenerateContent、文件或缓存内容,会得到 404,而不是一个只能部分工作的回答。

GET /v1beta/models 列出密钥可以调用的模型,按 Gemini API 的命名方式写作 models/<name>,后面是指向这些模型的项目别名,每页 50 个,用 pageToken 翻页。

Kaeso 在途中转换了什么

Gemini 应用调用 Claude 或 GPT 时,Kaeso 把请求转换成该模型的格式,再把回答转换回 Gemini 的格式。实际使用中,有几处细节很重要:

  • 跨工具调用的推理。 Gemini 格式没有存放其他服务商推理内容的字段。Kaeso 会保留模型在每次工具调用前的推理,并在应用的下一轮中把它加回去,这样智能体循环就不会断了思路。
  • 思考签名。 Gemini 应用调用 Gemini 模型时,思考签名原样往返。Kaeso 以 Gemini 模型自己的格式调用它们,因此在每种应用格式中,签名都能在工具循环中保留下来,而不仅限于 Gemini 格式。
  • 保活。 15 秒没有输出后,Kaeso 会写入一次保活。在 Gemini 格式中,这是一个空行,因为 google-genai 会把流中的其他每一行都当作 JSON 读取。
  • 媒体。 Gemini 模型生成的图片能到达 Gemini 应用,Gemini 应用也能收到 Chat Completions 模型的音频回复。
  • 无法转换的内容会被注明。 模型没有某个字段的对应项时,Kaeso 会省略它并在 kaeso-left-out 响应头中注明,或者调整它并在 kaeso-adapted 中注明。没有任何内容会悄悄消失。

配合您自己的代理使用

通过安装脚本和平台模板安装的实例已经路由了 /v1beta/。如果 Kaeso 运行在您自己的反向代理后面,请把 /v1beta/ 和 /v1/ 一起路由到网关。Kaeso 只以服务器发送事件的形式流式返回 Gemini 回复,因此不带 alt=sse 的流会得到 400;各 SDK 总会带上它。

Google 自己的模型也可以

0.6.0 内置的 13 个服务商中,有两个来自 Google:Google AI Studio,使用 API 密钥;以及 Gemini Enterprise Agent Platform,使用快速模式的 API 密钥或服务账号密钥,它还能访问平台上的 Claude、合作伙伴和开放模型。把其中任一个添加为服务商,它的模型就能应答所有格式的应用,包括 OpenAI 和 Anthropic 的格式。

下一步

作者:Kaeso Team

本页内容

网关归您。记录也归您。

curl -fsSLhttps://kaeso.app/install.sh | sh