跳到正文

Kaeso 0.6:聊天与媒体走同一网关,另有别名路由、MCP 门户

Kaeso 0.6.0 已发布。图片、语音和视频,现在与聊天走同一网关;Gemini 应用,也能从 /v1beta 接入;别名变为路由,可回退、可分流;每个项目都有 MCP 门户。本文介绍改了什么,以及如何更新。

发布日期
阅读时间
8 分钟
作者
Kaeso Team
淡雅的薰衣草紫与长春花蓝渐变,沿对角线向下折叠,一角透着暖光

Kaeso 0.6.0 是迄今最大的一个版本。它经历了 7 个已发布的候选版本和近 250 个拉取请求,也改变了一个 Kaeso 实例能承担的角色:它不再只是聊天请求经过的地方,组织的图片、语音、视频和工具也都从这里走,使用同样的密钥、限额、日志和费用。

本文逐一介绍主要亮点。完整的更新日志列出了每一项改动,不兼容的变更列在本页末尾。

媒体走同一个网关

应用现在可以通过 Kaeso 生成图片、视频、语音、转写、音乐和音效,用的还是它们已有的 SDK:

  • 图片通过 OpenAI 的 Images API:生成、编辑和流式的部分图片,支持 OpenAI、SpaceX、Google、OpenRouter、Vercel、Together AI、QwenCloud、Zhipu AI、MiniMax 和 ElevenLabs 的模型。
  • 语音和转写通过 OpenAI 的 Audio API,支持所有提供这些功能的内置服务商;需要时,语音会以事件形式流式返回。
  • 视频通过 OpenAI 的 Videos API,支持 SpaceX、Google AI Studio、Gemini Enterprise Agent Platform、MiniMax、Zhipu AI、OpenRouter、Together AI、QwenCloud 和 ElevenLabs。Kaeso 用自己的 ID 记录每个任务,在任务运行时向服务商查询,流式传回生成的文件,并在任务结束时计费一次。
  • ElevenLabs 自己的 SDK 可以用 Kaeso 密钥调用其语音、变声、音效、音乐、转写和图片端点,包括实时会话。

每个媒体请求都与聊天一样计入预算和速率限制,出现在请求日志中,并带有费用。控制台会显示每个请求生成了什么,例如一张图片、朗读的字符数或视频的时长;没有价格的费用显示为“未知”,而不是 0 美元。开启保留媒体后,组织可以保留已记录请求中的图片、音频和文件,并在日志查看器中回放。该设置默认关闭。

图片、语音和视频,与聊天走同一网关用代码逐一展示了这些功能。

Gemini 应用,以及 13 个新服务商

为 Gemini 编写的应用,无论用的是 google-genai SDK 还是直接的 REST 调用,现在都可以把 Kaeso 作为 /v1beta/ 下的基础 URL,并从那里访问项目中的任何模型,包括 Claude 和 GPT。流式传输、思考、工具调用、Token 计数、嵌入和模型列表都能正常工作。详情见 Gemini 应用经由 Kaeso。

13 个服务商成为内置服务商:Zhipu AI、MiniMax、Google AI Studio、Gemini Enterprise Agent Platform、ElevenLabs、Fireworks AI、Nebius Token Factory、SambaNova、Scaleway、Hugging Face Inference Providers、NVIDIA 托管的 NIM API、Baseten 和 SiliconFlow。添加一个密钥,它们的模型就能应答所有格式的应用。自定义服务商现在会注明自己运行的服务器软件,共 15 种,例如 vLLM、SGLang、Ollama、LM Studio 或 llama.cpp,这样 Kaeso 就能按各自的预期发送请求。服务商页面列出了全部服务商。

别名变为路由

以前,别名只是某个模型的另一个名字。现在它带有一条路由:模型失败时的回退;基于请求头、调用方、请求格式或请求大小的条件;以及按请求、调用方或请求头加权的分流。一个整页编辑器以树的形式构建路由,可以从模板开始;它的测试标签页会让一个请求经过草稿,并按每一步的应答为其着色。

当某一步因持续存在的原因失败时,例如密钥被拒、余额用尽或速率限制,后续请求会暂时跳过它,实例中的所有网关都通过 Valkey 共享这一信息。响应头 kaeso-route 列出请求尝试过的每一步。用别名路由,实现回退、条件和分流讲解了如何构建一条路由。

每个项目都有 MCP 门户

现在每个项目都在 /mcp/<project> 有一个 MCP 门户。组织连接远程 MCP 服务器,项目逐个开启其中的工具,claude.ai、ChatGPT 和 Cursor 等 MCP 客户端通过 Kaeso 调用这些工具,并使用 Kaeso 的登录、权限、限额和日志。服务器更改某个工具的定义时,Kaeso 会扣住该工具,直到有人批准这次更改。推出 MCP 门户讲述了完整的故事。

全新的控制台

演示中组织的概览:当前运行 Kaeso 0.6.0 及其版本插图,下方是最近 14 天的活动,包括请求、Token、缓存命中、当月支出、费用和失败的请求演示中组织的概览:当前运行 Kaeso 0.6.0 及其版本插图,下方是最近 14 天的活动,包括请求、Token、缓存命中、当月支出、费用和失败的请求
图 01组织的概览,控制台新的主页。
  • 概览页就是主页,显示实例运行的版本、活动、支出、项目、成员、密钥、MCP 服务器和最近的更改。
  • 分析按分钟和小时显示用量,可按项目、模型、密钥和成员查看:先是时间段的总数和一张易读的图表,然后是驱动用量的因素、可靠性、效率和支出。
  • 试验场用一个提示词并排试用各类模型:带图片和 PDF 的聊天、图片、语音、音效、音乐、用录音或附加音频进行的转写,以及带进度和取消功能的视频。
  • 账户 › 通知让每个人选择接收哪些邮件,立即、每日或从不,另有每周摘要和每月成本报告。
演示组织的分析:最近 30 天的请求、Token、费用和错误率,各自与之前 30 天比较,下方是每天请求的图表,之前的时间段以虚线显示演示组织的分析:最近 30 天的请求、Token、费用和错误率,各自与之前 30 天比较,下方是每天请求的图表,之前的时间段以虚线显示
图 02分析页面,先显示时间段的总数和一张易读的图表。

更快,也更难被攻破

Kaeso 检查和解码大型智能体请求的速度快了很多:一个 200 KB 的 Claude Code 请求用时不到 1 毫秒。请求不再在共享锁上排队;冷项目的设置、模型和限额会在请求体到达的同时加载;服务商凭据在后台刷新。一次 25 MiB 的转写上传使网关的内存峰值增加其大小的 2 倍,而不再是 6 倍。

这个版本还修复了发布前审查中发现的一批安全问题。其中包括:网关为所有服务商的应答共用一份内存预算,因此一个很大的应答或一个没有尽头的流,再也无法耗尽它的内存。MCP 门户的客户端要遵守组织的双重验证和单点登录规则。仅限部分模型的密钥,再也看不到用其他模型生成的视频和图片。

随处安装

现在一条命令就能安装 Kaeso:

curl -fsSL https://kaeso.app/install.sh | sh

安装脚本会下载最新版本,写入设置和主密钥,启动已停止的 Docker,检查域名的 DNS 记录和证书,并开启更新器,因此控制台中的更新从首次启动起就能使用。在云端或托管平台上,模板会在 Render、Railway、DigitalOcean、Fly.io、AWS、Azure、Google Cloud、Coolify、Dokploy 和 CapRover 上运行同一个版本。在哪里运行 Kaeso 对它们做了比较,并为每个平台提供一篇指南。

更新之前

0.6.0 包含不兼容的变更。更新现有实例之前,请先阅读:

  • 运行一次安装脚本。 早期版本的实例需在实例目录中以 --update 运行安装脚本;之后,控制台中的更新即可使用。
  • 您自己的反向代理还必须把 /v1beta/ 和 /v2/ 路由到网关,并为 ElevenLabs 的实时会话放行 WebSocket 升级。
  • 不再有默认项目。 Kaeso 打开时显示组织的概览,新成员只加入邀请中指定的项目。
  • 模型数据的设置现在名为 [kpmr]。 升级前请把 [models_dev] 重命名为 [kpmr],把 KAESO_MODELS_DEV_SYNC 重命名为 KAESO_KPMR_SYNC;残留的 [models_dev] 段会让网关停止运行。
  • 时间以微秒计。 请求日志字段 request_upload_ms、overhead_ms 和 processing_ms 现在是 _us 字段,没有别名。
  • UI 库只导出有文档的组件,kaeso-kpp 的 Base64Source::data 保存解码后的字节。

升级指南(在新标签页中打开)列出了具体步骤。

试试看

在线演示(在新标签页中打开)运行 0.6.0,带有示例数据:打开分析、别名路由和试验场,无需安装任何东西就能看到新的控制台。准备好后,安装 Kaeso(在新标签页中打开),并告诉我们您的想法。

作者:Kaeso Team

本页内容

网关归您。记录也归您。

curl -fsSLhttps://kaeso.app/install.sh | sh