OpenCode 接上 Cloudflare：免费缓存 + 限流 + 监控

上周我给 OpenCode 接上了 Cloudflare AI Gateway，发现一个之前没注意到的细节：同样用 GPT-4o，走 Gateway 之后，重复 prompt 的响应速度直接快了 3 倍。

原因很简单：Cloudflare 会缓存相同请求的结果。你问过的第一个问题，第二个模型再问，直接命中缓存，不用重新算。

省的是 token 钱，省的是时间，省的是 API 调用次数。

OpenCode 近期更新汇总

先看最近一周的更新（v1.18.19 → v1.18.23）：

• v1.18.19（8/20）：Cloudflare AI Gateway 原生支持、Codex 限流对齐 ChatGPT、移除 Qwen 采样默认值

• v1.18.21（8/21）：未知结束原因不再中断、Vertex AI 多区域路由优化

• v1.18.22（8/24）：设备登录链接修复、textVerbosity 兼容性、Bedrock 适配

• v1.18.23（8/25）：Cloudflare Gateway 路由修复、Anthropic 模型 ID 兼容

其中最值得关注的是 Cloudflare AI Gateway 的支持。这不是一个普通的功能——它能帮你省钱、加速、还能监控所有 API 调用。

简单说：Cloudflare 在你和 OpenAI/Anthropic 之间加了一层代理。

你的 OpenCode 不直接调 OpenAI API，而是先到 Cloudflare，Cloudflare 再帮你转发。

这层代理能做什么？

• 缓存：相同 prompt 直接返回缓存结果，不调 API（省 token 钱）

• 限流：设置每分钟最多调多少次，防止被 API 封号

• 监控：看到每次调用的 token 用量、延迟、成本

• 降级：主模型挂了，自动切换到备用模型

• 免费：基础版免费，对个人开发者够用

Step 1：创建 Cloudflare AI Gateway

创建后你会得到一个 Gateway URL，格式类似：

https://gateway.ai.cloudflare.com/
YOUR_ACCOUNT_ID/
YOUR_GATEWAY_NAME

Step 2：配置 OpenCode

在 opencode.json 中添加 provider 配置：

{
"provider": {
"openai": {
"apiKey": "sk-xxx",
"baseURL": "https://gateway.ai.cloudflare.com/YOUR_ACCOUNT_ID/YOUR_GATEWAY_NAME/openai"
}
}
}

关键是把 baseURL 从 https://api.openai.com/v1 换成你的 Gateway URL。

Step 3：验证连通性

运行 OpenCode，随便问个问题。然后去 Cloudflare Dashboard → AI Gateway → Logs，能看到这次调用的记录，说明配置成功。

我跑了一组对比测试：

直接调 API：
首次响应：1.2s
重复 prompt：1.2s（无缓存）
费用：$0.003/次

走 Cloudflare Gateway：
首次响应：1.3s（略慢，多了跳转）
重复 prompt：0.4s（命中缓存）
费用：$0.003/次（缓存命中后$0）

关键发现：

• 首次请求略慢 0.1s：多了一跳，可以忽略

• 重复请求快 3 倍：缓存命中，直接返回

• 监控面板：能看到每次调用的 token 用量、延迟分布、成本统计

• 限流保护：设置 60 RPM，超了自动排队，不会被 API 封号

坑 1：v1.18.23 修复了 Anthropic 模型 ID 问题

之前通过 Gateway 调 Anthropic 模型会报错，因为 Cloudflare 用点号（claude-haiku-4.5），但 Anthropic API 期望横杠（claude-haiku-4-5）。v1.18.23 修复了这个问题。

坑 2：缓存不是万能的

缓存只对完全相同的请求有效。prompt 里有一个 token 不同，就 miss。所以适合重复性高的场景（如代码审查、文档生成），不太适合创意写作。

坑 3：免费版有调用上限

Cloudflare AI Gateway 免费版每月 10 万次调用。对个人开发者够用，但团队使用要注意。

Cloudflare AI Gateway 不是必须的，但一旦用上就回不去了。缓存加速 + 监控面板 + 限流保护，这三个功能值回票价。