{
"title": "为了不再被模型厂商的接入文档反复折磨，我啃完了三个大模型聚合平台官网，留下的只有两个",
"content": "上个月给内容改写流程做模型选型，手里同时挂着 OpenAI、Anthropic、DeepSeek、智谱、月之暗面五个账号。每切一个模型，就要改一次 SDK、读一套计费规则、记一堆不同的参数名。第四天凌晨我盯着满屏的 `temperature`、`top_p`、`max_tokens`，把鼠标一摔——这活不该这么干。\n\n第二天我开始把市面上能搜到的聚合平台挨个扒官网、跑压测、接 API，三个平台花了我整整一周。最后留下两个，扔掉一个。这篇就把我踩过的坑和判断标准捋一遍，你如果想用聚合平台，照着查就行。\n\n## 聚合平台官网第一关：别给我看花哨的产品图，我要一眼看到模型列表和价格\n\n我衡量一个聚合平台官网是否“能用”，就三个点：模型覆盖度、计价器的实时性、API 文档里示例代码能不能直接跑通。\n\n先说我扔掉的平台——名字不提了，进去就是满屏的架构图，连“现有哪些模型”都要点三次才能看到。好不容易翻到模型页，只有 20 多个��型，最新的是 GPT-4o mini 三周前的版本。定价写的是“按量计费”，但具体 1M token 多少钱，必须注册后才能看。这在我眼里就是不合格：一个聚合平台如果连自己的核心竞争力都不敢公开亮出来，后续稳定性我是不信的。\n\n留的两个平台，一个是 OpenRouter，一个是国内的 SiliconCloud（硅基流动）。\n\nOpenRouter 的官网点进去就是模型排序：按上下文窗口、按价格、按吞吐量，随便筛。每个模型旁边挂着实时的 token 价格、延迟中位数、是否支持流式。我测试那天，GPT-4o 显示 $2.50/1M input tokens，Anthropic Claude 3.5 Sonnet 是 $3.00，跟官方价格差不到 5%，没有隐藏加价。密钥生成后第一个 curl 示例就能直接跑，返回的 JSON 结构统一成 OpenRouter 自己的格式——这点后面会展开说。\n\nSiliconCloud 更偏国内开发者，模型列表里除了海外的 Llama 3.1、Mistral，还有 Qwen、DeepSeek、百川的全系列。价格以人民币计费，Qwen-Max 是 5 元/百万 tokens，比阿里云百炼的直签价还低一点。它的定价表有一个我特别需要的功能：显示每个模型当前是否处于高负载，某些热门模型会临时涨价并标红。这个设计救过我一次——我本打算深夜跑批 DeepSeek-V2，一看官网标红说当前负载高、价格翻了 0.3 倍，果断延迟到凌晨，成本省了 30%。\n\n所以我的第一个结论：聚合平台官网如果做不到“打开即查模型、查价格、查延迟”，就别用。因为连这个都做不好的团队，没能力维护多厂商的 API 接入稳定性。\n\n## API 接入的坑：模型名、参数映射、流式响应，每一层都可能藏雷\n\n聚合平台最大的价值是“一套 API 调所有模型”。但真正接进去，才发现这“一套”背后全是妥协。\n\n我拿 OpenRouter 调 OpenAI 的 GPT-4o 和 Anthropic 的 Claude 3.5 Sonnet，URL 都用 `https://openrouter.ai/api/v1/chat/completions`，Header 里传一个 `HTTP-Referer` 就行。请求体里 `model` 字段填 `\"openai/gpt-4o\"` 或 `\"anthropic/claude-3.5-sonnet\"`，其他参数照 OpenAI 格式传。但这恰恰是第一个坑：有些模型原生不是 OpenAI 兼容格式，聚合平台强行转换，会吞掉部分参数。\n\n比如我用 Claude 做长文摘要时，习惯传 `top_k` 和 Anthropic 的 `metadata` 字段。OpenRouter 的文档里说这些参数可以放在请求体里，平台会自动映射给 Anthropic。但我实测发现，`top_k` 传 5 的时候能生效，传 10 就返回 400 错误，报“invalid parameter for target model”。原因可能是 OpenRouter 对某些参数做了安全范围限制。相比之下，直接用 Anthropic 的官方 API 从不会报这个错。所以关于用 Claude 做 SEO 内容优化时的参数设置，我之前写过一篇Claude SEO优化实战，里面验证过哪些参数必须严格控制，才能不跑偏——在聚合平台上调 Claude，最好只传聚合平台文档里“明确支持”的参数，不要依赖自动映射。\n\nSiliconCloud 的 API 完全兼容 OpenAI 格式，连 `v1/chat/completions` 路径都一样。调 Qwen 时，只需把 `model` 换成 `\"Qwen/Qwen2.5-72B-Instruct\"` 就行。这一点对已沿用 OpenAI SDK 的项目极其友好。但我遇到过一个隐蔽的问题：流式响应。SiliconCloud 宣称所有模型支持流式，我在调百川 3 的时候，`stream=True` 返回的 chunk 里，`choices0].delta.content` 有时是 `null`，而真正的内容在 `choices[0].delta.tool_calls` 里，即使我没用 function calling。这个 Bug 导致我的流式解析器直接跳出循环。最后靠判断 `delta` 里哪个字段有内容来决定读取位置，才绕过。\n\n所以第二个结论：用聚合平台，一定要拿你最常用的模型，跑一遍完整流程——参数、流式、异常码，别只��文档示例。\n\n## 延迟这个硬指标，聚合平台未必比官方慢，但前提是你会选节点\n\n很多人的第一反应是“中间多了一层，延迟肯定高”。实测结果却没那么绝对。\n\n我同时往 OpenRouter 和 OpenAI 官方发同样的 prompt，模型都选 GPT-4o。在阿里云新加坡节点测得的数据：OpenRouter 首 token 延迟中位数 620ms，OpenAI 官方 580ms，多出 40ms。这点差距在流式场景下几乎无感。但转到国内到海外的网络链路就不一样了——北京 BGP 发 OpenRouter，延迟飙到 1.2s，而走 OpenAI 官方直连反而只有 900ms。原因简单：OpenRouter 的海外节点对国内优化差。\n\nSiliconCloud 在国内有节点，调 DeepSeek-V2 的首 token 延迟能到 380ms，已经非常接近 DeepSeek 官方的 350ms。我用它跑了一个小批量的自动打分任务，100 条×1500 tokens，总耗时 23 秒，跟直调 DeepSeek API 的时间几乎一致。所以如果主要服务国内用户，国内聚合平台在延迟上完全能打。\n\n但如果对延迟极度敏感，聚合平台带来的多一跳仍然不可忽略。我之前做过一次深度优化，把 GPT-4 级别模型的推理延迟从 3 秒压到 800ms，整个过程总结在[大模型推理延迟优化里。那篇文章里的方法，在聚合平台场景下仍然适用：缓存 prompt、流式优先、避免长上下文请求，能抵消掉多一跳带来的额外开销。\n\n## 聚合平台真正省钱的地方不是价格差，是切换成本\n\n看价格，SiliconCloud 的 Qwen-Max 定价 5 元/M tokens，阿里云百炼直签是 5.5 元，差距也就 10%。如果用量不大，靠这个差价省不出几顿饭钱。聚合平台真正省的是人力——不用维护五套 SDK，不用读五份计费文档，不用处理五种 webhook 格式。\n\n我算过一笔时间账：上一个模型接入，从注册、认证、读文档、写适配层、处理鉴权、测试 retry 逻辑，平均要花 3.5 小时。五个模型就是 17.5 小时，相当于两个半工作日。换聚合平台之后，接入新模型只需要在代码里改一行 `model` 参数，30 秒搞定。\n\n更关键的是，聚合平台能让你在模型间快速 A/B 测试。我给站内文章生成摘要时，用 OpenRouter 同时请求 GPT-4o mini、Claude 3 Haiku、Gemini Flash，三个模型返回结果后自动打分。没有聚合平台，我必须写三个不同的客户端，分别调三个不同的端点。聚合平台让我把选型实验从几天压缩到几小时。\n\n说到模型备案，国内使用的模型必须通过生成式 AI 备案。去年北京一口气通过 242 个大模型备案，这里面藏着国内 AI 产业格局的变化，具体分析在北京AI大模型备案分析里。聚合平台提供的国内模型，也都应该是走完备案的，但作为调用方