使用 OpenAI SDK 无缝切换国产大模型
·2 分钟阅读·3 次阅读
为什么选择兼容方案?
OpenAI 的 Python SDK 已经成为 AI 开发的事实标准。但直接使用 OpenAI 面临网络限制和模型选择两个问题。
Ciyuano 的兼容方案让你一行代码不改就能在多个模型间自由切换。
原理
OpenAI SDK 的所有请求都发往 base_url:
python# 原生 OpenAI
client = OpenAI(api_key="sk-xxx")
# Ciyuano — 仅改两行!
client = OpenAI(
base_url="https://www.ciyuano.com/v1",
api_key="sk-relay-xxx"
)
底层协议(REST API、SSE 流式、Chat Completions 端点)完全一致。
实战:多模型对比测试
pythonfrom openai import OpenAI
client = OpenAI(
base_url="https://www.ciyuano.com/v1",
api_key="sk-relay-your-key"
)
models = ["deepseek-v4", "glm-5", "qwen-plus"]
prompt = "用 Python 写一个快速排序算法,要求带注释"
for model in models:
print(f"\n=== {model} ===")
response = client.chat.completions.create(
model=model,
messages=[{"role": "user", "content": prompt}],
temperature=0.7,
max_tokens=1024
)
print(response.choices[0].message.content)
框架集成
LangChain
pythonfrom langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="deepseek-v4",
openai_api_key="sk-relay-xxx",
openai_api_base="https://www.ciyuano.com/v1"
)
Vercel AI SDK
typescriptimport { createOpenAI } from "@ai-sdk/openai";
const openai = createOpenAI({
baseURL: "https://www.ciyuano.com/v1",
apiKey: "sk-relay-xxx",
});
Dify / FastGPT / LobeChat
在「模型供应商」中添加 OpenAI 兼容接口,填入 Ciyuano 的 base_url 和 api_key 即可。
最佳实践
- 使用
auto模型:让平台自动选择最优可用模型 - 开启流式输出 (
stream=True):用户体验更好 - 合理设置
max_tokens:控制成本 - 在意价格选
qwen-plus,在意质量选deepseek-v4
总结
OpenAI SDK + Ciyuano = 任意国产大模型的统一入口。不改代码、不换框架、不折腾 Key。
💬 评论功能暂未开放,敬请期待