使用 OpenAI SDK 无缝切换国产大模型

为什么选择兼容方案？

OpenAI 的 Python SDK 已经成为 AI 开发的事实标准。但直接使用 OpenAI 面临网络限制和模型选择两个问题。

Ciyuano 的兼容方案让你一行代码不改就能在多个模型间自由切换。

---

原理

OpenAI SDK 的所有请求都发往 base_url：

python
# 原生 OpenAI
client = OpenAI(api_key="sk-xxx")

# Ciyuano — 仅改两行！
client = OpenAI(
    base_url="https://www.ciyuano.com/v1",
    api_key="sk-relay-xxx"
)

底层协议（REST API、SSE 流式、Chat Completions 端点）完全一致。

---

实战：多模型对比测试

python
from openai import OpenAI

client = OpenAI(
    base_url="https://www.ciyuano.com/v1",
    api_key="sk-relay-your-key"
)

models = ["deepseek-v4", "glm-5", "qwen-plus"]
prompt = "用 Python 写一个快速排序算法，要求带注释"

for model in models:
    print(f"\n=== {model} ===")
    response = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": prompt}],
        temperature=0.7,
        max_tokens=1024
    )
    print(response.choices[0].message.content)

---

框架集成

LangChain

python
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="deepseek-v4",
    openai_api_key="sk-relay-xxx",
    openai_api_base="https://www.ciyuano.com/v1"
)

Vercel AI SDK

typescript
import { createOpenAI } from "@ai-sdk/openai";

const openai = createOpenAI({
  baseURL: "https://www.ciyuano.com/v1",
  apiKey: "sk-relay-xxx",
});

Dify / FastGPT / LobeChat

在「模型供应商」中添加 OpenAI 兼容接口，填入 Ciyuano 的 base_url 和 api_key 即可。

---

最佳实践

1. 使用 auto 模型：让平台自动选择最优可用模型
2. 开启流式输出 (stream=True)：用户体验更好
3. 合理设置 max_tokens：控制成本
4. 在意价格选 qwen-plus，在意质量选 deepseek-v4

---

总结

OpenAI SDK + Ciyuano = 任意国产大模型的统一入口。不改代码、不换框架、不折腾 Key。