文档 · 接入
OpenAI SDK 接入
使用 OpenAI 官方 SDK(Python / Node.js)或直接发 HTTP 请求接入。已有 OpenAI 代码只需改 Base URL 和 API Key。
安装
pip install --upgrade openai初始化客户端
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ["OPENAI_BASE_URL"], # https://<your-endpoint>/v1
api_key=os.environ["OPENAI_API_KEY"],
timeout=300, # seconds; use streaming for long outputs
max_retries=3, # built-in exponential backoff (429 / 5xx / network)
)OpenAI SDK 的 Base URL 必须以
/v1 结尾,例如 https://<your-endpoint>/v1。缺少 /v1 会得到 404。使用环境变量
不在代码里写地址也可以:设置以下环境变量后,OpenAI() 无参数初始化即可。
# Find your endpoint and API key in the console
export OPENAI_BASE_URL="https://<your-endpoint>/v1"
export OPENAI_API_KEY="YOUR_API_KEY"直接使用 HTTP
任何语言都可以直接发 HTTPS 请求,请求体与 OpenAI 一致:
curl https://<your-endpoint>/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4.1-mini",
"messages": [{"role": "user", "content": "Hello!"}]
}'第三方框架与工具
支持自定义 OpenAI Base URL 的框架都可以直接使用,例如 LangChain(ChatOpenAI(base_url=..., api_key=...))、LlamaIndex、Vercel AI SDK(createOpenAI({ baseURL })),以及各类支持「OpenAI 兼容」配置的客户端。把 Base URL 填为控制台中的地址(带 /v1),模型名填目录中的模型 ID 即可。