Open-source style LLM Gateway
一个入口,
接入所有主流模型。
参考 LiteLLM、New API、OpenRouter 的用法:换 base_url 就能在 OpenAI、Claude、Gemini、DeepSeek、通义、Groq、Ollama 之间切换。虚拟密钥、渠道回退、用量日志齐全。
25 家厂商 · 56 个模型预设 · OpenAI 兼容 /v1
Drop-in replacementhttps://www.bycsc.com/v1
from openai import OpenAI
client = OpenAI(
api_key="rk_live_...",
base_url="https://www.bycsc.com/v1",
)
for model in ["gpt-4o-mini", "claude-sonnet-4-5", "gemini-2.5-flash", "deepseek-chat"]:
print(client.chat.completions.create(
model=model,
messages=[{"role": "user", "content": "hi"}],
).choices[0].message.content)渠道目录,不绑定任何一家
OpenAIAnthropicGeminiDeepSeekGroqMistral通义千问Kimi智谱TogetherOpenRouterOllamaAzurexAI豆包SiliconFlow
统一 OpenAI 协议
客户端永远走 Chat Completions。Claude、Azure 等非兼容协议由网关转换,对 SDK 透明。
25+ 厂商预设
OpenAI、Anthropic、Gemini、DeepSeek、通义、Kimi、智谱、Groq、Ollama、vLLM… 点选即接入。
虚拟密钥
对外只发 rk_live_ 令牌。上游 Key 用 AES-GCM 加密存放,从不回显。
路由与回退
按模型名、前缀或 * 分流。主渠道失败自动走 fallback,对齐 LiteLLM Router。
用量可观测
每次请求记录状态、时延、token 和错误。控制台按日、按模型、按渠道汇总。
本地与云端一视同仁
同一套入口接云厂商,也能接本机 Ollama / vLLM / 任意 OpenAI 兼容端点。
三步开始
01
添加渠道
选厂商,填自己的 API Key 和模型列表。
02
签发令牌
生成 rk_live_ 虚拟密钥,给应用使用。
03
改 base_url
SDK 指向 https://www.bycsc.com/v1,模型名随便换。