Open-source style LLM Gateway

一个入口,
接入所有主流模型。

参考 LiteLLM、New API、OpenRouter 的用法:换 base_url 就能在 OpenAI、Claude、Gemini、DeepSeek、通义、Groq、Ollama 之间切换。虚拟密钥、渠道回退、用量日志齐全。

25 家厂商 · 56 个模型预设 · OpenAI 兼容 /v1

Drop-in replacementhttps://www.bycsc.com/v1
from openai import OpenAI

client = OpenAI(
    api_key="rk_live_...",
    base_url="https://www.bycsc.com/v1",
)

for model in ["gpt-4o-mini", "claude-sonnet-4-5", "gemini-2.5-flash", "deepseek-chat"]:
    print(client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": "hi"}],
    ).choices[0].message.content)

渠道目录,不绑定任何一家

OpenAIAnthropicGeminiDeepSeekGroqMistral通义千问Kimi智谱TogetherOpenRouterOllamaAzurexAI豆包SiliconFlow

统一 OpenAI 协议

客户端永远走 Chat Completions。Claude、Azure 等非兼容协议由网关转换,对 SDK 透明。

25+ 厂商预设

OpenAI、Anthropic、Gemini、DeepSeek、通义、Kimi、智谱、Groq、Ollama、vLLM… 点选即接入。

虚拟密钥

对外只发 rk_live_ 令牌。上游 Key 用 AES-GCM 加密存放,从不回显。

路由与回退

按模型名、前缀或 * 分流。主渠道失败自动走 fallback,对齐 LiteLLM Router。

用量可观测

每次请求记录状态、时延、token 和错误。控制台按日、按模型、按渠道汇总。

本地与云端一视同仁

同一套入口接云厂商,也能接本机 Ollama / vLLM / 任意 OpenAI 兼容端点。

三步开始

01

添加渠道

选厂商,填自己的 API Key 和模型列表。

02

签发令牌

生成 rk_live_ 虚拟密钥,给应用使用。

03

改 base_url

SDK 指向 https://www.bycsc.com/v1,模型名随便换。