ARBR

开源的 LLM 控制平面，2026 年 9 月 4 日上线 Product Hunt，MIT 协议，可自托管。仓库 2026 年 6 月 17 日公开，用 JavaScript 编写。

它做的事分三层：网关层把 Anthropic、OpenAI、Google Gemini、Amazon Bedrock、Azure OpenAI、Vertex AI、Groq、DeepSeek、Moonshot、xAI、Mistral、NVIDIA NIM、LiteLLM 等统一到同一个端点后面；观测层对每次调用按应用、工作流、团队、用户归属成本、延迟和模型选择；路由层发现「贵模型在干便宜模型能干的活」的机会，并给出证据。

设计上最克制的一点是：开发者显式指定的模型原样放行，只有应用声明 model: "auto" 时才由路由决策，而且只能通过人工启用的规则生效。每次路由决策都会记录为 11 种值之一（explicit、passthrough、rule、auto、ai、cache、semantic_cache、fallback、budget、canary、external），事后可追溯每次请求为什么走了那条路。预算是唯一有独立权限的例外——到阈值可告警、降级或阻断。官方口号是「Prove it. Approve it. Verify it held.」

部署方式：起一个 Docker 容器加一个 MongoDB，把应用里的 OPENAI_BASE_URL 指向它即可，调用方无需改代码。

需要提醒的是，项目很年轻（上线约 11 周，截至 9 月初 27 star），且官方 README 自己写明：未标价的模型会被记录为 0 成本。生产环境使用前建议先读 README 的已知限制。