介绍
CLI Proxy API 是一个轻量级命令行代理工具,能够把多个模型服务统一为 OpenAI 兼容接口,并提供密钥轮换、路由和用量统计能力。
核心功能
多模型商支持
根据项目资料整理,使用前请核对当前版本文档。
OpenAI 兼容接口
根据项目资料整理,使用前请核对当前版本文档。
密钥池配置管理
根据项目资料整理,使用前请核对当前版本文档。
智能路由与切换
根据项目资料整理,使用前请核对当前版本文档。
请求与用量统计
根据项目资料整理,使用前请核对当前版本文档。
轻量高效
根据项目资料整理,使用前请核对当前版本文档。
适用场景
- 开发时快速切换模型
- 团队统一管理 API Key
- 为内网应用提供统一网关
- 自动化脚本和 CI/CD
快速安装
brew install cli-proxy-api配置示例
server:
port: 8787
providers:
openai:
type: openai
api_key: sk-xxxxxxxx