LiteLLM

统一各家大模型 API，一个接口调 ChatGPT/Claude/国产模型。5.6万星。

项目 BerriAI/litellm · 语言 Python · 协议 可持续使用许可

pip

1. pip install litellm
2. litellm 启动代理

安装：

pip install 'litellm[proxy]'

使用 / 启动：

litellm --model ollama/llama3 --port 8000

统一各家大模型 API，一个接口调 ChatGPT/Claude/国产模型。5.6万星。

统一各类 LLM API 代理,兼容 OpenAI

• ⚠️ 可持续使用许可(非纯开源)。国内可用，方便换模型商。

• GitHub：BerriAI/litellm
• 更多用法看官方 README 与 docs，踩坑搜 GitHub Issues