工具档案
litellm 是什么?
统一封装100+LLM API的Python SDK及代理网关,支持OpenAI原生格式调用。可实现成本追踪、流量控制、日志审计等企业级需求。面向需要多模型管理的DevOps和LLMOps团队。
ToolPulse 结论
litellm拥有4.9万stars,topic标签显示其定位为ai-gateway和llmops工具。openIssues高达3556,这在本次候选中居首,说明用户基数大但反馈问题多,需评估维护响应速度。topics包含bedrock、azure-openai、vertex-ai等企业级云服务商,差异化在于支持私有化部署场景。适合需要统一接口调用多云LLM的企业。
历史推荐记录
- 2026-05-31:第 3 名,信号分 96,值得试用
来源证据
ToolPulse AI 的判断基于公开仓库信息、项目描述、近期更新、GitHub stars 和工具分类信号。
打开原始项目