项目地址:GitHub yym68686/uniapi:这是一个统一管理大语言模型(LLM)API 的项目。它能通过统一的 API 接口调用多个后端服务,将其统一转换为 OpenAI 格式,并支持负载均衡。目前支持的后端服务包括:OpenAI、Anthropic、DeepBricks、OpenRouter、Gemini、Vertex 等。
简介
如果是个人使用,one/newapi 过于复杂,有很多个人用不到的商用功能。要是你不想要复杂的前端界面,又希望支持的模型多一些,不妨试试 uniapi。这是一个统一管理大模型 API 的项目,可通过统一的 API 接口调用多个后端服务,统一转换为 OpenAI 格式,支持负载均衡。目前支持的后端服务有:OpenAI、Anthropic、Gemini、Vertex、Cohere、Groq、Cloudflare、DeepBricks、OpenRouter 等。
uniapi 的主要优势
无前端,纯靠配置文件配置 API 渠道。只需写一个文件,就能运行起属于自己的 API 站,文档中有详细的配置指南,对新手很友好。
统一管理多个后端服务,支持 OpenAI、Deepseek、DeepBricks、OpenRouter 等其他采用 OpenAI 格式的 API 提供商。支持 OpenAI Dalle3 图像生成。
同时支持 Anthropic、Gemini、Vertex AI、Cohere、Groq、Cloudflare。Vertex 同时支持 Claude 和 Gemini API。
支持 OpenAI、Anthropic、Gemini、Vertex 原生的 tool use 函数调用。
支持 OpenAI、Anthropic、Gemini、Vertex 原生识图 API。
支持四种负载均衡:
支持渠道级加权负载均衡,可根据不同渠道权重分配请求。默认不开启,需配置渠道权重。
支持 Vertex 区域级负载均衡,支持 Vertex 高并发,最高可将 Gemini、Claude 并发量提高(API 数量×区域数量)倍。自动开启,无需额外配置。
除 Vertex 区域级负载均衡外,所有 API 均支持渠道级顺序负载均衡,可提升沉浸式翻译体验。自动开启,无需额外配置。
支持单个渠道多个 API Key,自动开启 API key 级别的轮询负载均衡。
支持自动重试,当一个 API 渠道响应失败时,会自动重试下一个 API 渠道。
支持细粒度的权限控制。支持使用通配符设置 API key 可用渠道的特定模型。
支持限流,可设置每分钟最多请求次数,可设置为整数,如 2/min(每分钟 2 次)、5/hour(每小时 5 次)、10/day(每天 10 次)、10/month(每月 10 次)、10/year(每年 10 次)。默认 60/min。
支持多个标准 OpenAI 格式的接口:/v1/chat/completions,/v1/images/generations,/v1/audio/transcriptions,/v1/moderations,/v1/models。
支持 OpenAI moderation 道德审查,可对用户消息进行道德审查,若发现不当消息,会返回错误信息。可降低后台 API 被提供商封禁的风险。
已稳定运行 3 个月。期间还在我们论坛进行过压测,详帖:
(已寄)上贡 900 美元免费 API,邀请兄弟们给我的新项目压测 资源荟萃
不喜欢 one/newapi 复杂的功能,自己搞了一个纯用 yaml 配置文件部署的 api 中转项目 uniapi,没有前端,后面可能会补上,适合程序员使用:
今天的 API 就是用我写的项目部署的。希望兄弟们帮忙点个 star。
目前还是项目初期,都是很实用的功能:
目前支持 gpt、claude、Gemini 转 gpt 格式
并支持图片
轮询(…
经过大佬们测试,在高并发场景下运行稳定。
我的其他项目:
推荐一下自己开发的 ChatGPT Telegram Bot,目前已经有 400 + star,代码已开源。
开发调优
项目地址:GitHub yym68686/ChatGPTTelegramBot:TeleChat:️ 一款人工智能聊天 Telegram 机器人,可进行网络搜索,由 GPT3.5/4/4 Turbo/4o、DALL·E 3、Groq、Gemini 1.5 Pro/Flash 以及官方 Claude2.1/3/3.5 等支持……
uniapi 一直用于我的 Telegram 机器人项目,所以稳定性大家不用担心。
如果各位遇到什么 bug 或者有什么功能需求,都可以找我来实现。要是觉得不错,麻烦帮我点个免费的 。 |