发帖
 找回密码
 立即注册
搜索
0 0 0
日常闲聊 766 0 8 小时前
项目地址:GitHub  yym68686/uniapi:这是一个统一管理大语言模型(LLM)API 的项目。它能通过统一的 API 接口调用多个后端服务,将其统一转换为 OpenAI 格式,并支持负载均衡。目前支持的后端服务包括:OpenAI、Anthropic、DeepBricks、OpenRouter、Gemini、Vertex 等。

简介

如果是个人使用,one/newapi 过于复杂,有很多个人用不到的商用功能。要是你不想要复杂的前端界面,又希望支持的模型多一些,不妨试试 uniapi。这是一个统一管理大模型 API 的项目,可通过统一的 API 接口调用多个后端服务,统一转换为 OpenAI 格式,支持负载均衡。目前支持的后端服务有:OpenAI、Anthropic、Gemini、Vertex、Cohere、Groq、Cloudflare、DeepBricks、OpenRouter 等。

uniapi 的主要优势

无前端,纯靠配置文件配置 API 渠道。只需写一个文件,就能运行起属于自己的 API 站,文档中有详细的配置指南,对新手很友好。

统一管理多个后端服务,支持 OpenAI、Deepseek、DeepBricks、OpenRouter 等其他采用 OpenAI 格式的 API 提供商。支持 OpenAI Dalle3 图像生成。

同时支持 Anthropic、Gemini、Vertex AI、Cohere、Groq、Cloudflare。Vertex 同时支持 Claude 和 Gemini API。

支持 OpenAI、Anthropic、Gemini、Vertex 原生的 tool use 函数调用。

支持 OpenAI、Anthropic、Gemini、Vertex 原生识图 API。

支持四种负载均衡:
     支持渠道级加权负载均衡,可根据不同渠道权重分配请求。默认不开启,需配置渠道权重。
     支持 Vertex 区域级负载均衡,支持 Vertex 高并发,最高可将 Gemini、Claude 并发量提高(API 数量×区域数量)倍。自动开启,无需额外配置。
     除 Vertex 区域级负载均衡外,所有 API 均支持渠道级顺序负载均衡,可提升沉浸式翻译体验。自动开启,无需额外配置。
     支持单个渠道多个 API Key,自动开启 API key 级别的轮询负载均衡。

支持自动重试,当一个 API 渠道响应失败时,会自动重试下一个 API 渠道。

支持细粒度的权限控制。支持使用通配符设置 API key 可用渠道的特定模型。

支持限流,可设置每分钟最多请求次数,可设置为整数,如 2/min(每分钟 2 次)、5/hour(每小时 5 次)、10/day(每天 10 次)、10/month(每月 10 次)、10/year(每年 10 次)。默认 60/min。

支持多个标准 OpenAI 格式的接口:/v1/chat/completions,/v1/images/generations,/v1/audio/transcriptions,/v1/moderations,/v1/models。

支持 OpenAI moderation 道德审查,可对用户消息进行道德审查,若发现不当消息,会返回错误信息。可降低后台 API 被提供商封禁的风险。

已稳定运行 3 个月。期间还在我们论坛进行过压测,详帖:
    (已寄)上贡 900 美元免费 API,邀请兄弟们给我的新项目压测 资源荟萃

    不喜欢 one/newapi 复杂的功能,自己搞了一个纯用 yaml 配置文件部署的 api 中转项目 uniapi,没有前端,后面可能会补上,适合程序员使用:

    今天的 API 就是用我写的项目部署的。希望兄弟们帮忙点个 star。

    目前还是项目初期,都是很实用的功能:

    目前支持 gpt、claude、Gemini 转 gpt 格式

    并支持图片

    轮询(…

经过大佬们测试,在高并发场景下运行稳定。

我的其他项目:

推荐一下自己开发的 ChatGPT Telegram Bot,目前已经有 400 + star,代码已开源。

开发调优

项目地址:GitHub  yym68686/ChatGPTTelegramBot:TeleChat:️ 一款人工智能聊天 Telegram 机器人,可进行网络搜索,由 GPT3.5/4/4 Turbo/4o、DALL·E 3、Groq、Gemini 1.5 Pro/Flash 以及官方 Claude2.1/3/3.5 等支持……

uniapi 一直用于我的 Telegram 机器人项目,所以稳定性大家不用担心。

如果各位遇到什么 bug 或者有什么功能需求,都可以找我来实现。要是觉得不错,麻烦帮我点个免费的 。
──── 0人觉得很赞 ────

使用道具 举报

感觉理念跟这个差不多
哈哈,没问题。
3 小时前
是的,我刚有这个想法的时候,就有人提到这个项目了。

不过我还是自己动手实现了一下。因为以我的经验来看,咱们站内很多 API 站的请求格式都不太规范。要是依赖别人的项目,很多地方都没法改,还不如自己开发一个,主要就是为了实现自主可控。
奉上星星(由于“star奉上”表述过于简短模糊,这是基于一般理解的一种较符合中文习惯的改写,若有特定背景或含义,可补充更多信息进一步完善。)
您需要登录后才可以回帖 立即登录
高级模式