https://github.com/006lp/akashchat-api-go
项目简介
akashchat-api-go
是一个为 AkashChat 的 Chat API 提供统一代理接口的服务,兼容 OpenAI 的 chat/completions
格式,让你可以像调用 ChatGPT 一样轻松使用 Akash 上的大模型。
它基于 Go 1.21+ 构建,具备高性能、低依赖、易部署的特点,非常适合本地开发、边缘部署或集成到你的 AI 应用中。
核心特性
- 兼容 OpenAI API:无缝对接现有应用,无需修改代码
- 文本生成:支持 Llama-3、GPT-OSS 等多种高性能模型
- 图像生成:内置对
AkashGen
的支持,一键生成动漫、艺术图
- 自动会话管理:自动处理认证、令牌刷新,省心省力
- Docker 支持:开箱即用的容器化部署
- 轻量可配置:通过环境变量灵活配置服务地址和端口
快速体验
git clone https://github.com/006lp/akashchat-api-go.git
cd akashchat-api-go
go mod tidy
go run cmd/server/main.go
服务启动后,默认监听 localhost:16571
,即可通过标准 API 调用:
curl -X POST http://localhost:16571/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"messages": [{"role": "user", "content": "你好"}],
"model": "Meta-Llama-3-3-70B-Instruct"
}'
也支持 Docker 一键部署(虽然我没测试过),适合生产环境。
欢迎 Fork、提 Issue 或 PR!无论是功能建议、性能优化,还是文档改进,都非常欢迎!