Skip to content

企业级 LLM API 快速集成系统,支持OpenAI、Azure、文心一言、讯飞星火、通义千问、智谱GLM、Gemini、DeepSeek、Anthropic Claude以及OpenAI格式的模型等,简洁的页面风格,轻量高效且稳定,支持Docker一键部署。

License

Notifications You must be signed in to change notification settings

iimeta/fastapi-web

Repository files navigation

智元 Fast API WEB

Release License

企业级 LLM API 快速集成系统,有着轻量、高效、稳定等特点,将各类 LLM API 进行统一格式、统一规范、统一管理,使其在功能、性能和用户体验上达到极致。业务系统只需要按照统一API标准,对接一次的开发工作量,即可无缝对接N个大模型,无需考虑N个大模型背后的各种复杂逻辑等等,可大大降低开发和维护成本...

功能介绍

  • 管理端
    • 仪表盘
    • 模型管理
      • 模型转发功能, 支持智能匹配和正则匹配, 重点! 重点!! 重点!!!
      • 后备代理功能, 当请求代理出现故障时, 将自动转移到后备代理上
      • 后备模型功能, 当请求模型出现故障时, 将自动转移到后备模型上
    • 密钥管理
    • 代理管理
    • 公司管理
    • 用户管理
    • 应用管理
    • 应用密钥
    • 财务中心
      • 账单明细
      • 交易记录
    • 日志管理
      • 聊天日志
      • 绘图日志
      • 音频日志
    • 系统管理
      • 站点配置
      • 配置管理
  • 用户端
    • 仪表盘
    • 我的模型
    • 应用管理
    • 应用密钥
    • 财务中心
      • 账单明细
      • 交易记录
    • 日志管理
      • 聊天日志
      • 绘图日志
      • 音频日志

项目预览

专业版预览

部署支持

✔️ 集群部署
✔️ 多地部署
✔️ 跨区部署

部署教程

公益站点

社区版

专业版

社区版和专业版数据互通, 可以根据自己喜好选择, 社区版用户注册送1000万额度, 专业版用户注册送2500万额度, 专业版支持注册代理商

项目截图

管理端

dashboard model key modelagent corp group user app appkey bill_list deal_record chat reseller site config

代理商

dashboard mymodel mygroup user app appkey bill_list deal_record chat site

用户端

dashboard mymodel mygroup app appkey bill_list deal_record chat

开源地址

仓库 API Web Admin SDK
主库 fastapi fastapi-web fastapi-admin fastapi-sdk
码云 fastapi fastapi-web fastapi-admin fastapi-sdk

作者

作者

交流群

交流群

Star History Chart

About

企业级 LLM API 快速集成系统,支持OpenAI、Azure、文心一言、讯飞星火、通义千问、智谱GLM、Gemini、DeepSeek、Anthropic Claude以及OpenAI格式的模型等,简洁的页面风格,轻量高效且稳定,支持Docker一键部署。

Topics

Resources

License

Stars

Watchers

Forks

Packages

No packages published

Contributors 3

  •  
  •  
  •  

Languages