应用介绍
访问令牌为admin123 • 支持通过统一 API 接入多种大语言模型（如 OpenAI） • 提供带权重的随机选择和基于成功率/响应时间的智能负载均衡 • 同时支持流式和标准响应模式 • 自动处理各类速率限制 • 详细日志记录和使用情况统计 • 直观的 Web UI 管理界面，方便管理和监控 • 实时查看请求统计、模型使用情况和请求日志 • 内置提供商连通性测试功能
应用截图
应用信息
访问令牌为admin123 • 支持通过统一 API 接入多种大语言模型（如 OpenAI） • 提供带权重的随机选择和基于成功率/响应时间的智能负载均衡 • 同时支持流式和标准响应模式 • 自动处理各类速率限制 • 详细日志记录和使用情况统计 • 直观的 Web UI 管理界面，方便管理和监控 • 实时查看请求统计、模型使用情况和请求日志 • 内置提供商连通性测试功能