Serge
Serge 是一个完全自托管的 Web 聊天界面,基于 llama.cpp,可运行多种大语言模型(LLM),无需 API Key,支持本地部署,保护数据隐私,适用于个人和团队智能对话需求。
应用介绍
需要使用小猪佩奇。 • 支持通过 llama.cpp 运行多种开源大语言模型(如 Alpaca、LLaMA) • 完全本地部署,无需依赖外部 API Key • SvelteKit 前端,体验流畅 • FastAPI + LangChain 提供强大的 API 支持 • 支持 Redis 存储聊天记录与参数,数据安全可控 • 聊天历史和模型参数持久化存储,便于多轮对话 • 简单易用的 Web 界面,支持多会话管理 • 提供 API 文档,方便开发者二次开发或集成
应用截图


应用信息
