LocalAI

LocalAI 是一个自托管的本地 AI 引擎，提供与 OpenAI 兼容的 API。安装后可以在 Web 界面中选择模型，用于聊天、文生图、文字转语音、语音识别和向量嵌入等场景。对于已经接入 OpenAI API 的脚本、工具或自动化，只需要把 base URL 指向这台懒猫微服上的 LocalAI，就可以切换到本地模型。 这个懒猫微服版本使用 LocalAI 官方 CPU 镜像，不要求显卡。新手可以先从 0.5B 到 4B 的小模型开始测试，确认流程跑通后再尝试更大的模型或图像、语音模型。模型、推理后端、配置和生成文件都会保存在持久化目录中，重启和升级后仍然保留。 LocalAI 启动时不会预装模型。用户可以在内置模型市场中安装模型；如果当前网络无法直接下载模型，也可以先手动下载 `.gguf` 文件，再通过 Import Model / Advanced YAML 导入。