准备安装包
先检查平台、权限、磁盘空间与本地文件,问题在执行前就说清楚。
- 系统兼容性检查
- 安装包目录选择
不用在终端里拼装环境。ModelNest 把安装、模型导入、GPU 配置、内置大模型对话和浏览器 Web UI,收进一个本地工作台。
工作区已就绪,等待安装指令
正在检查本机环境与安装包…
推理引擎已安装并启动
已导入 Qwen3-8B-Q4_K_M.gguf
服务已就绪:http://127.0.0.1:8080
ModelNest 不会在安装结束后消失。你能继续管理服务与资源,也能直接在软件里对话,或打开本机 Web UI 使用当前模型。
先检查平台、权限、磁盘空间与本地文件,问题在执行前就说清楚。
自动安装并管理本地推理服务,状态与日志始终可见。
导入、删除、移动和启动 GGUF 模型,按显存给出可理解的资源建议。
留在桌面客户端管理本地会话,或打开浏览器高级界面;两种入口都使用当前运行的本地模型。
查看两种使用方式ModelNest 自带完整的本地对话空间,也保留浏览器 Web UI。日常提问留在软件里,需要高级界面时,一键切到本机浏览器。
新建、搜索、重命名和删除本地会话;选择正在运行的模型,查看流式回答,并可随时停止生成。
模型运行后,从内置对话页打开高级界面。ModelNest 会在系统浏览器中访问本机服务,无需另外部署一套聊天应用。
桌面工作区把安装概览、实时日志、模型管理、对话和设置放在同一套导航里。需要深挖时有细节,只想完成任务时也不会被术语淹没。
INFO 已检测到 Apple M2 Pro · 16GB 统一内存
DONE 推理引擎服务运行正常
INFO 已载入 Qwen3-8B-Q4_K_M.gguf
READY Web UI 已开放于 127.0.0.1:8080
ModelNest 会结合模型大小与可用显存,给出 GPU 层数建议。高级用户还能配置多卡、上下文长度、草稿模型和更多运行参数。
ModelNest 会处理流程,但不会掩盖前置条件。下面这些信息应该在下载之前就看得见。
Linux 说明:当前发布版本暂未启用 Linux 支持。