准备安装包
先检查平台、权限、磁盘空间与本地文件，问题在执行前就说清楚。
- 系统兼容性检查
- 安装包目录选择
把本地 AI，
接上电。
不用在终端里拼装环境。ModelNest 把安装、模型导入、GPU 配置、服务状态和运行日志，收进一个桌面工作区。
模型与推理服务留在你的设备上；安装前请准备管理员权限与至少 10GB 可用空间。
ModelNest
引擎
模型
界面
本地工作区
等待开始安装演示
LOCAL · 127.0.0.1
推理引擎待检查
模型文件未导入
Web UI未启动
工作区已就绪，等待安装指令
正在检查本机环境与安装包…
推理引擎已安装并启动
已导入 Qwen3-8B-Q4_K_M.gguf
服务已就绪：http://127.0.0.1:8080
一键安装全部组件
-
1
检查环境平台 · 权限 · 安装包
-
2
安装引擎自动配置本地服务
-
3
导入模型识别 GGUF 与资源需求
-
4
打开界面得到本机访问地址
不是安装向导。
是一条持续工作的本地 AI 线路。
ModelNest 不会在安装结束后消失。你仍能看见服务是否在线、模型占用什么资源、日志发生了什么，以及下一步该按哪个键。
接通推理引擎
自动安装并管理本地推理服务，状态与日志始终可见。
RUN
127.0.0.1
让模型进场
导入、删除、移动和启动 GGUF 模型，按显存给出可理解的资源建议。
QWEN3
8B · Q4_K_M
6.2 GB / 本地文件
抵达可用界面
启动默认 Web UI，获得明确的本机地址；随时回到 ModelNest 查看状态。
查看真实工作区每一个状态，都有位置。
桌面工作区把安装概览、实时日志、模型管理和设置放在同一套导航里。需要深挖时有细节，只想完成任务时也不会被术语淹没。
推理引擎运行中本地端口 11434
Web UI已就绪本机访问 8080
当前模型Qwen3 8BGPU 加速已启用
实时输出自动滚动 · 已开启
INFO 已检测到 Apple M2 Pro · 16GB 统一内存
DONE 推理引擎服务运行正常
INFO 已载入 Qwen3-8B-Q4_K_M.gguf
READY Web UI 已开放于 127.0.0.1:8080
Q3
Qwen3-8B-Q4_K_MGGUF · 6.2 GB · 已就绪
DS
DeepSeek-R1-Distill-7BGGUF · 5.4 GB · 已停止
模型存储位置/Users/you/Models
GPU 设备自动选择可用加速设备
诊断报告收集版本、状态与本地日志
显存不够，不该等到启动失败才知道。
ModelNest 会结合模型大小与可用显存，给出 GPU 层数建议。高级用户还能配置多卡、上下文长度、草稿模型和更多运行参数。
- GPU 与多卡自动检测设备
- 资源分配全量 / 自动 / CPU
- 异常恢复失败时给出日志
GPU ALLOCATION UNITLOCAL / DEVICE 0
检测到的显存16.0 GB
预计模型需求11.8 GB
建议配置预计保留 4.2 GB 余量，可稳定启动。
先确认设备，再按下安装。
ModelNest 会处理流程，但不会掩盖前置条件。下面这些信息应该在下载之前就看得见。
macOS
- 系统版本
- macOS 10.15 或更高
- 处理器
- arm64 / M 系列芯片
- 安装权限
- 需要管理员权限
- 磁盘空间
- 至少 10GB，模型另计
Windows
- 系统版本
- Windows 10 / 11
- 处理器
- 64 位 x86 处理器
- 安装权限
- 以管理员身份运行
- 磁盘空间
- 至少 10GB，模型另计
Linux 说明：当前发布版本暂未启用 Linux 支持。
你的本地模型，
该有一个像样的入口。
选择平台，准备好安装包与模型文件。剩下的步骤，交给 ModelNest 在桌面上带你完成。