使用本地大模型养马（Hermes Agent）和虾（OpenClaw），持续更新

本文仅围绕本地大模型在“养马”（Hermes Agent）和“养虾”（OpenClaw）场景下的使用建议展开，不讨论云端大模型，也不对比二者优劣。若您使用云端模型，请直接关闭本文，无需继续阅读。

本地模型选择

当前大模型迭代极快，几乎每隔一段时间就有新版本发布——但其中绝大多数是云端模型，鲜有适合本地部署的版本。真正能在家用机（需配备独立显卡/GPU）上跑起来、且能胜任“养马养虾”任务的模型，选择十分有限。

经过我的一系列对比测试，截至2026年6月，在家用机上效果最好的本地模型是 Qwen3.6-27B。后续我也会持续跟进，更新推荐列表。

需要特别提醒：同系列的 Qwen3.6-35B-A3B 虽然参数标称更大，但它是 MOE（混合专家）架构，推理效果远不如 Qwen3.6-27B，请勿选错。

截至2026年8月，最好的本地模型是 Qwen3.8-27B，unsloth 出品的 Q4 量化版比之前千问官方的 Qwen3.6-27B 占用的显存要大幅降低。

部署方式