使用 DeepSeek 搭建一个真正可用的知识库

之前在 b 站发布了一个如何使用 open web-ui 搭建 deepseek-r1 知识库的视频，观看和提问的朋友的较多，看来确实有很多的人对现在搭建 AI 大模型知识库很感兴趣。但是之前这个视频当时重点仅在讲了怎么安装环境，并没有细说怎么配置才能好用，导致很多人虽然试用了，但是效果却不太好。其实这也是现在网上其它类似知识库搭建教程的通病，都没有人真的教你怎么搭建出来一个能正在可用的知识库。

所以，看到过了半年还有人在看这个，我就再次分享一次怎么样搭建一个能真正可使用的知识库。

所需的知识库和前端界面就还是选 open-webui，所需的大模型为：

• DeepSeek-R1:14b            - 这个是推理模型
• bge-m3                           - 这个是嵌入模型

这俩模型可以在低配机器上实现较好的效果，需要一块 16G 显存的显卡就可以全部加载在 GPU 上（两个总共需要13G左右），这样的话推理速度较快。当然如果小一点的显卡也能用，只是会有一部分需要 CPU 来参与，速度会慢一点。

推理模型使用 DeepSeek-R1-R1 系列时，不推荐 DeepSeek-R1:14b 以下模型，1.5b、7b、8b 这三个模型连个提示词都无法理解，再别提啥推理能力。

嵌入模型也不推荐使用 nomic-embed-text，这个模型虽然到处推荐，但是它实在是太小了，模型小意味着能力弱呗，相比而言 bge-m3 目前的比较中各方面都比较优秀，这俩都是支持多语言的。

所以如果没有显卡，纯 CPU 推理的机器，我这里不建议尝试，体验太差了。如果机器资源确实紧张，可以考虑将嵌入模型 bge-m3 换成 nomic-embed-text， 可以稍微减少点显存需要。

本文使用 Windows 系统来介绍，无需 Linux 环境，Windows 系统嘛，使用方便，不解释。