UiharuMind 是一个开源的 AI 大模型工具，支持在本地运行 GGUF 格式的 AI 语言模型(基于 llama.cpp)，并通过 UiharuMind 的界面进行交互，支持角色配置、快捷操作(截图、翻译)、本地知识库聊天等。同时也可以设置远程模型调用。支持 Mac、Windows 平台。
C#
8
862 commits
updated Oct 6, 2026
README
UiharuMind
UiharuMind 目前支持的功能有：
- 本地化部署 AI 模型：UiharuMind 可以运行 GGUF 格式的的本地 AI 语言模型(后端通过调用 llama.cpp 实现)
- 远程模型调用：UiharuMind 也支持远程模型调用，可以通过 UiharuMind 的界面调用远程的 AI 模型，并获取模型的输出。
- 常规聊天：支持工具人、角色扮演两种类型的聊天模式，可以和 AI 模型进行交流。
- 快捷功能：通过一些快捷键调出快速操作，例如复制文字、图片后快速操作。
- 截图：多模态 AI OCR、截图聊天
- 知识库聊天(支持文件、文本、文件夹、网址)
注： 因为本地部署的 AI 模型后端是使用 llama-server 开启了一个兼容 OpenAI 格式的本地服务器，因此其实也可以作为其它应用需要的远程 AI 的后端(本地部署)。 默认端口为 1369，连接时直接填入 IP:1369 即可。 例如：http://127.0.0.1:1369
请注意：虽然本地运行 AI 模型方便， UiharuMind 也对 llamacpp 调用尽量做到了封装，但至少需要知道些基础知识，例如 llamacpp 各个版本的区别、参数作用、电脑配置顶不顶得住等。否则建议还是使用远程的 AI 模型。
更多可以参考：UiharuMind 工具使用指南
Similar repos
UiharuMind 是一个开源的 AI 大模型工具，支持在本地运行 GGUF 格式的 AI 语言模型(基于 llama.cpp)，并通过 UiharuMind 的界面进行交互，支持角色配置、快捷操作(截图、翻译)、本地知识库聊天等。同时也可以设置远程模型调用。支持 Mac、Windows 平台。
C#
8
862 commits
updated Oct 6, 2026
README
UiharuMind
UiharuMind 目前支持的功能有：
- 本地化部署 AI 模型：UiharuMind 可以运行 GGUF 格式的的本地 AI 语言模型(后端通过调用 llama.cpp 实现)
- 远程模型调用：UiharuMind 也支持远程模型调用，可以通过 UiharuMind 的界面调用远程的 AI 模型，并获取模型的输出。
- 常规聊天：支持工具人、角色扮演两种类型的聊天模式，可以和 AI 模型进行交流。
- 快捷功能：通过一些快捷键调出快速操作，例如复制文字、图片后快速操作。
- 截图：多模态 AI OCR、截图聊天
- 知识库聊天(支持文件、文本、文件夹、网址)
注： 因为本地部署的 AI 模型后端是使用 llama-server 开启了一个兼容 OpenAI 格式的本地服务器，因此其实也可以作为其它应用需要的远程 AI 的后端(本地部署)。 默认端口为 1369，连接时直接填入 IP:1369 即可。 例如：http://127.0.0.1:1369
请注意：虽然本地运行 AI 模型方便， UiharuMind 也对 llamacpp 调用尽量做到了封装，但至少需要知道些基础知识，例如 llamacpp 各个版本的区别、参数作用、电脑配置顶不顶得住等。否则建议还是使用远程的 AI 模型。
更多可以参考：UiharuMind 工具使用指南