本地部署大模型(ollama
第一步安装ollama下载官网Ollama第二步推理模型选择以个人知识库为例1下载地址shaw/dmeta-embedding-zhshaw/dmeta-embedding-zh是一个极其轻量、推理高效的中文向量化模型参数规模仅 100M 、支持 1K 上下文长度并且在通用检索、RAG、相似问题检索等场景都有优秀的表现。ollama pull shaw/dmeta-embedding-zh第三步接入可视化UI聊天界面1下载地址Cherry Studio 官方网站 - 全能 AI 工作站对话界面是 Cherry Studio 最常用的页面但其结构包含两个层次助手 → 话题。理解这一结构有助于更高效地使用各类对话功能。助手与话题的关系助手 一个角色如产品文档助理、代码 reviewer话题 与该角色的一段对话如周一讨论重构方案、周二讨论bug 报告也就是说一个助手下可创建多个话题所有话题共用该助手的人设与参数提示词、模型、温度等无需每次重新设定 AI 的角色与风格。助手助手为 AI 设定固定角色 —— 由系统提示词 模型参数预设组成。系统默认助手通用助手未设特殊提示词可直接使用更专项的助手在 助手广场 浏览现成预设或自行创建话题每个助手下可创建多个话题即多段独立对话。话题之间相互独立但共享所属助手的设置。适用场景示例同一个代码助手下分别开项目 A 重构、项目 B bug两个话题独立管理同一个翻译助手下开多个话题分别处理不同文章第四步部署完成对话测试1设置默认模型2开始简单对话第五步高级应用上传知识库训练自己的AI知识储备1启用知识库2新建标签命名为“知识库-工业自动化”添加知识库3知识库配置4添加本地pdf文件5配置成功