DeepSeek 的持续火热,吸引了大量个人开发者和企业用户,他们期望借助 DeepSeek 大模型的强大能力,融合私有知识库,训练出契合自身需求的专属大模型,因此纷纷选择通过云端或本地部署的方式来独立部署 DeepSeek。
今天,优刻得就为大家带来第一期超实用干货:仅需 10 分钟,利用 UCloud 云主机 UHost+DeepSeek + Open-WebUI 快速搭建起属于自己的私有化知识库 ,轻松开启大模型个性化应用的大门。
提前预览下私有化知识库的效果:
使用镜像创建云主机
登录 UCloud 官网控制台:https://console.ucloud.cn/ 查找“云主机”
点选 云主机UHost 页面 https://console.ucloud.cn/uhost/uhost
选择地域为 “华北二”—>“主机管理”—>创建主机上选择 “GPU型”
进入创建GPU云主机, 这里大模型专区,机型选择“高性价比显卡6”, 以及选下面具体云主机配置
可用区选“华北二” , 从“镜像市场” ,选择 “大模型专区_Ollama-DeepSeek-R1” 镜像
配置存储
配置网络
配置云主机 ubuntu 账号密码 和 主机名
点右边的“立即购买”
确认订单,并完成支付
到这一步,云主机已经购买完成, 稍等一小会等待该云主机交付完成。
二、使用deepseek + openwebui 配置私有化知识库
回到云主机UHost 页面,并复制外网IP
打开浏览器访问, http://外网ip:8080 ,如下图
点击“开始使用”,创建管理员账号并登录
点选deepseek-r1 版本
为了更方便操作,我们点开右边侧边栏
测试问答对话正常
接下来我们来测试配置私有知识库
先在本地准备一份测试文档
创建知识库
这里我们操作上传刚才准备好的测试文档
知识库创建好了后,接下来请参考下图为知识库配置模型
点击创建好的测试模型,开启测试提问
测试结果符合预期。
提问知识库文档内容“下午茶是什么时间?”,回答“下午茶时间是16:00 左右”。
这里是基于UCloud云主机部署DeepSeek +OpenWebUI的方式实现私有化知识库搭建,具备快速快、私有化强、安全性强的特点。
优刻得将持续为您输出DeepSeek保姆级上手指南,带你从入门到精通。下一期,我们将为您提供基于优刻得模型服务平台DeepSeek-R1(满血版) ,0成本构建智能本地知识库的内容,敬请期待!
如需更多帮助,欢迎扫描下方二维码,或前往官网了解:https://www.ucloud.cn/site/active/gpu.html
联系线上客服咨询指导!
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。
转载请注明本文地址:https://www.ucloud.cn/yun/131189.html
我们身处数字化浪潮中,知识管理和利用的重要性与日俱增。拥有一个专属的本地知识库,能极大提升工作效率,满足个性化需求。但对于技术小白来说,搭建这样的知识库不仅存在技术门槛,同时也意味着需要一定的成本投入。本期 DeepSeek 入门教程,优刻得将为您提供一个0成本基于DeepSeek(满血版)轻松搭建本地知识库的方式。获取优刻得模型服务平台密钥Key登录 UCloud 控制台https://cons...
DeepSeek V3凭借多头潜注意力(MLA)与优化的混合专家网络(MoE)架构,奠定了高效训练的基础,仅以557.6万元成本实现媲美OpenAI O1的性能;而R1则基于V3进一步突破,通过无监督强化学习与知识蒸馏技术,在推理能力上对标顶尖模型,同时开源多尺寸版本,推动更广泛的应用。DeepSeek三种模式对比基础模型(V3):通用模型(2024.12),高效便捷,适用于绝大多数任务,规范性 ...
DeepSeek-R1 Distill系列基于DeepSeek-R1的推理能力,通过蒸馏技术将推理能力迁移到较小的模型上,在保持高效性能的同时,成功降低了计算成本,实现了小身材、大智慧的完美平衡!该镜像使用vLLM部署提供支持,适用于高性能大语言模型的推理和微调任务,第一步:登录「优云智算」算力共享平台并进入「镜像社区」地址:https://www.compshare.cn/?ytag=seo 第...
DeepSeek-R1-671b动态量化版,由unsloth.ai发布,推荐使用多卡进行部署,具体操作如下。本镜像还附带32b的无限制版蒸馏模型,使用open-webui和ollama以及llama.cpp进行部署,内置所有环境,即拉即用。第一步:登录「优云智算」算力共享平台并进入「镜像社区」,新用户免费体验10小时4090地址:https://www.compshare.cn/?ytag=seo...
DeepSeek-R1-32B-WebUIDeepSeek-R1采用强化学习进行后训练,旨在提升推理能力,尤其擅长数学、代码和自然语言推理等复杂任务,该镜像安装和使用 Ollama 和 Open WebUI,以便更好地利用深度学习模型进行推理和交互。第一步:登录「优云智算」算力共享平台并进入「镜像社区」地址:https://www.compshare.cn/?ytag=seo第二步:选择「Deep...
阅读 4468·2025-03-21 11:44
阅读 369·2025-02-19 18:27
阅读 418·2025-02-19 18:21
阅读 364·2025-02-19 13:50
阅读 1526·2025-02-13 22:35
阅读 1023·2025-02-08 10:20
阅读 5887·2025-01-02 11:25
阅读 1043·2024-12-10 11:51