DeepSeek R1系列模型一键部署教程，支持云端免费体验！

社区管理员发布于2025-02-07 13:29 / 12人阅读

DeepSeek-R1 Distill系列

基于DeepSeek-R1的推理能力，通过蒸馏技术将推理能力迁移到较小的模型上，在保持高效性能的同时，成功降低了计算成本，实现了“小身材、大智慧”的完美平衡！该镜像使用vLLM部署提供支持，适用于高性能大语言模型的推理和微调任务，

第一步：登录「优云智算」算力共享平台并进入「镜像社区」

地址：https://www.compshare.cn/?ytag=seo

第二步：选择「vLLM-DeepSeek-R1-Distill」镜像，点击「使用该镜像创建实例」

镜像地址：https://www.compshare.cn/images-detail?ImageID=compshareImage-17ym815cbokz

根据镜像说明中的引导，选择所用模型需要的GPU算力规格，并点击「立即部署」即可拥有一个自带模型的算力资源。

第三步：启动vLLM api 服务，镜像已配置好所需依赖环境，无需额外安装，即可通过以下命令启动vLLM服务：

单卡4090

# DeepSeek-R1-Distill-Qwen-1.5B

vllm serve  /model/HuggingFace/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B --port 8000

# DeepSeek-R1-Distill-Qwen-7B

vllm serve  /model/HuggingFace/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B --port8000 --max-model-len 65536

# DeepSeek-R1-Distill-Llama-8B

vllm serve  /model/HuggingFace/deepseek-ai/DeepSeek-R1-Distill-Llama-8B --port8000 --max-model-len 17984

2卡4090

# DeepSeek-R1-Distill-Qwen-14B

vllm serve  /model/HuggingFace/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B --port8000-tp2 --max-model-len 59968

4卡4090

# DeepSeek-R1-Distill-Qwen-32B

vllm serve  /model/HuggingFace/deepseek-ai/DeepSeek-R1-Distill-Qwen-32B --port 8000 -tp 4 --max-model-len 65168

8卡4090

# DeepSeek-R1-Distill-Llama-70B

vllm serve  /model/HuggingFace/deepseek-ai/DeepSeek-R1-Distill-Llama-70B --port 8000

GPU云服务器云服务器一键体验免费主机备案一键免费体验云主机一键体验公有云一键体验容器云

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/131183.html

DeepSeek Janus Pro多模态模型一键部署教程，支持云端免费体验！

DeepSeek Janus-Pro开源模型DeepSeek团队于1月28日凌晨发布了开源多模态大语言模型Janus-Pro，这是一款基于DeepSeek-LLM-1.5b-base和DeepSeek-LLM-7b-base构建的模型。第一步：登录「优云智算」算力共享平台并进入「镜像社区」地址：https://www.compshare.cn/?ytag=seo 第二步：选择「Janus-Pro-...

miguel.jiang 2025-02-07 13:37 评论0 收藏0
使用Ollama本地化部署DeepSeek

DeepSeek-R1-32B-WebUIDeepSeek-R1采用强化学习进行后训练，旨在提升推理能力，尤其擅长数学、代码和自然语言推理等复杂任务，该镜像安装和使用 Ollama 和 Open WebUI，以便更好地利用深度学习模型进行推理和交互。第一步：登录「优云智算」算力共享平台并进入「镜像社区」地址：https://www.compshare.cn/?ytag=seo第二步：选择「Deep...

miguel.jiang 2025-02-07 13:40 评论0 收藏0
【客户案例】智能驾驶行业如何上云？

摘要：产品新功能发布阿里云发布对象存储支持默认加密功能对象存储在客户端和服务器端具备全面的安全加密能力。针对小鹏汽车的一系列需求，阿里云为其打造业界首个定制车载闪电立方深度学习解决方案。【最新动态】表格存储TableStore全新升级，打造统一的在线数据存储平台！表格存储 TableStore 是阿里云面向海量结构化和半结构化数据自研的 Serverless NoSQL 数据库，被广泛用于社...

kaka 2019-04-24 19:42 评论0 收藏0
Nextcloud个人云存储绝佳选择：一键自动安装方法和云盘使用体验

搭建个人云存储一般会想到ownCloud，堪称是自建云存储服务的经典。而Nextcloud是ownCloud原开发团队打造的号称是下一代存储。初一看觉得口气不小，刚推出来就重新定义了Cloud，真正试用过后就由衷地赞同这个Nextcloud：它是个人云存储服务的绝佳选择。与ownCloud相比，Nextcloud的功能丝毫没有减弱，甚至由于可以安装云存储服务应用，自制性更强，也更符合用户的...

Shisui 2021-07-30 15:14 评论0 收藏0
DeepSeek发布236B参数 160位专家的专家混合(MoE)模型:DeepSeek-V2

项目简介DeepSeek-V2，一个专家混合(MoE)语言模型，其特点是经济高效的训练和推理。它包含 2360 亿个总参数，其中每个token激活了21亿个参数。与 DeepSeek67B相比，DeepSeek-V2 实现了更强的性能，同时节省了 42.5%的训练成本，将 KV 缓存减少了 93.3%，并将最大生成吞吐量提高了 5.76 倍。在 AlignBench 中排名前三，超越 GPT-4，...

UCloud小助手 2024-05-16 09:54 评论0 收藏0