本地部署最强开源模型DeepSeekr1
最近的DeepSeek-R1模型,在全球范围内掀起一波浪潮,在海外技术论坛引发轰动,甚至有人将它称为 最强开源大模型
黑神话悟空的CEO称 “DeepSeek可能是个国运级别的科技成果”, 我们在这就不过多赘述DeepSeek-r1的能力了,
最近由于deepseek的爆火以及不限量管饱的访问,导致全球数以亿计的并发涌入,有点招架不住了,可能会短时间出现了这个聊崩的场面。

”主播主播有没有办法可以把这样功能强大的模型“搬回家”,在自己的电脑上直接运行?“
”有的有的,像这样强的模型有九个“
🌟
DeepSeek-R1-Distill-Qwen-1.5B
DeepSeek-R1-Distill-Qwen-7B
DeepSeek-R1-Distill-Llama-8B
DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-32B
DeepSeek-R1-Distill-Llama-70B
DeepSeek-R1-Zero
DeepSeek-R1
DeepSeek-R1-Distill
作为开源模型,我们完全可以在自己 本地部署一个自己的deepseek-R1 (当然是量化后的版本,否则消费级显卡无法承受),
deepseek-r1可能是目前当之无愧的开源模型之王,本地部署,解决了以前开源模型能力不足问题,同时保证了稳定的回复以及信息私密性
接下来, 将会用小白都看得懂的教程来完成deepseek-r1的本地部署和使用 ( 文末有deepseek优秀提示词分享 )
部署准备工作
在开始部署之前,我们需要了解一些基础知识:
硬 件要求
显卡配置是关键因素
不同型号对应不同显存需求
建议使用4GB以上显存的显卡
软件准备
Ollama运行环境
合适的用户界面(UI)
稳定的网络环境
详细部署步骤
1、下载ollama
www.ollama.com

选择适合自己的版本,这里我以windows为例

2、拉取deepseek-r1模型
模型参考
这里给一张表在评论区,根据量化之后的大小,以及适配的显存和消费级显卡,供大家参考
说明:
显存需求 :基于 4-bit 量化模型的显存需求。
显卡推荐 :根据显存需求和显卡性能推荐的显卡型号。
适用性 :
资源有限的用户 :推荐使用 1.5B 或 7B 模型,它们可以在单张消费级显卡上运行。
需要更高性能的用户 :可以选择 14B 或 32B 模型,但需要多 GPU 配置。
高端计算环境 :70B 模型适合高端计算环境,需要多张高端 GPU 支持。
如何查看自己电脑的显存
我如何知道自己电脑的显存大小or显卡配置
按下Win+R组合键,打开运行对话框,输入“dxdiag”并回车。在DirectX诊断工具窗口中,点击“显示”选项卡,即可查看显存信息。


例如我的显存是6G,因此选择7B模型
ollama run 命令:
1.5B Qwen DeepSeek R1 :
ollama run deepseek-r1:1.5b
7B Qwen DeepSeek R1 :
ollama run deepseek-r1:7b
8B Llama DeepSeek R1 :
ollama run deepseek-r1:8b
14B Qwen DeepSeek R1 :
ollama run deepseek-r1:14b
32B Qwen DeepSeek R1 :
ollama run deepseek-r1:32b
70B Llama DeepSeek R1 :
ollama run deepseek-r1:70b
如果下载过慢要考虑科学上网,至此就可以正常于deepseek-r1 7B的量化版本对话了,
不过还是在终端上进行对话,

因此我们可以选择一个合适的对话UI
3、部署chat-UI
Page Assist (网页端)
便捷的浏览器插件
自动识别本地端口
操作简单直观
https://chromewebstore.google.com/detail/page-assist-%E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo


Chatbox (客户端)
功能更加全面
支持多种模型接入
配置灵活多样
https://chatboxai.app/zh


点击设置,选择OLLAMA作为模型提供方,默认API域名即可,如果失败则点击 此教程

4、deepseek-r1交互技巧
使用技巧与优化 DeepSeek-R1的特点是注重推理过程和深度思考,建议:
提供清晰的上下文
循序渐进地提出问题
善用追问和引导
这里给大家分享WaytoAGI小伙伴们一起研究的内容,包括详解和实践指南
详解:DeepSeek深度推理+联网搜索 目前断档第一 (链接见评论区)
📚 收录了市面上比较代表性的文章
🌊 引发的现象(英伟达盘前跌幅14%)
🤖 系统提示词套出
📥 技术报告下载
👀 业界锐评(海内外的大V评论)
👤 创始人信息
附提示词使用技巧
DeepSeek-R1提示词交互实践指南 (链接见评论区)
总结展望 本地部署DeepSeek-R1不仅能解决稳定性问题,更能保证数据安全。随着技术的发展,相信会有更多优秀的开源模型供我们选择。
嗨,我是Yeadon!
一名人工智能专业的大三学生,正在努力成为AI时代的超级个体~



共有 0 条评论