在 AI 大语言模型的激烈竞争中,DeepSeek 脱颖而出,以其强大的自然语言处理能力、出色的代码生成效果和流畅的多轮对话表现,成为众多 AI 爱好者和开发者的心头好。但用户在线使用时频繁遭遇到服务器繁忙的问题,而本地部署能有效解决这一困扰。接下来,让我们一起来探究DeepSeek如何进行本地部署,对比网络版又有什么差别。
丨本地版本和网络版本的优缺点对比
优缺点 | 本地版本 | 网络版本 |
---|---|---|
优点 | 1. 数据隐私有保障,所有数据在本地处理,避免泄露,如企业处理机密文件更安全 2. 响应速度快,不依赖网络,在网络不佳或无网络时也能流畅使用 3. 灵活可定制,用户可根据硬件性能调整参数,开发者能优化模型满足个性化需求 | 1. 便捷易用,通过浏览器或应用程序即可访问,无需复杂安装配置,普通用户易上手 2. 无需硬件升级,只要有网络,无论设备配置高低都能使用 |
缺点 | 1. 硬件成本高,显卡需 GTX 1060(6GB)及以上等较高配置,可能需投入资金升级硬件 2. 技术门槛不低,部署涉及环境配置和模型调试,新手操作困难 | 1. 受网络限制,网络不稳定或拥堵时会出现加载缓慢、连接中断等问题,影响效率 2. 数据隐私存在隐患,数据上传云端处理,有隐私泄露风险 |
可以看得出DeepSeek 的本地版本和网络版各有优劣。如果你对数据隐私、离线使用和定制化有较高要求,且有一定的硬件和技术支持,那么本地部署更适合你;如果你希望快速使用、操作简单,且对数据隐私和定制化要求不高,网络版则是不错的选择。
丨DeepSeek本地部署的安装教程
准备工作:确保设备满足硬件要求;显卡:GTX 1060 ( 6GB ) 及以上,推荐RTX 3060及以上;内存:容量为8GB,推荐16GB及更高,C盘剩余存储空间20GB,推荐使用Nvme固态硬盘。
首先,前往Ollama官网中下载对应系统的程序。( Ollama 是一款开源的大语言模型本地部署工具,官网地址:)
接着,在上方的搜索框中搜索到DeepSeek-r1。根据用户电脑配置去选择模型精度,随后复制右侧的代码。(以1.5b模型精度为例,代码则是ollama run deepseek-r1:1.5b)
DeepSeek模型有多个版本:1.5b、7b、8b、14b、32b、70b、671b,版本越高对GPU要求越高。不同模型精度适配不同的配置,详情可看下图:
模型版本 显卡配置 1.5B 非必需,若需 GPU 加速可选 4GB 显存的如 GTX 1650 7B 推荐 8GB + 显存,如 RTX 3070/4060 8B 推荐 8GB + 显存,略高于 7B 版本需求,如 RTX 3070/4060 也可满足基本需求 14B 16GB + 显存,如 RTX 4090 或 A5000 32B 24GB + 显存,如 A100 40GB 或双卡 RTX 3090 70B 32GB + 显存或多卡并行方案,如 2x A100 80GB 或 4x RTX 4090 671B 多节点分布式训练,如 8x A100/H100 或 AMD MI300X(192G,8 块)
然后,按下“Win+R”打开运行窗口,输入“cmd”打开终端,可先输入“ollama -v”命令查看Ollama程序是否已经安装好。
确认好已安装好程序后,再粘贴刚复制的命令,回车即可开始下载模型。
(注:不同的模型,大小不同,下载的时间也不同,后续若想卸载模型,只需将命令中的run改成rm即可)
部分用户可能会遇到模型下载速度缓慢的情况,此时有个小技巧,只需按下“Ctrl+C”停止下载,再粘贴上方的命令即可重新下载,且保持已下载的进度条。
部署安装完成后,即可在本地运行进行使用DeepSeek。
一些用户可能会觉得没有UI,使用起来不太方便,想要像网络版一样在浏览器上使用,可以下载一个名为Pageassist的浏览器插件。
以Edge浏览器为例,找到右上角选择扩展-管理扩展,开启左侧的“开发人员模式”,把刚下载的插件拖入其中,在弹出的窗口中,点击“添加扩展”。
此时,点击插件图标,选择下载好的模型,即可开始使用。
最后,再点击右上角的设置,将语言设置和语音识别语言都设置为中文即可。
至此,DeepSeek的本地部署安装已经顺利完成,拥有了DeepSeek本地部署环境后,我们可以在享受其强大功能的同时,获得更好的数据隐私保护和使用体验。希望这篇教程能帮助大家顺利完成本地部署,开启属于自己的 AI 探索之旅!
以上就是DeepSeek 本地部署安装指南,让数据安全与 AI 体验双丰收的文章,关注我们官方抖音号【系统总裁网】,可以学习更多电脑知识!