AI引发本地部署热潮。
随着DeepSeek持续火爆出圈，人们开始不满足于网页端和APP端上使用DeepSeek，而尝试将DeepSeek进行本地化部署。本地化部署是指将DeepSeek的AI大模型安装到本地计算机内，不依赖网络或云服务。记者搜索视频网站发现，不少用户上传了如何将DeepSeek部署到本地计算机的教程，不少视频浏览量超过100万。
DeepSeek引发本地部署热潮
教人部署DeepSeek也成为了一门生意。记者通过在电商平台搜索“DeepSeek本地部署”发现，不少店铺开辟了DeepSeek本地部署的生意，这些服务单价从几元到几十元不等，其中一些服务近期已有1000人购买。
一位尝试过部署的AI爱好者告诉记者，网络端运行响应速度较慢，并且访问量过大时候，时常出现“服务器繁忙，请稍后再试。”为了获得更好的使用体验，他就尝试采用DeepSeek进行本地部署。据了解，本地部署不需要掌握深厚的编程知识，通过教程按部就班，即可部署成功。
艾媒咨询首席分析师张毅告诉记者：“本地部署支持个人根据需求，对DeepSeek进行一些定制化修改，也是之一。”张毅补充道，本地部署中个人数据不上云，可满足隐私需要。
DeepSeek发布了不同参数量的模型，小至10亿参数，大至6710亿参数，参数越大所需的计算资源就越大。由于个人电脑手机等设备的计算资源受限，6710亿参数的DeepSeek模型往往无法本地部署。“普通笔记本电脑只能部署10亿参数的版本，如果个人电脑配有好的GPU显卡或较高内存（比如32GB），那么可以跑70亿参数版本的DeepSeek。”上述AI技术爱好者告诉记者。
从本地部署的效果而言，参数越小的版本，大模型的回答质量越差。“我尝试本地部署过70亿参数版本的DeepSeek，运行较流畅，但是回答质量还比云端版本差很多，更小参数版本的效果会更差。”上述AI爱好者表示。
在DeepSeek本地部署的热度下，专门在PC中添加了NPU的AI PC有望迎来销量增长。据了解，华为、联想、戴尔等电脑品牌纷纷推出AI PC，这种新型PC搭载有专门处理本地部署AI大模型计算的处理器芯片，这些处理器芯片均由英特尔、AMD、高通等芯片厂提供。
这些AI PC可在本地部署并流畅运行上百亿参数的AI大模型，例如本次CES 2025年上，AMD就推出了Ryzen AI max系列处理器，称可在电脑本地运行700亿参数AI大模型。不过，配置有该处理器芯片的AI PC售价不菲，据了解，华硕某游戏本价格近1.5万元。另外，也有人质疑，花大价钱买AI PC，进行AI大模型的本地部署，实现功能却和云端AI大模型高度重合，AI PC仅仅是厂商的噱头而已。
企业尝试本地部署DeepSeek
除了个人开启DeepSeek本地部署之外，企业也开始跃跃欲试。蛇年工作日的第一天，蒂姆维澳创始人王加辉发布一条微信朋友圈：“DeepSeek大模型本地电脑部署体验成功，导入煤矿知识安全库进行问答，下一步让它结合工业现场作业。”
蒂姆维澳是一家提供工业管理解决方案的企业，它面向采矿业、石油业等行业，运用AR眼镜和AI软件，为工业现场人员的维修、质检、故障排查，提供实时观察和指导。王加辉告诉记者，此前仅采用通义千问AI大模型打造了本地知识库问答，鉴于DeepSeek更好的推理能力，他正考虑将DeepSeek和业务深度融合。
“我们会在DeepSeek基础上，根据特定工业场景的需求和数据，对特定参数进行微调，或者进行二次开发，以适配IT系统和实现新功能。”王加辉向记者表示：“我们目标是将DeepSeek部署在本地，并和现场的相机进行联动，从而更好地识别现场的危险作业，并实现隐患排查和产品质检等功能。”
他认为，工业客户是否采用本地部署主要取决于数据的涉密性。“一些国企、军工、医疗设备企业往往要求我们实施本地部署的方案，因为它们对于数据安全的要求较高。”他进一步补充道：“非涉密场景可采用云端接入的方案，虽然会出现操作延时，但是影响不大，并且方案价格更低。”
如果采用本地部署，这些客户要求配置装有4卡或8卡GPU的服务器，实现DeepSeek本地推理服务。“我的客户普遍选择英伟达的消费级显卡来配置服务器，例如4090，性价比较高。”王加辉表示：“如果客户有国产化配置要求，我们会采购价格更高的国产GPU显卡。”
除工业外，越来越多企业开始本地部署DeepSeek。称DeepSeek可应用于信息检索、文档处理、行业研究、市场研判等场景。此外，医疗行业、网络安全等行业内的企业近期也在本地化部署DeepSeek，包括、奇虎360等。
张毅告诉记者，随着企业对本地化部署要求扩大，国产推理算力的需求量将增加，加上美国对高端芯片封禁，国产芯片算力企业将迎来较大机遇。
AI应用将爆发
高通CEO克里斯蒂亚诺·安蒙（Cristiano Amon）称，DeepSeek-R1是AI产业的转折点，AI推理将向端侧迁移，AI将变得更小、更高效、更定制化，并且基于特定场景的AI大模型和AI应用将出现。中航证券研报认为，DeepSeek-R1说明了端侧AI部署将变得更加普惠，万物智能时代将加速到来。
开源将吸引更多开发者在DeepSeek基础上构筑应用。华为昇腾、摩尔线程、壁仞科技、天数智芯等国产GPU卡已经适配DeepSeek；腾讯云、阿里云、移动云、华为云等云厂商也和DeepSeek完成适配。对国产算力的适配优化，有望进一步降低推理侧的成本。
由于国内应用付费的习惯尚未完全成熟，AI应用的商业化可能受阻。国金计算机首席孟灿认为，美国对应用付费有着10年，甚至20年基础，这对AI应用的商业化有助益，而国内由于尚无此基础，AI应用落地及商业化的时间进度会较慢。不过，国内正在不断追赶，时间进度有望缩短至半年以内。
还没有评论，来说两句吧...