DS R1本地化部署标准版需要什么硬件配置?DeepSeek全球爆火引发部署适配潮
“在本地部署DS R1的标准版本需要什么样的硬件配置?” DeepSeek目前正在世界各地蓬勃发展,并正在迎来一波部署改编。不仅拥有海外巨头,主要的国内云平台,国内AI芯片制造商,智能计算公司,软件上市公司等。也引发了许多从业者的讨论。
DeepSeek通过自己的努力“降低”了计算能力的成本,最近引起了人们对过度计算能力的担忧,但凯利安斯记者了解到,DeepSeek对计算电场的影响是复杂且多方面的。几位受访者说,尽管DeepSeek减少了对GPU的需求,但随着部署适应浪潮的出现,可能受到大型模型培训可能限制的计算电源资源已被广泛使用。从长远来看,高质量的开源和低价模型将带来AI的巨大繁荣,对计算能力的需求不会增加,而是减少。
DeepSeek部署适应趋势
“目前,许多用户已经开始自行部署DeepSeek,对中小型计算能力的需求正在增加。”一名卡计算经销商在接受Cailianshe采访时说。 “通常,用户选择A100和H20或更高版本来定位DeepSeek。”
但是,一些从业者还说:“部署自己是不现实的,您仍然需要浏览云平台。当然,这取决于您选择的模型的规模。”
Cailianshe记者发现,本月有20多家云服务和智能计算公司宣布了对DeepSeek的支持,包括Huawei Cloud,Tencent Cloud,Alibaba Cloud,Baidu Smart Cloud,Volcano Engine,JD Cloud和三个主要操作员云。当正式宣布时,许多制造商还使用“一键式部署”,“三分钟通话”和“零代码”作为口号。
在6日晚上,来自Cailianshe的记者从Netease Youdao中学到了NetEase YouDao将完全接受DeepSeek-R1。它的“ YouDao Xiao P”结合了DeepSeek-R1超长思维链提供的思维和分析功能,以进一步优化。个性化的问答功能;嗨,Echo,Youdao Zhiyun,Qanything和其他产品也将完全连接到DeepSeek的推理能力,并将在不久的将来逐步升级;一种新的智能硬件产品,该产品将很快发布,该产品集成了新的推理模型功能和2.0版本的“ YouDao Xiao P”。
在春季节日期间,海外技术巨头Microsoft,Nvidia,Intel,AMD,Amazon等是第一个推出DeepSeek的人。 DeepSeek概念在蛇年开放A股市场开放的前三个交易日继续保持强劲,“点燃”了技术领域。
根据不完整的评论,Cape Cloud(688228.sh),Xinzhi软件(688590.sh),Yuntian Lifei-U(688343.sh),Baoland(688058.sh)(688058.sh)和Wanxing Technology(300624.SSS),平行技术(平行技术) 839493.BJ),Daotong Technology(688208.SH),Bangyan Technology(688132.sh),Xiechuang Data(300857.sz),Nanwei软件(603636.sh),ANHENG信息。
在6日下午,由于无法抵制需求,DeepSeek很快说:“由于服务器资源短缺,API服务补给已被暂停。”
“无论是国内还是海外,越来越多的人都知道DeepSeek的存在并开始尝试AI工具,从而增加了一波交通。” Lingxi Light年的联合创始人Zhang Liang告诉Cailianshe Reporters。
据报道,DeepSeek-R1推理模型已证明其强度与OpenAI在数学,编程和逻辑推理领域的顶级模型相媲美,与此同时,它已显着降低了90%-95%的API通话费用。天使投资人兼高级人工智能专家郭陶(Guo Tao)告诉凯利安斯(Cailianshe)记者,企业加速其“拥抱” DeepSeek的趋势通常基于战略考虑和长期发展需求。
“一方面,作为一种先进的大型模型技术,DeepSeek具有广泛的应用程序前景和商业价值。通过与他们合作,上市公司可以扩大其业务领域,提高技术水平并提高其市场竞争力。另一方面,随着AI技术不断发展,越来越多的公司开始意识到其业务创新和效率提高的潜力,因此选择与大型模型技术提供商合作已成为不可避免的趋势。”
郭陶还提到:“在某些情况下,有些公司通过宣布与DeepSeek的合作来赢得普及并引起市场关注并提高股价。”
对计算能力的需求增加而不是下降
DeepSeek仍然很受欢迎,其对计算能力需求的影响已成为该行业中讨论最多的主题之一。
关于云平台和大型模型(例如DeepSeek)的合作部署,郭陶(Guo Tao)表示,云平台将提供必要的计算资源,存储资源和网络带宽,以支持大型模型的操作和数据处理。在合作过程中,双方将共同优化模型性能并改善用户体验。此外,云平台还负责大型模型的操作和维护管理,以确保其稳定的操作以及及时更新和迭代。通过此模型,云平台可以提供高效且方便的大规模模型服务,并促进其自己的业务发展。
上述卡计算商承认,计算能力需求将在云平台上在一定程度上受到影响。
但是,张梁说:“实际上,主要的云平台本身具有第三方AI大型模型框架的访问功能,因此访问DeepSeek是一种共同的行为。对主要云平台的主要访问是B端制造商,这是B端制造商,这是制造商的类型是DeepSeek的API基础功能,可以向更多的C端用户开放,也可以作为开发更多垂直应用的基本模型。
从长远来看,张梁认为DeepSeek将增加计算能力需求:“ DeepSeek降低了整个AI模型的成本并提高了质量很高,因此将基于IT得出许多垂直应用程序。AI领域如果您看待5年,10年和20年的尺寸,AI仍将填补我们的日常生活,而DeepSeek可能会成为该基础设施的作用,那么它仍处于早期阶段。总体而言,底部价格便宜,用法将增加。”
Netease Youdao首席执行官周冯还表示,高质量的开源和低价车型将不可避免地为AI带来巨大的繁荣。 DeepSeek将为数千个行业带来巨大变化。降低AI成本将不可避免地加速行业的发展,并将很快成为AI的使用和更多的计算能力要求。
上述卡计算经销商还告诉Cailianshshe记者:“模型培训的计算能力需求可能会受到影响,但这将是短期的,GPT-5以后会带来巨大的需求。”
一些国内AI芯片从业人员还分析了,由于DeepSeek的影响,对大规模智能计算中心的需求预计今年将暂时停职。根据AI计算电源服务器供应链人的说法,在构建中的计算能力中心中,高性能计算能力(例如4090,5090,H100等)通常在商业或互联网行业中使用,这也是IT的方向主要提供给客户。他认为,DeepSeek的出现可能会推动对国内计算能力的需求的增长,但技术路线在短期内不会改变。
发表评论
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。