APP下载
APP二维码
联系我们
APP二维码
返回

上海智能算力资源统筹调度服务平台:降低AI中小企业创新成本,推动大模型生态繁荣

来源:网络   作者:   日期:2025-03-06 17:28:21  

为了在上海经济信息技术委员会的指导下,上海仪器和权力降低人工智能中中小型企业的创新成本,将带头构建上海智能计算资源协调和调度服务平台(以下称为“ Shanghai Squanuling Platform”)。该平台旨在准确匹配各方的多方供求,整合和调度资源,并支持和繁荣上海大型模型创新生态系统。

上海调度平台将包括主要功能部门,例如计算电源超市,计算电源管理和计算功率集成。计算能力超市的核心定位是“建立计算能力交易生态系统并促进供求中的多边交易”,包括两个部分:计算功率产品购物中心和计算功率投标市场。计算能力管理的核心定位是“总结监视,计费,资源统计和其他数据,以实现计算能力的协调计划”,包括直接交易连接,监视和计费数据报告以及视觉数据分析。计算功率集成的核心定位是异质和异构计算功率资源管理和调度,包括计算功率调度,任务调度和计算功率补贴闭环管理。

最近,在上海仪器主持的特殊活动“智能计算引擎行业 - 当前的分类新章节”,由上海仪器技术有限公司(以下称为“智能计算技术”)和Yunsai Zhilian Co.派遣服务平台的生态伙伴和计算能力伙伴成功地了。 Zhicom Technology已与九家创新的公司携手,包括Yunsai Zhilian,Wuwenxinqiong,Jili Technology,Kupath,Kupath,Kialicon的Flow,Qingchengjizhi,Qidaisong,Qidaying Technology和Songying Technology和Intellient Intellovation Innovation Innovation Innovation Innovation Innovation Innovation Platform,以建立和签署平台生态合作联盟。 Zhisuan Technology还与八个计算能力伙伴(包括上海电信,上海移动,上海Unicom,Alibaba Unicom,Alibaba Cloud,Sensetime,Carbon和Technology,上海控制台,上海控制台和Fifthend Litong)共同建立和签署计算电源伙伴的合同。

吉苏技术总经理Sun Yue告诉记者,DeepSeek的成功完全反映了创新生态系统在工业发展中的重要作用。作为国有资产的功能平台企业,智能计算技术不仅必须支持基本大型模型的开发,还必须提供中小型企业和垂直应用。协调整个社会的闲置计算资源,通过低成本和通用的计算能力为生态创新建立肥沃的基础,并支持中小型企业,开源社区甚至个人开发人员的研究和探索。 “在相关政府职能部门(例如市政经济和信息委员会)的指导和支持下,我们将进一步安排和协调计算电力资源在相对统一的平台上,进一步解决供求匹配的问题,提高计算机使用的效率,并降低企业的创新成本。”

一般或行业的研发培训和部署大型模型与大量的计算能力支持密不可分,但这对于中小型企业和初创企业来说是相当大的负担。

"If the computing power costs of enterprises can be reduced, innovation will be more active. We hope to further reduce the innovation costs through the Shanghai dispatching platform, match the supply and demand parties more accurately, and integrate the computing power resources of multiple parties to support the entire big model ecosystem. This involves both computing power supply companies and enterprises participating in the development of related technologies of the entire dispatching platform."太阳尤说。

说到大型模型造成的计算能力需求风暴,Sun Yue说,自2023年至2024年的一百个模型战争以来,训练计算能力已经占据了很多计算能力需求。如今,随着大型模型渗透到不同的垂直行业,对推理的需求也在迅速增长。 “这是一个非常明显且重要的趋势。例如,DeepSeek使用自我游戏和多轮强化学习来实现自我优化。在培训过程中将使用许多生成的数据,从而在训练过程中使用大量的推理和计算能力。”

_应对算力需求井喷!上海打造上海市智能算力资源统筹调度服务平台 支撑大模型与行业应用发展_应对算力需求井喷!上海打造上海市智能算力资源统筹调度服务平台 支撑大模型与行业应用发展

在春节期间,Deepseek在世界范围内迅速流行。 Sun Yue的主要感觉之一是,所有行业都在积极连接到DeepSeek平台,以进一步推动推理和计算能力的需求。

“应该指出的是,对计算能力的需求本质上是一个结合培训和指导的市场,而不是简单地分为培训计算能力和推理计算能力。仍然需要培训计算能力的需求。从当前的趋势中,计算能力仍然符合规模法律规则,使规模效应,构成规模效应,并迅速增长。太阳Yue强调了。

DeepSeek模型的成功并不是计算能力的坏消息,而是许多因素可以促进计算能力需求的增长。

“ DeepSeek具有非常强大的工程能力,确实提高了计算功率使用的效率。但是先决条件是必须有足够的计算能力,因此提高计算能力效率的计算能力是有意义的。这不是在启动DeepSeek Big模型之后,计算能力的出现并不是那么重要。当前正在构建的调度平台是使用运营商,云制造商和其他制造商的计算电源资源,进一步提高使用效率,并使供应方既能更好地实现资源分配。”太阳Yue相信。

据报道,上海仪器已投入生产几个“大规模,高级”的Wanka智能计算集群。说到后续计划,Sun Yue说他将进一步扩大计算能力的规模。 “目的是满足工业发展的当前趋势,更好地支持上海甚至长江三角洲的创新生态系统,并满足企业和科学研究机构的计算能力需求。”

在集群结构方面,仪器和电气智能计算云领导着实现国内智能计算芯片的异质管理,并完全支持智能计算芯片的软件和硬件改编,例如Mu XI,Biren,Tianshu和Huawei。在计算功率效率方面,支持大型型号的集装箱调度和自动培训,有效的培训时间占99%以上。在应用程序部署方面,它支持了大型模型的有效部署和加速,例如Step Yuexingchen步骤,Shusheng Puyu,Shangtang Ririxin,Minimax Abab,DeepSeek,Llama3,Tongyi Qianwen,并具有内置的“一站式”模型研究和开发平台。

“国内筹码和NVIDIA之间的区别主要在软件生态系统中。这不仅是芯片公司需要的工作,而且我们还希望扮演一个平台的角色,以整合上游和下游软件和硬件,创建全堆栈的国家生态系统,并更好地为大型模型行业服务。”太阳尤说。

分类: 股市
责任编辑: admin
版权声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。

相关文章:

发表评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。