场景化和垂类大模型训练需求会逐步增加
北京蓝耘科技股份有限公司CFO葛瑞娟:随着时间的推移,训练对算力的需求虽可能有所减少,但未来的重心无疑将转向推理。当前,国内主要聚焦于基础模型的研发,然而,部分国内厂商选择放弃基础模型,转向垂直领域和场景化的模型开发,这导致场景化和垂直领域的模型数量日益增多,并相应地增加了训练对算力的需求。所以,我认为随着人工智能技术的不断成熟和优化,训练对算力的需求可能会呈现下降趋势,但当前已部署的算力资源不会在未来出现闲置。
训练和推理对算力需求不会减弱 仍会持续增长。
北京数道智算科技有限公司董事长甄鉴:训练对算力的需求将会上升,而推理需求更将出现显著增长。模型训练的根本逻辑在于只要有新的数据产生,就需要训练。我们不能停留在当前的时间点,认为历史数据训练完毕即可结束。实际上,当前每年新增的数据量远超过去100年的总和,因此,对数据训练的需求仍在持续上升。
然而,目前(训练)成本问题可能构成一定的挑战。
训练是生产过程,而应用落地和推理则是使用过程。当推理端的应用带来经济效益和资金流时,这些资金将回流至训练端,推动其持续发展。未来,随着两者的平衡发展,训练和推理将形成良性互动,如同跷跷板的两端,共同向上攀升。
未来AI的第一个工作可能是生产合成数据
邦银金租副总经理李树林:有人担心数据可能会耗尽,是基于数据增长速度无法满足AI需求增长的假设。然而,这里所说的数据主要指的是传统意义上的数据。事实上,合成数据(synthetic data)的发展速度非常快。例如,英伟达在其3400亿参数的模型中,98%的数据都是合成数据。明天的AI使用的数据不在今天的世界里面,合成数据的占比和重要性将越来越高。甚至可以说,未来AI的第一个工作可能是生产这种数据。
AI模型在各个领域和场景的应用前景广阔,对推理的实时性要求也越来越高。以自动驾驶为例,它要求模型能够在最短的时间内进行推理并作出响应。这种要求对于算力的支持和保障提出了极高的挑战。
租赁行业信源或爆料征集邮箱:gaoyining@yicai.com
今年年初DeepSeek火爆出圈,AI科普迅速落地,AI应用需求爆发,如何满足市场需求?近日在赛迪研究院举办的《人工智能赋能制造业:国际治理经验与产业安全》新型工业化大讲堂现场,第一财经就此专访了赛迪研究院未来产业研究中心人工智能研究室主任钟新龙。他强调,进入通用人工智能时代,已经无经验可循,人机协同、人机共创是破解AI应用“最后一公里”的核心路径。
2025年4月10日,华为公布了AI基础设施架构的最新进展,推出CloudMatrix 384超节点,并宣布已在芜湖数据中心规模上线。什么是超节点?它对于国产AI芯片的生态构建意味着什么?日前在赛迪研究院举办的《人工智能赋能制造业:国际治理经验与产业安全》新型工业化大讲堂现场,第一财经就此专访了赛迪研究院未来产业研究中心人工智能研究室主任钟新龙。他表示,超节点的推出标志着我国在高性能AI基础设施领域取得了重要的系统级创新,可大幅降低大模型分布式训练中的通信开销,提升整体的训练效率。
DeepSeek开启了全球大模型的开源浪潮,选择开源企业如何盈利?近日在赛迪研究院举办的《人工智能赋能制造业:国际治理经验与产业安全》新型工业化大讲堂现场,第一财经就此专访了赛迪研究院政策法规研究所所长、研究员彭健。他强调开源并非“免费午餐”,企业可通过To B的API服务实现商业闭环。
近日,在赛迪研究院举办的《人工智能赋能制造业:国际治理经验与产业安全》新型工业化大讲堂现场,第一财经专访了赛迪研究院政策法规研究所所长、研究员彭健。他指出,当前AI与制造业融合仍处初级阶段,面临三大瓶颈:一是复合型人才稀缺;二是方案可复制性低,制造业细分场景差异导致定制化成本高企;三是企业投入压力大,尤其是利润率较低的中小企业,短期内难见智能化改造的收益闭环。
在传统制造业面临成本高企、效率瓶颈的当下,国产开源大模型DeepSeek正掀起智能革命浪潮。日前在赛迪研究院举办的《人工智能赋能制造业:国际治理经验与产业安全》新型工业化大讲堂现场,第一财经专访了赛迪研究院政策法规研究所所长、研究员彭健、赛迪研究院未来产业研究中心人工智能研究室主任钟新龙。他们指出,DeepSeek以开源生态打破了国外技术垄断,使中国的制造企业有机会以低成本接入顶尖AI能力。这种技术平权不仅推动中国制造业降本增效,更助力全球南方国家突破智能化升级困局。