场景化和垂类大模型训练需求会逐步增加
北京蓝耘科技股份有限公司CFO葛瑞娟:随着时间的推移,训练对算力的需求虽可能有所减少,但未来的重心无疑将转向推理。当前,国内主要聚焦于基础模型的研发,然而,部分国内厂商选择放弃基础模型,转向垂直领域和场景化的模型开发,这导致场景化和垂直领域的模型数量日益增多,并相应地增加了训练对算力的需求。所以,我认为随着人工智能技术的不断成熟和优化,训练对算力的需求可能会呈现下降趋势,但当前已部署的算力资源不会在未来出现闲置。
训练和推理对算力需求不会减弱 仍会持续增长。
北京数道智算科技有限公司董事长甄鉴:训练对算力的需求将会上升,而推理需求更将出现显著增长。模型训练的根本逻辑在于只要有新的数据产生,就需要训练。我们不能停留在当前的时间点,认为历史数据训练完毕即可结束。实际上,当前每年新增的数据量远超过去100年的总和,因此,对数据训练的需求仍在持续上升。
然而,目前(训练)成本问题可能构成一定的挑战。
训练是生产过程,而应用落地和推理则是使用过程。当推理端的应用带来经济效益和资金流时,这些资金将回流至训练端,推动其持续发展。未来,随着两者的平衡发展,训练和推理将形成良性互动,如同跷跷板的两端,共同向上攀升。
未来AI的第一个工作可能是生产合成数据
邦银金租副总经理李树林:有人担心数据可能会耗尽,是基于数据增长速度无法满足AI需求增长的假设。然而,这里所说的数据主要指的是传统意义上的数据。事实上,合成数据(synthetic data)的发展速度非常快。例如,英伟达在其3400亿参数的模型中,98%的数据都是合成数据。明天的AI使用的数据不在今天的世界里面,合成数据的占比和重要性将越来越高。甚至可以说,未来AI的第一个工作可能是生产这种数据。
AI模型在各个领域和场景的应用前景广阔,对推理的实时性要求也越来越高。以自动驾驶为例,它要求模型能够在最短的时间内进行推理并作出响应。这种要求对于算力的支持和保障提出了极高的挑战。
租赁行业信源或爆料征集邮箱:gaoyining@yicai.com
银行业如何发挥金融优势助力中资企业“走出去”和境外资本“走进来”?第一财经对话东亚银行集团副行政总裁、东亚银行(中国)有限公司执行董事兼行长毕明强。
联合国贸发会议《2025世界投资报告(WIR)》显示:香港2024年外商直接投资(FDI)流入量跃居全球第三,总额达1,260亿美元,同比增长2.6%,存量攀升至2.35万亿美元位列全球第五。在外资加速回流的背景下,香港的投资逻辑发生了哪些变化?第一财经专访了香港本土券商首信资本集团合伙人杨雅萱,她分享了香港如何以其独特的优势成为国际资本配置的新支点。
在全球经济形势不确定性加大的背景下,站在财富新坐标,香港如何定义全球家族办公室的未来?布局香港的家族办公室当下如何实现最优的全球资产配置方案?第一财经专访华港联合家族办公室创始人兼首席执行官孙越君,揭秘其创新投资理念、风控体系与全球化布局。从行业趋势到客户价值,从科技赋能到社会责任,见证华港联合家族办公室如何以专业与温度,助力财富传承与增值。