大模型训练及推理算力需求持续增长 国内产业链加速成熟
创始人
2025-07-29 01:40:23
0

人工智能大模型的能力持续在升级,应用场景也越来越多。对应的算力、算法、数据都成为产业发展的关键环节。记者在世界人工智能大会现场了解到,当前相关市场需求持续高速增长,国内的产业链也在加速成熟。

总台央视记者 宁坤:现在的人工智能大模型已经可以装到智能眼镜里,它背后的训练要用大规模的算力去支撑。现场展出的一组机柜就是现在算力中心里会用到的一种超节点,它可以让数百张算力卡像一台计算机一样,实现高效的内部连接和运算,进一步突破了当前行业训练大模型所面临的算力瓶颈。

近年来,全国多地都在持续投入建设大型数据中心,为人工智能大模型训练提供更充足的算力保障。工信部数据显示,截至2025年3月底,我国在用算力标准机架已达到1043万架,智能算力规模达到748每秒百亿亿次浮点运算,为海量数据计算提供了智能底座。

华鲲振宇副总裁 宋璇:现在的算力训练需要的是万卡,甚至十万卡(算力卡的)集群。对通信的保障和算力的调度,以及硬件的高可靠性和稳定性提出了更高的要求。

算力需求增长也带动硬件设备的更新。今年世界人工智能大会现场,不少国内算力产业链上的企业就集中展出了自己的最新技术。产业链各环节进步的叠加也为大模型技术演进提供了更多支撑。

业内人士告诉记者,大模型的训练环节类似于让人工智能“学知识”,而推理环节则是让人工智能“做任务”。随着大模型应用量增多、AI智能体出现,现在业界除了要建更多的算力基础设施外,也在通过算法优化来提升算力的使用效率。

稀宇极智开发者社区负责人 蔡佳人:有越来越多需求是来自越来越长的上下文文本长度,有越来越多的智能体需要从一开始整体的任务规划,到后面自己把一步一步任务做完,整体推理的相关需求就越来越多。我们做了一些算法优化能让算力成本下降。

相关内容

热门资讯

警方通报“王某香简历事件”:冒... 近日,我警方成功侦破“王某香简历事件”。一名不法分子冒充女性求职,在简历等资料中编造低俗内容。其行为...
拟适度扩大法律援助救助范围、建... 7月28日,河南省十四届人大常委会第十八次会议在郑州召开,提请本次常委会会议审议的省本级法规共8件。...
河南省工信厅厅长李建涛,跨省履... 据“大美上饶”微信公众号消息,7月28日上午,市委副书记、市长候选人李建涛深入上饶经开区调研。上述消...
河南印发重点文旅产业链群建设三... 从河南省文化和旅游厅获悉,该厅联合省发展和改革委员会、省教育厅等13部门印发《河南省重点文化和旅游产...
格力电器获得发明专利授权:“蒸... 证券之星消息,根据天眼查APP数据显示格力电器(000651)新获得一项发明专利授权,专利名为“蒸烤...
直击WAIC|生成式AI将催生... 7月27日,2025世界人工智能大会(WAIC)期间,“AI+”电力创新发展论坛在上海世博中心同期举...
见微知沪|上海的AI方法论 7月28日,2025世界人工智能大会暨人工智能全球治理高级别会议(WAIC)闭幕。会场周边的交通松了...
柬埔寨想请美国救场,特朗普却发... 柬埔寨在某些局势下面临困境,曾试图向美国发出求救信号,希望美国能出手相助。然而,特朗普在了解相关情况...
一碗粉何以破“卷”而出 “南粉北面”这一说法虽然广泛流传,但如今却显得有些片面。近日,中国食品产业供应链推介会在北京开幕,以...
地不“懒” 人更勤——一碗粮里... “人勤地不懒”,这句俗语包含着人地关系的智慧。如今,新的农业技术、装备设施以及新的种植管理模式,正让...