要闻 经济 栏目首页 聚焦 科技 连接 系统 产品 联想专题 资讯 金融 科技 理财 财经 知识 金融 游戏
首页 > > 正文

国产算力“买得到,更要用得好”——从一场技术大会看互联网大厂的NPU落地课

2025-01-07 17:05:38来源:硬派科技

(文/张扬)国产AI芯片的竞争,已经从“有没有”打到了“好不好用”。过去一年,多家NPU芯片厂商密集推出新一代加速卡,算力指标一路攀升;然而对真正要把芯片搬进数据中心、跑起海量业务的互联网企业而言,一个比“算力多少”更现实的问题浮出水面:这张卡到底适不适合我?上线之后性能几何?

近日,由CSDN联合Boolan主办的“全球 C++ 及系统软件技术大会”在上海虹桥万豪酒店举行。这场大会汇聚了C++之父Bjarne Stroustrup,以及来自英伟达、Meta、腾讯、阿里、字节等企业的四十余位技术专家,现场吸引逾千名开发者参与。期间,腾讯大数据软硬件协同技术专家刘强带来的一场分享,恰好回应了上述行业痛点。

刘强在大数据与软硬件协同领域拥有深厚的行业积累,他曾任职于亚马逊、Marvell等公司,长期从事存储、计算加速器与性能评估相关工作。也正因如此,他的分享更像一份来自业务一线的落地经验总结。性能评估在业内是一个略显“冷门”却极其要害的环节——芯片厂商关心峰值算力,而互联网企业真正要回答的,是自家推荐、搜索这类业务在新卡上能跑到多快。刘强在现场点出了长期存在的一道鸿沟:芯片设计逻辑与业务理解之间,隔着微架构、算子、调度等层层壁垒,早期性能评估常常“偏了”,芯片买回来才发现水土不服。

面对这道鸿沟,刘强给出的思路颇具代表性。他把CPU、GPU、分布式通信在时间轴上的执行路径还原出来,再叠加不同厂商算子的仿真耗时,从而在芯片正式流片之前,就预测出端到端的训练性能。更进一步,他们通过一套基于硬件抽象层(HAL)的统一接入架构,把不同厂商NPU的接口与资源差异“藏”在底层,让上层业务几乎无感地切换算力——既缩短了异构硬件的上线周期,也降低了开发难度。

这套方法论背后,折射出中国头部互联网企业在国产算力浪潮中角色的转变:从被动接收芯片,走向主动参与定义、评估与适配。值得一提的是,这场分享并非孤例。大会期间,“AI 算力与优化”等专题汇聚了腾讯云、上海人工智能实验室、智源、阿里云等团队,围绕大模型时代的算力瓶颈展开讨论;相关内容随后由腾讯网、《新程序员》、阿里云、扬子晚报网等多家媒体报道传播。在国产算力从“能用”迈向“好用”的关键节点上,这种把内部方法论摆到行业舞台的做法,本身就具有示范意义。

刘强的分享,核心在于回答一个问题:一颗芯片的真实价值,究竟该如何衡量。这不仅是技术问题,更是国产算力落地必须面对的现实命题。其来自一线的评估思路,也为整个行业提供了务实参考。


关键词:

推荐内容

热点
39热文一周热点