【CNMO科技音书】5月11日，据韩媒报谈，内存半导体行业在HBM4量产前夜，已阐扬运转下一代工夫HBM-PNM的相干。该工夫旨在杂乱以GPU为中心的架构适度，通过在内存中平直进行计较，推进以计较内存为中枢的架构转型。

存储芯片

近日，三星电子、NVIDIA、加州大学圣地亚哥分校、哥伦比亚大学以及延世大学的相干团队发表论文，提倡了多芯片粒内存中心架构工夫，展示了HBM-PNM工夫的完了旅途。PNM工夫通过在HBM堆叠的逻辑层中成立专用计较单位，完了内存近邻的数据平直科罚。相较于在内存单位内镶嵌电路的PIM工夫，凤凰彩票官方网站 - WelcomePNM简略在保捏内存容量的同期，复旧更为复杂且宏大的计较任务。

当今，大型言语模子在科罚长文脉解码时，GPU的计较才调哄骗率时常不及5%，OD体育app官网最新版大部分资源用于内存带宽复旧，形成了资源销耗与高能耗。相干清爽，NVIDIA的Rubin GPU在科罚长文脉任务时，其计较芯片的资源占用率极低。

跟着HBM4引入5纳米及以下先进制程的逻辑层，PNM的完了门槛显赫裁汰。相干团队提倡的架构决议剔除了传统GPU的计较芯片，通过将16个HBM-PNM单位连结，使封装内内存带宽擢升至每秒44TB，达到现存水平的2倍。

图源采集

测试效力清爽，该架构在科罚100万级长文脉推理任务时，其堤防力机制的延伸较NVIDIA H100裁汰了15.5倍，能耗裁汰了6.9倍。与Rubin GPU比拟，该架构在速率与能效方面也透涌现显赫上风。相干团队觉得OD体育(ODSports)官网入口，此项相干考据了内存中心架构算作新式计较系统的后劲，明天有望在异构平台中阐扬中枢作用。

开云app在线体育官网