三星电子已经在其新闻室网页上宣布了一种新型存储芯片架构的开发,该架构称为高带宽存储器内存处理HBM-PIM。
该架构为高带宽存储芯片增加了人工智能处理功能。新芯片将作为加快数据中心速度,提高高性能计算机速度并进一步支持AI应用的一种方式进行销售中国机械网okmao.com。
长期以来,计算机工程师一直致力于消除由于在计算机的CPU与内存芯片之间来回移动数据而需要在计算机中出现的瓶颈。这样做的大多数努力都涉及向CPU添加少量的快速内存缓存-不幸的是,这样做会增加能耗,导致更多的热量产生。
在这项新的工作中,三星团队采用了相反的方法-使存储芯片具有执行某些处理的能力。借助新的HBM-PIM,三星将其描述为“在内存库中的DRAM优化AI引擎”。通过将其一些工作分流到远程数据库,从而减轻了CPU的处理负担。由于减少了数据移动,不仅减少了工作量,而且提高了处理速度。
HBM-PIM的规格包括运行在300MHz的PCU,该PCU由主机CPU使用常规内存命令控制。通过这种方法,可以指示PCU直接在DRAM单元内部执行FP16计算。值得注意的是,当系统运行尚未为其编写的应用程序时,HBM-PIM可以作为普通RAM运行。
三星指出,当他们在现有HBM2 Aquabolt系统上测试新技术时,系统性能提高了一倍,能耗降低了70%。
他们还指出,在现有系统中安装HBM-PIM不需要就地硬件或软件进行任何其他更改。他们的HBM-PIM技术目前正在由AI解决方案合作伙伴开发的先前开发的AI加速器进行测试-他们希望在今年上半年看到结果。
该公司的代表将在今年的国际固态电路虚拟会议上发表他们撰写的描述新技术的论文。