麻省理工学院的工程师创建天富注册网址了一个动态重新分配缓存访问的系统

时间:2020-12-31 08:09 作者:http://zdtnx.com.cn/ 分享到:
天富注册网址

 

这个图显示了一个36个tile的Jenga系统,它运行着四个应用程序。Jenga为每个应用程序提供了自定义的虚拟缓存层次结构。研究人员的好意
 
来自麻省理工学院的研究人员设计了一种系统,可以动态重新分配缓存访问,使处理速度提高20%至30%,同时降低30%至85%的能耗。天富注册网址
 
 
几十年来,计算机芯片通过使用“缓存”提高了效率。“缓存”是一种小型的本地存储器,用来存储经常使用的数据,并减少与芯片外存储器的通信时间和能耗。
 
今天的芯片通常有三甚至四种不同级别的缓存,每一种都比上一种更大,但速度更慢。缓存的大小代表了不同类型程序需求之间的妥协,但是它们很少完全适用于任何一个程序。
 
麻省理工学院计算机科学和人工智能实验室的研究人员设计了一种动态重新分配缓存访问权限的系统,以创建新的“缓存层次结构”,以适应特定程序的需要。
 
 
研究人员在一个有36个处理器的芯片模拟上测试了他们的系统。他们发现,与表现最好的前辈相比,该系统的处理速度提高了20%至30%,同时能源消耗降低了30%至85%。天富注册网址
 
电子工程与计算机科学系(EECS)的助理教授丹尼尔·桑切斯(Daniel Sanchez)说:“你想要的是利用这些分布式物理内存资源,建立特定应用程序的层次结构,使特定应用程序的性能最大化。”他的团队开发了这个新系统。
 
“这取决于应用中的许多东西。它访问的数据有多大?它是否有分层重用,以便从逐步增大的内存层次中获益?或者它是在扫描一个数据结构,所以我们最好使用单个但非常大的层次?它多久访问一次数据?如果我们把数据放到主存,它的性能会受到多大的影响?有很多不同的权衡。”
 
桑切斯和他的合著者——Po-An蔡EECS麻省理工学院,研究生和内森•贝克曼,他是麻省理工学院研究生工作时做的,现在是卡内基梅隆大学计算机科学助理教授提出了新的系统,称为叠叠乐,上周在国际研讨会上计算机体系结构。
 
住的地方
 
在过去10年左右的时间里,计算机芯片处理能力的提高来自于更多核的增加。目前大多数台式电脑的芯片都是四核的,但几家主要的芯片制造商已经宣布计划在明年左右转向六核,16核处理器在高端服务器中并不少见。大多数行业观察人士认为,核心数据将继续攀升。
 
多核芯片中的每个核通常有两级私有缓存。所有的核心共享第三个缓存,这个缓存实际上被分解成分散在芯片周围的离散存储库。一些新芯片还包括一个所谓的DRAM缓存,它被蚀刻在第二个芯片上,第二个芯片安装在第一个芯片上。
 
对于一个给定的核,访问最近的共享缓存内存库比访问更远的核更有效。与今天的缓存管理系统不同,Jenga区分了组成共享缓存的独立内存库的物理位置。对于每个核,Jenga知道从任何片上存储库中检索信息需要多长时间,这个度量被称为“延迟”。
 
Jenga建立在桑切斯团队早期的Jigsaw系统之上,Jigsaw也会动态分配缓存访问权限。但是Jigsaw并没有构建缓存层次结构,这使得分配问题更加复杂。
 
对于在每个核心上运行的每个任务,Jigsaw必须计算一个延迟空间曲线,该曲线表明对于大小不同的缓存,核心可以预期有多少延迟。然后,它必须聚合所有这些曲线,以找到一个空间分配,以最小化芯片作为一个整体的延迟。
 
曲线表面
 
但是Jenga必须同时评估两层缓存的延迟和空间之间的权衡,这将二维的延迟空间曲线变成了三维曲面。幸运的是,这个表面是相当光滑的:它可能会有波动,但通常不会有突然的、狭窄的尖和低。
 
这意味着表面上的采样点可以很好地反映出表面整体的样子。研究人员针对缓存分配问题开发了一种聪明的采样算法,该算法系统地增加了采样点之间的距离。Tsai说:“这里的观点是,具有相似容量的缓存——比如100兆字节和101兆字节——通常具有相似的性能。”
版权所有:http://zdtnx.com.cn 转载请注明出处

成功案例success case