从多核到众核处理器( 五 ) _处理器

如果结合上面探讨的两种类型的多核处理器设计，有一个很明显的问题是，到底用少数几个强大的单核，还是很多简单的单核最能优化处理器设计呢？问题的困境是：如果每个核很强大，其能提供的总指令吞吐率与其功耗或面积成本呈亚线性关系，投入产出效率较低，但是如果每个核很简单，那么单线程的性能很低，而不幸的是每个应用程序总是有一部分没法并行化，这部分将最终决定整个程序的性能。
这篇文章给了一个很有意思的讨论。问题的一个直白答案是取决于程序的并行性：一个程序到底有多大部分是必需串行执行的？如果这个部分很大，那么少数几个强大的单核是比较理想的方案，而如果这个部分很小，那么倾向于使用更多的较简单的核。最为理想的方案是一个异构多核的设计，这样串行的部分能在一个强大的单核上加速，而可以并行的部分则通过很多很小的核来提速。这个思想的一个很明显体现就是Intel的Sandy Bridge处理器，这个处理器没有遵循以往不断增加核数量的规律，其设计中里既有强大的传统处理器核又有类似GPU的处理器，期望做到异构多核来实现性能的提升，下图就是Sandy Bridge的系统结构：

文章插图

网络互连为主的处理器无论是总线和交换开关的设计，还是流处理器，就没法从本质上改变多核乃至众核处理器设计上的不可扩展性。改变这种传统的互连，人们提出了使用片上网络的办法，使得未来众多的处理器核通过分布式的通讯方式相互沟通，从而避免了集中的互连设计带来的系统性能瓶颈以及较大的功耗开销。不过当片上集成核的数量不断增加时，如何把这个功能组织起来，并不是一个简单的事情，无论是学术界还是工业界都做了许多的尝试，从目前开来实际结果都不太理想。
第一个真正采用网络来连接片上很多核的是2002年MIT一组研究人员提出来的RAW众核处理器。MIT的RAW处理器第一次应用了片上网络的概念。这个设计后来成立了一家公司叫Tilera 。RAW的出发点在于看到传统单核处理器中的瓶颈在于操作数网络（scalar operand network）。这个网络把各个ALU中计算出来的数值中间结果存储到寄存器堆，又把寄存器堆里的数给ALU就行操作。随着金属互联线延迟的增加，这个移动操作数回路成为系统瓶颈，成为了导致ALU中晶体管性能提高并不能外化为处理器性能的绊脚石。
解决这个问题的办法是用操作数网络把计算单元（ALU）组织起来，而不是传统意义上的操作数网络为ALU服务。每个操作数通过网络进入到一组ALU里，经过漫长流水线的处理和计算输出出来到网络中，然后送到临近的另一组ALU里，而不必绕回去。这样把每组ALU看成一个“核”，这样就构成了片上网络。下图就是RAW中每个处理器核的结构：

文章插图

图中可以看到，与其他商业多核处理器不同的是，RAW的片上网络深入到了处理器流水线的内部。接着，既然ALU可以编程，那么操作数网络也可以编程，这样就达成了一个软件可以控制的计算、通信众核系统。当然其网络设计就是一个普通的Mesh网格网络，如下图所示，没啥特殊的。不过这个Mesh其实是由若干个不同功能的网络联合而成，各自负责操作数、片上存储以及I/O等片上通讯的需求。

文章插图

RAW的难点在于对于应用程序需要就行网络和计算的双重优化，否则程序运行的效率较低。这使得编译器中指令调度不光考虑运算单元的成本，还有通讯的成本，搜索空间和复杂度大大提高。
接下来介绍IBM的Cell处理器，算是工业界探索异构多核设计的先河吧。Cell的来头还是蛮大的，是IBM，SONY和Toshiba三家大公司为未来的消费电子设计的核心计算引擎。其最典型的应用就是索尼的PS3 。Cell的设计采用了环形的片上互连、异构的片上多核、以及片上系统的集成，然后在IBM的90纳米、65纳米和45纳米工艺条件下做了实现，应该说是代表了当时业界的最先进水平。不过不幸的是IBM在2009年年底的时候停止了对Cell的进一步研发，而基于Cell的索尼PS3销售上没有敌过任天堂的Wii（截止2010年9月低，Wii在全世界销售了七千六百万台，而PS3仅有四千两百万台）。这背后的原因在于什么呢？