Fermi技术细节抢先预览

掌控全局——GigaThread 3.0线程调度器

双层线程分配调度器设计是Fermi重要的技术之一。在SPA(Streaming Processor Array，流式处理器矩阵)里面，有一个全局工作分配调度器(global work distribution engine)，它负责将Thread block排程分发给SPA中不同的SM。而SM里面的两个Warp调度器则负责把32线程一组的Warp分配到合适的执行单元。

基于第一代GigaThread引擎的G80能实时管理多达12288个Thread，而在Fermi上不仅线程总数增加了一倍，还提升了context switching(上下文切换)的性能。

应用程序上下文切换——十倍速度

和CPU一样，GPU也可以利用上下文切换(Context Switching)来实现支持多任务(multi-taksing)操作。Fermi的流水线架构已经针对应用程序的上下文切换进行了优化，切换的时间被缩短到10毫秒～20毫秒，较以往的GPU来说有显著的提升。

FMA指令可以避免精度的损失

除了性能的提升，上下文切换还允许开发人员开发出进行频繁kernel-kernel间通讯的应用程序，例如在图形渲染应用程序和计算应用程序之间进行细粒度的互操作。

提升多任务效率——Concurrent Kernel Execution(并发核心执行Kernel)

Fermi首次实现了并发核心程序执行(Concurrent kernel execution，以下简称"CKX")，可以让GPU在同一时间执行同一个程序的上下文的不同核心程序。CKX可以让程序执行多个小kernel，从而充分利用整个GPU。例如一个物理程序可能包含了流体解算器和刚体解算器，如果串列执行的话，只能用到一半的线程处理器，而CKX就可以避免这个问题。不同程序上下文的kernel之所以能够非常高效地串列执行，是因为上下文切换速度得到了改善。

总结：为GPU Computing而生

如果以GeForce 256为起点，GPU发展至今已经有10个年头。在这10年间，GPU架构发生了许多变化。如果说GPU的出现是为了让CPU从TnL计算中释放出来，那么从G80开始我们可以认为，业界正试图把更多的计算负荷从CPU转移到GPU上来，例如物理现象模拟、影像合成、科学计算，即NVIDIA提倡的GPU Computing，GPU开始承担更多的任务。

G80引入了实现线程间共享的Shared Memory(共享式内存)和barrier同步能力；引入了让不相依的多个线程同时执行单个指令的SIMT(单指令多线程)执行模型。G80奠定了GPU Computing应用的基石，而GT200则是在此基础上的增强，它使得寄存器数量倍增，实现了内存存取操作合并，支持硬件双精度浮点运算。到了Fermi，则是代表着GPU Computing在硬件架构和编程模型上已经进入成熟而完备的阶段。

与单纯地增加功能单元的做法相比，Fermi的设计团队解决了若干个GPU Computing方面棘手的难题。在Fermi架构上，数据局部性的重要性通过L1/L2 cahce得以展现；强大的并发式kernel执行让GPU执行多任务能力达到了空前的水平；显著加强的双精度浮点性能设计让GPU达到超级计算机的性能水准。后，Fermi还支持ECC技术，这从硬件架构上扫清了NVIDIA GPU进入HPC市场的障碍。NVIDIA表示，基于Fermi的显卡会在今年底或者明年初上市，价格取决于届时NVIDIA面临的竞争态势。