声明：
本文部分内容来自网络。由于知识有限，有错误的地方还请指正。本帖为自己学习过程的记录帖，如果对您有帮助，我将荣幸之至。
什么是显卡？
显卡接在电脑主板上，它将电脑的数字信号转换成模拟信号让显示器显示出来。
原始的显卡一般都是集成在主板上，只完成最基本的信号输出工作，并不用来处理数据。随着显卡的迅速发展，就出现了GPU的概念，显卡也分为独立显卡和集成显卡（见附1）。
什么是GPU？
GPU是显卡上的一块芯片，就像CPU是主板上的一块芯片。那么1999年之前显卡上就没有GPU吗？当然有，只不过那时候没有人给它命名，也没有引起人们足够的重视，发展比较慢。
自Nvidia提出GPU这个概念后，GPU就进入了快速发展时期。简单来说，其经过了以下几个阶段的发展：
仅用于图形渲染，此功能是GPU的初衷，这一点从它的名字就可以看出：Graphic Processing Unit，图形处理单元；
包装成图形渲染任务，然后交给GPU来做。这就是 GPGPU（General Purpose GPU）的概念。 不过这样做有一个缺点，就是你必须有一定的图形学知识，否则你不知道如何包装。
3）于是，为了让不懂图形学知识的人也能体验到GPU运算的强大，Nvidia公司又提出了CUDA的概念。
什么是CUDA？
CUDA C语言，就可以开发CUDA程序，从而可以更加方便的利用GPU强大的计算能力，而不是像以前那样先将计算任务包装成图形渲染任务，再交由GPU处理。
注意，并不是所有GPU都支持CUDA。
CPU和GPU的关系
CPU负责逻辑性强的事物处理和串行计算，GPU则专注于执行高度线程化的并行处理任务（大规模计算任务）。为什么这么分工？这是由二者的硬件构成决定的。
CPU是“主（host）”而GPU是“从（device）”，GPU无论发展得多快，都只能是替CPU分担工作，而不是取代CPU。
CPU和GPU之所以大不相同，是由于其设计目标的不同，它们分别针对了两种不同的应用场景。CPU需要很强的通用性来处理各种不同的数据类型，同时又要逻辑判断又会引入大量的分支跳转和中断的处理。这些都使得CPU的内部结构异常复杂。而GPU面对的则是类型高度统一的、相互无依赖的大规模数据和不需要被打断的纯净的计算环境。
于是CPU和GPU就呈现出非常不同的架构（示意图）：
图片来自nVidia CUDA文档。其中绿色的是计算单元，橙红色的是存储单元，橙黄色的是控制单元。
GPU采用了数量众多的计算单元和超长的流水线，但只有非常简单的控制逻辑并省去了Cache。而CPU不仅被Cache占据了大量空间，而且还有有复杂的控制逻辑和诸多优化电路，相比之下计算能力只是GPU很小的一部分。
独立显卡和集成显卡的区别。
所谓集成，是指显卡集成在主板上，不能随意更换。而独立显卡是作为一个独立的器件插在主板的AGP接口上的，可以随时更换升级。
另外，集成显卡使用物理内存，而独立显卡有自己的显存。一般而言，同期推出的独立显卡的性能和速度要比集成显卡好、快。
值得一提的是，集成显卡和独立显卡都是有GPU的。
附2：Nvidia显卡分类。
GeForce系列：家庭娱乐。打游戏必备；
Quadro系列：专业绘图设计。视频渲染，经常使用3ds Max、Maya等软件的必备。
Tesla系列：高端显卡，用于大规模的并行计算。土豪必备。
另外，目前比较流行的物理引擎PhysX，并不是所有显卡都支持。官方文档上说GeForce 8及之后的显卡都支持。
结束语：
CUDA只是一种并行计算架构，相关的概念还有OpenCL、OpenMP等。我们下期再介绍。
