第53章 显卡根本不是用来玩游戏的!(2 / 2)
苏舟靠在椅背上,看了一眼右下角的进度条和计时器,开始心算。
六万张图片,每张图片经过前向传播和反向传播需要多少次浮点运算。
三层网络,784×128再加128×10,每层还有激活函数和梯度计算……
算完之后,苏舟的脸色有点不好看。
按照现在这个速度,跑完他预设的训练计划,包括调参丶增加网络深度丶切换更大的数据集,保守估计,至少要两个月。
两个月才知道结果也太久了点吧!
得想想办法才行。
他切出终端,打开浏览器,一头扎进了各大技术论坛。
满屏都是硬体发烧友们在激烈对线。有人在吹嘘最新的CPU架构,有人在讨论怎么给双核处理器加压超频,把主频拉高个零点几GHz以榨乾最后一丝性能。
看了一圈,苏舟摇了摇头。
就算把这颗CPU超频超到冒烟,撑死也就提升个20%的性能,两个月变成一个半月,有什么本质区别吗?
他盯着网页上一张CPU的核心架构图,脑子里突然想到,方向错了!
大家都在死磕CPU,但CPU这玩意儿,天生就不适合跑神经网络!
CPU就像一个顶级数学教授。
微积分丶概率论丶拓扑学,什么高精尖的题都会做,来者不拒。
但它的问题在于分身乏术,核心太少,通常就两到四个。
这就好比教授虽然牛逼,但一次只能拉两三个学生进办公室辅导。
它那庞大而复杂的控制单元,全是为了处理各种神出鬼没的逻辑分支和指令跳转而生的。
而神经网络的训练是个什么流程?
海量的矩阵乘法丶向量加法丶逐元素激活。没有复杂的逻辑判断,没有七拐八弯的条件分支,全是枯燥丶重复丶极其暴力的纯粹数值计算。
让顶级数学教授去批改几十万道小学三年级的口算题?
这不是为难它吗?
「需要批改小学算术题,那就该找小学老师啊……」苏舟喃喃自语,目光不自觉地移向了桌子底下的机箱,眼睛越来越亮。
显卡!GPU!
GPU是什么?
如果CPU是一个教授,那GPU就是一个由几百个小学数学老师组成的斯巴达军团!
每个小学老师只会做最简单的加减乘除,但架不住人多啊!
以现在市面上高端一点的NVIDIA 8800 GTS显卡为例,里面足足塞了128个流处理器!
它们可以同时并行工作!
虽然单挑的话,一个流处理器的运算能力连CPU核心的脚趾头都摸不到。
但如果现在的任务是「立刻把这一百万道加减乘除题算完」呢?
128个小学老师同时发卷子,并排批改,火力全开。那种粗暴的并行计算速度,绝对能把孤军奋战的教授碾压得连渣都不剩!
大规模丶高度并行的纯粹数值计算,这特么不就是给GPU量身定做的活儿吗?!
苏舟直起身子,心跳陡然加速。
他意识到一个重要问题。
显卡根本不是用来玩游戏的!
ps.五一假期了,求追读求月票,给小作者一点动力吧!大家的评论我都有看,会及时做出调整~
↑返回顶部↑