【科技】谷歌TPU 3.0到底什么地方很厉害？

本篇文章1584字，读完约4分钟

作者:唐杉

谷歌在i/o大会上发布了tpu3。 现在详细消息很少，但以下几点值得讨论。 表演8倍。 迅速迭代； 云服务和benchmark tpu3到底哪里厉害？

性能提高8倍

根据今天的信息，Googleceosundarpichaisaidthenewtpuiseighttimesmorepowerfulthanlastyearperpod，with upto 100 Petaflopsinperformance .如下

从下图中，我们来看看tpu3 pod和tpu2 pod的方向。

tpu2的一个pod包括四个rack、两个cpu rack (左右两侧)和两个tpu rack (中央两个)。 每个rack有32个计算单元(卡)，每个tpu板上有4个tpu芯片。 因为这个pod总共有64 x 4个tpu2芯片。 每个tpu2芯片的解决能力是45tflops。 因为这个pod的总解决能力是45 x 4 x 64 = 11.5 pflops。

一看，tpu3的板上还包括四个芯片。 但是，目测tpu3 pod的rack数和卡的密度(这个看起来不太好)比tpu2增加了一倍。 因此，一个pod内的tpu3芯片数量应该是前四倍。 如果pod的总解决能力是tpu2的8倍，tpu3单片的解决能力就是tpu2的2倍。

谷歌表示，这次首次在数据中心使用水冷散热方法，有可能导致芯片功耗和板密度的增加。

Googlealsosaidthisisthefirsttimethecompanyhashadtoincludeliquidcoolinginitsdatacenters，ceo sundar pichai said。

无论如何，如上图所示(来自google i/o大会的TALK:EFFECTIV Machinelearning with GoogletPu可以在youtube上搜索google io 18 stage 8来观看)，tpu3执行

高速迭代

从去年i/o大会上发布tpu2到今天仅一年，谷歌芯片的迭代速度就惊人。 为什么谷歌能实现这样迅速的迭代？ 这也是非常值得探讨的话题。

首先，我简单谈谈一些个人看法

第一，tpu是domain-specific architecture (请参见我们设计专用解决方案时在做什么)。 (上)，定位准确，体系结构简单，易于扩展。 对此，历来流传的通用解决方案必须考虑灵活性和兼容性，有过重的负担。 当然，tpu的优点也决定了它只能用于有限的应用程序场景。 只有google的卷和云服务可以提供的应用程序的诉求才能完全利用tpu这个专用芯片。 这是自己的。 这也是现在大部分科技巨头开始自我研究芯片的基本考虑因素。 也

桃子现在已经给系统改良到2了。 也

尤其是尤其是尤其是尤其是尤其是尤其是尤其是尤其是尤其是尤其是尤其是尤其是尤其是尤其是尤其是

云服务和benchmark

谷歌在发布tpu3时提到了新的云服务，除了以前的cloud tpu外，今年晚些时候还将发布cloud tpu pod (不知道谁可以使用)。

)，可以看出tpu对goolge云战术的重要作用。

有趣的是，google的talk强调了cost的问题，在各个例子中表示了对应的training cost，画风是这样的。

这里有广告的感觉，不由得让人想起黄教主the more gpus you buy，the more money you save。 结合最近针对Microsoft Brain Wave项目的推广，我觉得云设备学习的价格战马上就要开始了。

另外，谷歌强调了benchmark的重要性，专门展示了最近被强烈按压的mlperf。

最近平台之间的对应很多，有比性能，也有拼写。 随着许多制造商的加入，我相信排名会非常热闹。