英偉達(dá)掌舵人黃仁勛，在GTC2017上再掀京城“AI風(fēng)云”。

▲ NVIDIA CEO 黃仁勛

上場(chǎng)后“老黃”直接開懟，終于說(shuō)出了人們憋在心中許久的結(jié)論——摩爾定律已終結(jié)。

▲ 兩股力量推動(dòng)計(jì)算領(lǐng)域的未來(lái)

但，NVIDIA的GPU計(jì)算為整個(gè)行業(yè)指出了前進(jìn)的道路。

他指出，設(shè)計(jì)人員無(wú)法再創(chuàng)造出可以實(shí)現(xiàn)更高之靈系并行性的CPU架構(gòu)；晶體管數(shù)每年增長(zhǎng)50％，但CPU的性能每年僅增長(zhǎng)10％。而NVIDIA的GPU彌補(bǔ)CPU的不足，加速處理高強(qiáng)度計(jì)算負(fù)載。

深度學(xué)習(xí)另一大“殺傷性武器”：CUDA

CUDA是一種革命性的計(jì)算架構(gòu)，它將專用功能ASIC的性能與通用編程模型相結(jié)合，使開發(fā)人員實(shí)現(xiàn)多種算法。目前CUDA開發(fā)人員的數(shù)量在5年里增長(zhǎng)了14倍超過(guò)60萬(wàn)，下載量達(dá)到180萬(wàn)。

▲ 適用于全球開發(fā)人員的NVIDIA AI

AI是NVIDIA CUDA GPU的“殺手級(jí)應(yīng)用”，AI取得驚人進(jìn)步。

阿里巴巴、百度和騰訊已在各自的云服務(wù)中采用NVIDIA Volta GPU。

華為、浪潮和聯(lián)想已采用NVIDIA基于HGX的GPU服務(wù)器。

此外，NVIDIA還在為全球開發(fā)員人配置強(qiáng)大AI工具，全力推進(jìn)“統(tǒng)一架構(gòu)”CUDA GPU計(jì)算。

AI推理是下一個(gè)巨大挑戰(zhàn)，重磅發(fā)布 TensorRT 3

AI推理平臺(tái)必須具備可編程性，高性能，且支持龐大和復(fù)雜的網(wǎng)絡(luò)。

隨著智能機(jī)器的爆發(fā)性增長(zhǎng)，AI會(huì)將智能注入到2000萬(wàn)臺(tái)云服務(wù)器、上億臺(tái)汽車和制造機(jī)器人中。所以，AI推理平臺(tái)必須可擴(kuò)展，以解決海量計(jì)算的性能、功耗和成本需求。

▲ 宣布NVIDIA TensorRT 3

于是，老黃又來(lái)搞事了。

宣布NVIDIA TensorRT 3，全球首款可編程AI推理加速器。

TensorRT是一款適用于CUDA GPU的優(yōu)化神經(jīng)網(wǎng)絡(luò)編譯器，它可利用CUDA深度學(xué)習(xí)指令集創(chuàng)建運(yùn)行時(shí)。從云、數(shù)據(jù)中心、PC、汽車到機(jī)器人，TensorRT皆能在NVIDIA全系列平臺(tái)便宜出最優(yōu)運(yùn)行時(shí)。

▲ 運(yùn)行在 V100上的 TensorRT在處理圖像時(shí)可實(shí)現(xiàn)7ms的延時(shí)

運(yùn)行的Volta上的TensorRT3在圖像分類方面，比最快的CPU還要快40倍，在語(yǔ)言翻譯方面則要快140倍。

搭配 Tesla V100 GPU 加速器的 TensorRT 每秒能夠識(shí)別多達(dá) 5700 張圖片，而如今所用的 CPU 則每秒僅能識(shí)別 140 張圖片。

AI城市是一個(gè)巨大的AI推理挑戰(zhàn)，它可能需要使用大約1000萬(wàn)個(gè)Tesla V100 GPUs來(lái)監(jiān)控10億臺(tái)攝像頭。

▲ NVIDIA AI城市－助力中國(guó)建設(shè)更智慧、更安全的城市

NVIDIA將攜手�？低�視共建AI城市。此外，大華、華為和阿里巴巴都提供基于NVIDIA平臺(tái)的AI視頻解決方案。