啪啪吧-啪啪啊-啪啪tv软件-啪啪99久久综合精品色-ts人妖国产精品-ts国产-japanese日本熟妇另类,国产性天天综合网,国产精品一区久久久久

歡迎訪(fǎng)問(wèn)寧夏玖號(hào)科技有限公司官網(wǎng)!
  • 服務(wù)熱線(xiàn):0951-5952677
  • 搜索

01

2018.04

英偉達(dá)董方亮:為AI而生的GPU

來(lái)源:本站發(fā)布日期:2018-04-04瀏覽次數(shù):

懂方亮:英偉達(dá)自動(dòng)駕駛業(yè)務(wù)中國(guó)區(qū)負(fù)責(zé)人,目前負(fù)責(zé)AI 和自動(dòng)駕駛方面的工作,并且在 GPU 的研發(fā)、設(shè)計(jì)上也有多年的經(jīng)驗(yàn)。

 

北大對(duì) GPU 的貢獻(xiàn)

北大的天之驕子應(yīng)該感到很自豪,因?yàn)镚PU 的發(fā)展有一個(gè)很重要的技術(shù)叫 Pixel Shader(像素著色器),像素著色器是決定了今天能夠做gaming、video  等很多呈現(xiàn)在大家面前功能的技術(shù)之一。核心的發(fā)明人是北大本科 87 級(jí)物理系的一位同學(xué),所以北大人應(yīng)該非常驕傲。北大對(duì) GPU 的技術(shù)發(fā)展起到了很關(guān)鍵的作用。

 

董方亮從四個(gè)角度表述了GPU與AI的前世今生

 

對(duì) GPU 進(jìn)行一個(gè)簡(jiǎn)單介紹

 

英偉達(dá)是一家以 GPU技術(shù)為核心的公司,從成立那天起就做 GPU,到今天也在做 GPU。公司從一個(gè)視覺(jué)計(jì)算的公司轉(zhuǎn)變到今天 AI 計(jì)算的公司,這一轉(zhuǎn)變當(dāng)然有時(shí)代的原因:1)現(xiàn)在產(chǎn)生大量數(shù)據(jù),其中有很多的語(yǔ)音、圖像數(shù)據(jù);2)在人工智能方面,我們的一些基礎(chǔ)研究有了長(zhǎng)足的發(fā)展,同時(shí)在基于DNN(深度神經(jīng)網(wǎng)絡(luò))架構(gòu)上也有不錯(cuò)的發(fā)展,與現(xiàn)在 CPU 的計(jì)算模式不同。

將 GPU與 deep learning 相聯(lián)系

 

為什么 GPU非常合適于今天的AI的計(jì)算,也就是 deep learning?

 

從 GPU 計(jì)算年譜可以看到,英偉達(dá)在 06年的時(shí)候做了一個(gè)CUDA(computing unifieddevice architecture),核心意思是,GPU 是一個(gè)多核的計(jì)算體。我們?nèi)绻苡靡惶准軜?gòu)把計(jì)算核完整、方便地調(diào)動(dòng)起來(lái),就形成了并行計(jì)算的基礎(chǔ)。CUDA 包含了從底層到應(yīng)用層完整的 SDK,公司之前就已經(jīng)做了并行計(jì)算的充分準(zhǔn)備。從 06年到現(xiàn)在,英偉達(dá)每一代產(chǎn)品,都原生地支持 CUDA。年譜中有另一個(gè)重要的時(shí)間點(diǎn)——2012年,當(dāng)時(shí) AlexNet 用 GPU 做了一個(gè)9 層的 DNN 架構(gòu)來(lái)做圖像識(shí)別,取得了很好的效果。2012年可以認(rèn)為是 GPU 應(yīng)用于 deep learning 的爆發(fā)元年。隨著時(shí)間的發(fā)展,DNN 不斷演進(jìn)。在各類(lèi) framework 不斷演進(jìn)的今天,GPU 與 deep learning緊緊地被綁在了一起。

 

如今,摩爾定律是否能夠適應(yīng)如今嶄新的計(jì)算架構(gòu)?摩爾定律是以藍(lán)線(xiàn)表示,有一個(gè)難以突破的平臺(tái)期。主要難點(diǎn)之一在于,線(xiàn)程做的比較小會(huì)有很大的挑戰(zhàn)。但是deep learning 還在不斷發(fā)展,因此需要全新的架構(gòu)支持,并且需要沿著比摩爾定律更高的計(jì)算量趨勢(shì)發(fā)展,才能匹配全新的計(jì)算模式,才能在 AI 時(shí)代體現(xiàn)良好的計(jì)算能力。

 

預(yù)計(jì)到 2025年,GPU 有很大的需求量。GPU 時(shí)代興起的原因在于,GPU 提供了與之前 general purpose computing 不同的模式。GPU 在支撐全新架構(gòu)的前提下,能夠支撐現(xiàn)有的計(jì)算力。

 

對(duì) CPU 與 GPU 做一個(gè)簡(jiǎn)單的比較。GPU 與 CPU 的特點(diǎn)不同,GPU是一個(gè)簡(jiǎn)單的多核處理器,再結(jié)合CUDA之后,很有利于做并行運(yùn)算。這是GPU的簡(jiǎn)單架構(gòu),當(dāng)然也有很多有特色的東西,包括多個(gè)streaming multiprocessor,即流的多處理器,上面會(huì)包int F16,F32,F64的處理核。因此,GPU很適合做并行運(yùn)算。

 

Deep learning 是并行運(yùn)算很好的應(yīng)用場(chǎng)景。這是一個(gè)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)??梢耘c大家簡(jiǎn)單分享一下我們?yōu)楹芜@么設(shè)計(jì) deep learning 的網(wǎng)絡(luò)。最早,是對(duì)于人腦假說(shuō)性的理論模擬。70 年代,兩位德國(guó)的生物學(xué)家解剖貓的大腦時(shí),認(rèn)為神經(jīng)元是一層一層的,神經(jīng)元之間有反射弧,他們假說(shuō)當(dāng)電流通過(guò)神經(jīng)元之間的反射弧時(shí),是一個(gè)激活的狀態(tài)。他們提出了一套理論。之后,在DNN 架構(gòu)出來(lái)之后,用 DNN 做具有特征的數(shù)據(jù)識(shí)別,有良好的效果。前層的 layer 是后層的淺層表現(xiàn),因此帶有 pattern 的語(yǔ)音、圖像數(shù)據(jù)能夠分類(lèi)。在深度神經(jīng)網(wǎng)絡(luò)中,每一個(gè)節(jié)點(diǎn)都可以被模擬成計(jì)算核。GPU承擔(dān)了每一個(gè)深度神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)的計(jì)算,這也是 GPU 符合 DNN架構(gòu)的原因。因此,GPU是線(xiàn)下訓(xùn)練的唯一選擇。

 

Deep learning 其實(shí)包括兩部分,第一部分是線(xiàn)下的訓(xùn)練,在云端或者加載GPU 的服務(wù)器端做訓(xùn)練;另一部分是做線(xiàn)上的推理。在線(xiàn)下訓(xùn)練,之后將訓(xùn)練好的模型放到線(xiàn)上去做推理,這是目前 deep learning 較為普適的模式。

 

Deep learning 的模式較為適合三類(lèi)數(shù)據(jù),computer vision 數(shù)據(jù),語(yǔ)音數(shù)據(jù),自然語(yǔ)言處理數(shù)據(jù)。這張PPT展現(xiàn)從 GPU 到 SDK 到 framework 到上層的應(yīng)用。GPU帶來(lái)的 deep learning 創(chuàng)造了全新的計(jì)算時(shí)代,也給初創(chuàng)公司帶來(lái)很多機(jī)會(huì)。

 

探討當(dāng)今時(shí)代的 AI,以及今后的AI會(huì)朝什么方向發(fā)展

 

AI的機(jī)會(huì)很多,在單一技術(shù)和組合式產(chǎn)品中,都有良好的市場(chǎng)。從初創(chuàng)公司中看 deep learning 中有哪些機(jī)會(huì):1)健康醫(yī)療,比如皮膚癌的研究在用 deep learning 做;2)零售,主要解決商品選擇和支付問(wèn)題。Focal 公司解決如何讓傳統(tǒng)零售業(yè)爆發(fā)活力的方案,核心技術(shù)是對(duì)物體的識(shí)別??蛻?hù)進(jìn)入實(shí)體店后,有類(lèi)似于pad 的裝置,用手推車(chē)進(jìn)行購(gòu)物,當(dāng)挑選完商品后,不用結(jié)賬,自動(dòng)識(shí)別。

 

同時(shí),當(dāng)商品從貨架取下后,系統(tǒng)會(huì)自動(dòng)補(bǔ)貨。這個(gè)公司主要面向零售業(yè)的細(xì)分市場(chǎng);3)金融。美國(guó)有一家投資公司,用了無(wú)人機(jī)和衛(wèi)星圖片,天天在美國(guó)上空掃莊稼地,利用 DNN 網(wǎng)絡(luò)做圖片識(shí)別,看看某幾類(lèi)莊稼的長(zhǎng)勢(shì)如何,并在期貨交易所做對(duì)沖??梢酝ㄟ^(guò)歷史數(shù)據(jù)比對(duì),看是欠收還是多收;4)安全;5)IoT,比如機(jī)器人、無(wú)人機(jī)公司。目前有陪伴機(jī)器人,服務(wù)機(jī)器人,用無(wú)人機(jī)撒農(nóng)藥,這些都是針對(duì)特殊場(chǎng)景的很好的應(yīng)用;6)無(wú)人駕駛,代表了 deep learning 技術(shù)與未來(lái)交通行業(yè)的結(jié)合;7)網(wǎng)絡(luò)安全。有些公司用 deep learning 做對(duì)于病毒、惡意模式的判斷,這些方案能夠?qū)崟r(shí)升級(jí),判斷新來(lái)的病毒屬于哪一類(lèi)。

與大家分享一下一些 AI 的典型應(yīng)用。第一個(gè)應(yīng)用是在車(chē)?yán)镉谜Z(yǔ)音與車(chē)進(jìn)行交互;第二個(gè)應(yīng)用是基于圖像的物體識(shí)別,能夠在圖片庫(kù)中找到心儀的物品。在數(shù)據(jù)庫(kù)領(lǐng)域,這種基于圖片的應(yīng)用也很有意思。比如 SAP 在訓(xùn)練 DNN中,將廣告中公司的圖標(biāo)抓取出來(lái),并給客戶(hù)一個(gè)報(bào)告,在這段視頻中,圖標(biāo)出現(xiàn)多少次,出現(xiàn)在什么位置,并判斷投資和品牌曝光度是否合理。這一特性,給SAP帶來(lái)很好的客戶(hù)反饋;第三個(gè)應(yīng)用是基于用戶(hù)行為作出判斷,比如喜歡什么類(lèi)型的電影。

我們與祖母可能交流困難,如何應(yīng)用 NLP 技術(shù)與她進(jìn)行交流,增強(qiáng)人與人之間的溝通;第二張圖片與醫(yī)療相關(guān);第三張圖片中是微軟的工程師,是一個(gè)天生的盲人,微軟現(xiàn)在有一種眼鏡能夠進(jìn)行物體識(shí)別,這也是基于deep learning很好的應(yīng)用。

第一張圖是我們?cè)谄桨渤鞘兄凶ト√卣鼽c(diǎn);第二張圖是服務(wù)型機(jī)器人;第三張圖是在農(nóng)業(yè)方面的應(yīng)用。因此,在 AI月 deep learning 的時(shí)代,有很多領(lǐng)域大家可以嘗試去做。

這張圖想與大家分享一下英偉達(dá)在自動(dòng)駕駛領(lǐng)域的應(yīng)用。我們將自動(dòng)駕駛變?yōu)锳I 的任務(wù),模擬人進(jìn)行駕駛。當(dāng)人駕駛時(shí),人需要知道周?chē)h(huán)境,車(chē)的位置,并作出相應(yīng)的駕駛策略,這也是AI的任務(wù)。1)感知:我們會(huì)用多樣的傳感器將周?chē)h(huán)境情況了解清楚;2)reasoning:判斷周?chē)h(huán)境是否安全;3)駕駛:依托于高精度地圖,高精度地圖能夠提供豐富的環(huán)境信息和精確的定位。

 

GTC 新產(chǎn)品解讀

第一個(gè)就是,英偉達(dá)在 GTC上宣布了新一代的 GPU,VOLTA100。我們每一代的GPU有一個(gè)科學(xué)家的名字,這一代的GPU 對(duì)我們來(lái)說(shuō),有幾方面的提高,第一是它有 210 億個(gè)晶體管,12納米線(xiàn)程,然后整個(gè)核心板的面積在815毫米平方,這是一個(gè)非常大的進(jìn)步,整個(gè)架構(gòu)上有一個(gè)非常大的進(jìn)步。

 

這一代,我們的架構(gòu)有一個(gè)很好的一個(gè)提升,我們會(huì)在這一代架構(gòu)里面放入一個(gè)Tensor 核,它完成了以前矩陣式同步這種的矩陣式相乘,實(shí)現(xiàn)非常高速的運(yùn)轉(zhuǎn)。這樣的結(jié)果會(huì)讓我們產(chǎn)生120Teraflops 的計(jì)算能力,這種計(jì)算能力無(wú)論針對(duì) Training 端還是 Inference 端都是非常好的進(jìn)步。這一代產(chǎn)品是英偉達(dá)最新在 GTC上發(fā)布的。



玖號(hào)科技有限公司版權(quán)所有  寧ICP備17000778號(hào)