高通相信,CloudAI100的性能優(yōu)勢(shì)可以讓它在深度學(xué)習(xí)芯片市場(chǎng)上占據(jù)上風(fēng)。高通有信心在產(chǎn)品性能、AI處理、數(shù)據(jù)處理等方面成為強(qiáng)大的領(lǐng)導(dǎo)者。
昨天,高通在舊金山召開(kāi)了年度人工智能日(AIDay)大會(huì)。在本次會(huì)議上,該公司揭開(kāi)了三款芯片的神秘面紗,而這三款芯片可以用于智能手機(jī)、平板電腦以及其他移動(dòng)設(shè)備。然而,這些芯片只是開(kāi)胃菜,重頭戲是一款專(zhuān)為邊緣計(jì)算設(shè)計(jì)的新產(chǎn)品——QualcommCloudAI100。
產(chǎn)品管理高級(jí)副總裁KeithKressin說(shuō),“我們?cè)O(shè)計(jì)這個(gè)全新的信號(hào)處理器旨在為AI推理服務(wù),”他還補(bǔ)充道,產(chǎn)品將在明年下半年開(kāi)始生產(chǎn)。
CloudAI100集成了一系列開(kāi)發(fā)工具,包括編譯器、調(diào)試器、分析器、監(jiān)視器、芯片調(diào)試器和量化器。此外,它還支持包括ONNX、Glow和XLA在內(nèi)的運(yùn)行時(shí),以及Google的TensorFlow,F(xiàn)acebook的PyTorch、Keras、MXNet,百度的PaddlePaddle和微軟的CognitiveToolkit等機(jī)器學(xué)習(xí)框架。
高通估計(jì),這款產(chǎn)品的峰值性能是驍龍855和驍龍820的3至50倍。公司還聲稱(chēng),與傳統(tǒng)的FPGA相比,它在推理方面的平均速度要快10倍左右。此外,以TOPs(高性能芯片常用的性能指標(biāo))衡量,CloudAI100的運(yùn)算速度可以“遠(yuǎn)遠(yuǎn)超過(guò)”100TOPs。相比之下,驍龍855的最快只有7TOPs。
Kressin解釋說(shuō):“FPGA或GPU通??梢愿行У剡M(jìn)行AI推理處理,因?yàn)镚PU是并行的,而CPU是串行的,并行芯片更適合AI處理。不過(guò),GPU最初是為處理圖形而生,我們要專(zhuān)門(mén)設(shè)計(jì)一個(gè)芯片來(lái)加速AI,才能得到更加顯著的提升。從CPU到FPGA或GPU,經(jīng)過(guò)了一個(gè)數(shù)量級(jí)的改進(jìn),定制AI加速器能再加一個(gè)數(shù)量級(jí)改進(jìn)?!?/p>
高通進(jìn)軍云計(jì)算領(lǐng)域之前,它的主要競(jìng)爭(zhēng)對(duì)手華為發(fā)布了業(yè)界最高性能Arm架構(gòu)處理器鯤鵬920。在SPECint(一個(gè)由12個(gè)程序組成的基準(zhǔn)測(cè)試套件,旨在測(cè)試整數(shù)性能)中,該芯片的得分超過(guò)了930分,比行業(yè)基準(zhǔn)高出將近25%,而功耗比行業(yè)現(xiàn)有廠商提供的產(chǎn)品低30%。
高通的競(jìng)爭(zhēng)對(duì)手可不止華為一個(gè)。
今年1月,在拉斯維加斯舉行的消費(fèi)電子展上,英特爾詳細(xì)介紹了即將推出的Nervana神經(jīng)網(wǎng)絡(luò)處理器(NNP-I)。據(jù)報(bào)道,該處理器的AI訓(xùn)練性能將達(dá)到競(jìng)爭(zhēng)對(duì)手顯卡的10倍。谷歌去年推出了專(zhuān)用推理芯片EdgeTPU。阿里巴巴去年12月宣布,計(jì)劃在今年下半年推出首款自主研發(fā)的AI推理芯片。
在FPGA方面,亞馬遜最近推出了自己的AI云加速芯片,名為AWSInferentia。微軟也在ProjectBrainwave中展示了類(lèi)似的產(chǎn)品。今年3月,F(xiàn)acebook發(fā)布了用于AI推理的服務(wù)器芯片KingsCanyon。本月,英特爾宣布推出Agilex系列芯片,優(yōu)化AI和大數(shù)據(jù)工作。
但高通相信,CloudAI100的性能優(yōu)勢(shì)可以讓它在深度學(xué)習(xí)芯片市場(chǎng)上占據(jù)上風(fēng)。預(yù)計(jì)到2025年,該市場(chǎng)規(guī)模將達(dá)到6630萬(wàn)美元。
“很多公司都把網(wǎng)絡(luò)硬件放在邊緣,形成一個(gè)內(nèi)容傳輸網(wǎng)絡(luò),這個(gè)網(wǎng)絡(luò)可以完成云游戲或是AI處理等不同類(lèi)型的任務(wù)。這個(gè)趨勢(shì)非常關(guān)鍵。因?yàn)檫@樣一來(lái),無(wú)論是終端用戶(hù)的輸入技術(shù),還是云端,都會(huì)有高通的參與?!?/p>
高通還有另一個(gè)潛在優(yōu)勢(shì)——生態(tài)系統(tǒng)的支持。
去年11月,高通承諾向一家專(zhuān)注于edgeAI和on-deviceAI的初創(chuàng)基金提供1億美元,資金將用于自動(dòng)駕駛汽車(chē)、機(jī)器人、計(jì)算機(jī)視覺(jué)和物聯(lián)網(wǎng)等領(lǐng)域。去年5月,它與微軟合作開(kāi)發(fā)了一個(gè)visionAI工具包,輔助嵌入在系統(tǒng)芯片中的AI加速器。
“就市場(chǎng)規(guī)模而言,推理正在催生一個(gè)大型芯片市場(chǎng),”Kressin表示,“隨著時(shí)間的推移,我們預(yù)計(jì),在2018年至2025年期間,市場(chǎng)規(guī)模大約會(huì)擴(kuò)大10倍。我們非常有信心,高通在產(chǎn)品性能、AI處理、數(shù)據(jù)處理等方面,將會(huì)成為強(qiáng)大的領(lǐng)導(dǎo)者?!?/p>