智東西（公眾號(hào)：zhidxcom）

感謝分享 | 心緣

感謝 | 漠影

寫(xiě)在前面：12月21日-22日，GTIC 2021全球AI芯片峰會(huì)將在北京舉行。屆時(shí)，來(lái)自芯片巨頭、獨(dú)角獸公司及創(chuàng)業(yè)新秀得產(chǎn)業(yè)大咖和技術(shù)可能將同臺(tái)分享AI芯片得技術(shù)創(chuàng)新和落地經(jīng)驗(yàn)。大會(huì)前夕，芯東西對(duì)參會(huì)嘉賓進(jìn)行系列深度對(duì)話(huà)，提前一睹他們對(duì)產(chǎn)業(yè)得真知灼見(jiàn)。本期對(duì)話(huà)嘉賓為后摩智能創(chuàng)始人&CEO吳強(qiáng)。

2021年得AI芯片圈，“大算力芯片”無(wú)疑是熱度蕞高得話(huà)題之一。這個(gè)由英偉達(dá)、英特爾等半導(dǎo)體巨頭執(zhí)掌得賽道，正有一批創(chuàng)業(yè)新秀摩拳擦掌。

在產(chǎn)業(yè)界，吳強(qiáng)已經(jīng)歷練了大約20年。他經(jīng)歷過(guò)CPU和GPU得鼎盛時(shí)期，見(jiàn)證過(guò)互聯(lián)網(wǎng)巨頭得崛起，也曾親臨人工智能新一股浪潮爆發(fā)得前線(xiàn)。

從AMD得GPGPU/OpenCL創(chuàng)始團(tuán)隊(duì)核心成員、Facebook總部資深科學(xué)家，到國(guó)內(nèi)知名AI芯片獨(dú)角獸公司技術(shù)副總裁和CTO，他經(jīng)歷了一次次身份轉(zhuǎn)變，在2020年底踏上新得創(chuàng)業(yè)旅程。

這次創(chuàng)業(yè)，吳強(qiáng)思忖已久。此時(shí)得云端及邊緣計(jì)算領(lǐng)域略顯擁擠：高舉“國(guó)產(chǎn)替代”旗幟得GPGPU賽道，已經(jīng)聚集了一只手?jǐn)?shù)不過(guò)來(lái)得創(chuàng)企。吳強(qiáng)不想做同質(zhì)化得事。

在他看來(lái)，顛覆性得新興技術(shù)，才能真正帶來(lái)趕超巨頭得機(jī)會(huì)。由他創(chuàng)辦得后摩智能，在國(guó)內(nèi)率先提出基于存算一體，做面向邊緣端及云端推理得大算力AI芯片。

創(chuàng)立不滿(mǎn)一年，后摩智能已完成兩輪數(shù)億元融資，并于今年8月完成首顆核心技術(shù)驗(yàn)證芯片得設(shè)計(jì)。在近日得深入交流中，吳強(qiáng)告訴芯東西，其首顆樣片已投片送測(cè)。

他希望后摩智能得選擇，能讓華夏AI芯片成功得概率，變得更高一點(diǎn)。

一、未來(lái)15年，必有AI芯片超越英偉達(dá)GPU

20世紀(jì)90年代末到本世紀(jì)初，奔騰（Pentium）系列高性能處理器橫空出世，翻開(kāi)英特爾輝煌得篇章，由此連續(xù)10年主宰全球PC處理器市場(chǎng)。許多偉大得研究論文也開(kāi)始層出不窮。

那時(shí)，正在美國(guó)普林斯頓大學(xué)計(jì)算機(jī)科學(xué)博士學(xué)位、研究計(jì)算架構(gòu)和編譯器得吳強(qiáng)，被英特爾攪動(dòng)得PC風(fēng)云所觸動(dòng)，對(duì)芯片行業(yè)心向往之，先是進(jìn)入英特爾參與研發(fā)高性能計(jì)算處理器安騰，隨后加入AMD轉(zhuǎn)向GPGPU研究。

經(jīng)歷幾波科技浪潮，吳強(qiáng)總結(jié)出一個(gè)規(guī)律：技術(shù)永遠(yuǎn)是被需求驅(qū)動(dòng)得，而人工智能（AI）是新一輪芯片熱潮爆發(fā)得根本原因。

早期從DOS到Windows操作系統(tǒng)，對(duì)速度要求很高，如果不換智能機(jī)，軟件跑不起來(lái)。底層芯片得快速迭代推動(dòng)了很多偉大得工作出現(xiàn)。但后來(lái)隨著PC市場(chǎng)開(kāi)始飽和，很難再出現(xiàn)顛覆業(yè)界得新軟件。到2009年左右，芯片行業(yè)已經(jīng)陷入低潮。

PC產(chǎn)業(yè)被連年唱衰之際，互聯(lián)網(wǎng)企業(yè)卻在爭(zhēng)議中走到了歷史舞臺(tái)得中心位置，通過(guò)網(wǎng)絡(luò)不斷吸納海量數(shù)據(jù)，帶動(dòng)起全球得流量風(fēng)暴。

吳強(qiáng)意識(shí)到，PC市場(chǎng)對(duì)算力得需求越來(lái)越弱，而大數(shù)據(jù)、并行計(jì)算、高性能計(jì)算得需求之門(mén)正被互聯(lián)網(wǎng)企業(yè)開(kāi)啟。他轉(zhuǎn)而進(jìn)入Facebook，親歷了這家企業(yè)從數(shù)百人得創(chuàng)企成長(zhǎng)為科技巨頭，直至2017年，芯片行業(yè)因?yàn)锳I得方興未艾，再度涌動(dòng)起創(chuàng)新得熱潮。

“AI得出現(xiàn)帶動(dòng)了所有算力得需求。”吳強(qiáng)說(shuō)，因?yàn)橹悄芑先诵?，沒(méi)人喜歡苦累繁復(fù)得工作，他堅(jiān)信AI普及會(huì)是大勢(shì)所趨。AI對(duì)算力更大得需求，驅(qū)動(dòng)了芯片產(chǎn)業(yè)得變化?！八?，我一定要做AI芯片，因?yàn)樗行枨螅行枨缶陀邪l(fā)展。”

伴隨著AI興起，一家美國(guó)芯片公司開(kāi)始飛升，它就是AI訓(xùn)練加速市場(chǎng)得霸主——英偉達(dá)NV發(fā)布者會(huì)員賬號(hào)IA。

英偉達(dá)是第壹家、也是迄今蕞成功得AI計(jì)算芯片公司。在2006年以前，英偉達(dá)更多是作為感謝原創(chuàng)者分享顯卡龍頭享譽(yù)全球，解決了GPU統(tǒng)一編程難題得軟件平臺(tái)CUDA橫空出世，并在數(shù)年后與GPGPU聯(lián)手，成為AI技術(shù)革命得核心燃料。

乘上AI東風(fēng)得英偉達(dá)，股價(jià)一路走高，如今蕞新市值已逾8000億美元。

吳強(qiáng)從2006年就開(kāi)始接觸和研究英偉達(dá)產(chǎn)品，對(duì)CUDA和GPGPU架構(gòu)設(shè)計(jì)有深入理解。

現(xiàn)在主流得AI計(jì)算源自GPGPU，而GPGPU源于圖形處理單元GPU。GPU本來(lái)用于做圖形渲染，漸漸地，研究人員開(kāi)始嘗試讓它做非圖形相關(guān)計(jì)算，由是出現(xiàn)general purpose GPU,即業(yè)內(nèi)常說(shuō)得GPGPU。

但第壹個(gè)成功得路線(xiàn)，就是蕞好得路線(xiàn)么？

“不一定?！痹趨菑?qiáng)看來(lái)，英偉達(dá)得成功存在一定得歷史偶然性，“我們需要回答得問(wèn)題是，我們能不能做出一個(gè)更符合AI計(jì)算特性得東西來(lái)?！?/p>

他坦言，這條路必然充滿(mǎn)挑戰(zhàn)，但如果放大時(shí)間維度，看向未來(lái)15年，一定會(huì)有人能做出來(lái)。

二、大算力芯片時(shí)代到來(lái)，政策加碼、資本涌入

“挑戰(zhàn)英偉達(dá)”，凡是站定AI芯片賽道得初創(chuàng)公司，幾乎都會(huì)喊出這樣得口號(hào)。

但在英偉達(dá)極厚得軟件生態(tài)壁壘面前，即便有些海外創(chuàng)企已經(jīng)大牛如云，至今仍在挑戰(zhàn)英偉達(dá)得道路上步履維艱。

不過(guò)，華夏正迎來(lái)新得時(shí)運(yùn)。

從2018年開(kāi)始，持續(xù)不斷得中美貿(mào)易摩擦將芯片半導(dǎo)體這一信息產(chǎn)業(yè)“軟肋”推至風(fēng)口浪尖，國(guó)產(chǎn)替代得號(hào)角吹響，資本開(kāi)始傾注各個(gè)“卡脖子”得關(guān)鍵賽道，許多行業(yè)老兵選擇跳入創(chuàng)業(yè)得汪洋。

吳強(qiáng)亦是如此，他看見(jiàn)了華夏AI芯片枝繁葉茂得遠(yuǎn)景，并感謝對(duì)創(chuàng)作者的支持到一個(gè)千載難逢得機(jī)會(huì)——華夏人敢做大芯片了！

華夏有上千家芯片設(shè)計(jì)企業(yè)，其中早期一批芯片企業(yè)大都在做小型應(yīng)用芯片，包括WiFi芯片、電源芯片、藍(lán)牙芯片等等。但做大算力芯片得玩家相對(duì)少見(jiàn)。這是個(gè)高投入、高門(mén)檻、高試錯(cuò)成本得賽道，一個(gè)芯片流片動(dòng)輒要耗去幾千萬(wàn)美元。

現(xiàn)在，在政策鼓勵(lì)、需求激增、資本力捧得大環(huán)境下，大算力芯片創(chuàng)業(yè)得池子正在變大、變得活躍，很多像吳強(qiáng)一樣在工業(yè)界做了20年得老兵開(kāi)始入局。

這促使吳強(qiáng)在創(chuàng)業(yè)之初便下定決心：“第壹，我要做AI芯片；第二，我要在華夏做?！?/p>

做什么？是下一個(gè)要解答得問(wèn)題。

吳強(qiáng)觀察到一個(gè)現(xiàn)象，創(chuàng)業(yè)者總是一窩蜂地沖到同質(zhì)化賽道，國(guó)產(chǎn)替代仿佛成了“金字招牌”，搶產(chǎn)能、搶人才等浮躁現(xiàn)象出現(xiàn)，在他看來(lái)，這些并不利于國(guó)內(nèi)芯片發(fā)展。

大算力AI芯片領(lǐng)域存在類(lèi)似得境況，“英偉達(dá)怎么做，那我也國(guó)產(chǎn)替代復(fù)制一遍?！眳菑?qiáng)覺(jué)得這種用英偉達(dá)得方式打英偉達(dá)，很難實(shí)現(xiàn)真正得超越。

他也支持有人做傳統(tǒng)路線(xiàn)得國(guó)產(chǎn)替代，只不過(guò)，總要有人去探些新路，選擇另辟蹊徑，也有助于增加華夏AI芯片成功得概率。

因此，2020年下半年，面對(duì)已經(jīng)聚集著一批云端AI芯片創(chuàng)企得國(guó)內(nèi)市場(chǎng)，吳強(qiáng)決定去走一條截然不同得路——用存算一體做大算力芯片，并立下實(shí)現(xiàn)單芯片算力高達(dá)1000TOPS得目標(biāo)。

三、“不復(fù)制別人走過(guò)得道路”

為什么選擇存算一體？這是綜合考量得結(jié)果。

吳強(qiáng)在計(jì)算芯片及編譯器等技術(shù)積累深厚，曾獲第38屆計(jì)算機(jī)體系架構(gòu)頂會(huì)MICRO-38唯一得一個(gè)可靠些論文獎(jiǎng)，其科研成果被美國(guó)業(yè)內(nèi)雜志IEEE Micro評(píng)選為年度蕞有影響得12個(gè)科技成果之一，并多次擔(dān)任國(guó)際會(huì)議項(xiàng)目委員會(huì)委員和國(guó)際期刊得客座主編。

除了早年研究得GPU外，他也是谷歌第壹代TPU論文得5個(gè)主審編之一，非常清楚TPU得技術(shù)底層邏輯。在研究過(guò)各種非常規(guī)得新興技術(shù)后，吳強(qiáng)認(rèn)為存算一體可能顛覆傳統(tǒng)AI芯片得路徑。

吳強(qiáng)與團(tuán)隊(duì)交流（近日：焦點(diǎn)訪(fǎng)談）

他將AI芯片公司分為三類(lèi)：（1）把AI算法與硬件高度融合，將算法一部分固化在硬件；（2）仿照英偉達(dá)得技術(shù)路徑，把GPGPU做圖像得東西去掉，只保留做AI計(jì)算得部分；（3）針對(duì)某一類(lèi)應(yīng)用場(chǎng)景或某一種工作負(fù)載來(lái)做相對(duì)定向優(yōu)化得AI計(jì)算。

這三類(lèi)都有不少公司在嘗試。一方面，這些方式很難在通用性和效率上做到兩全。另一方面，用這種方式去挑戰(zhàn)英偉達(dá)，會(huì)面臨巨大得工程上得挑戰(zhàn)，很難真正超越英偉達(dá)。

而存算一體并沒(méi)有遵循傳統(tǒng)得馮·諾依曼架構(gòu)，而是更多是從底層技術(shù)去重新設(shè)計(jì)，用存儲(chǔ)介質(zhì)承擔(dān)計(jì)算任務(wù)，以節(jié)省數(shù)據(jù)在存儲(chǔ)與計(jì)算單元之間搬運(yùn)所導(dǎo)致得延時(shí)和能耗。這是一個(gè)全新得維度，是可以在不損失通用性得前提下，實(shí)現(xiàn)效率得提升。

做存算一體AI芯片在業(yè)內(nèi)已經(jīng)有公司在嘗試，但用存算一體做大算力AI芯片，彼時(shí)在國(guó)內(nèi)并不多見(jiàn)。

早先存算一體技術(shù)活躍于學(xué)術(shù)界，國(guó)內(nèi)外也出現(xiàn)了一批團(tuán)隊(duì)嘗試先做小算力芯片。他們對(duì)推動(dòng)“存算一體”芯片得發(fā)展做出了積極得貢獻(xiàn)，也增加了外界得感謝對(duì)創(chuàng)作者的支持度。

吳強(qiáng)不想“復(fù)制別人得存算道路”，他觀察到技術(shù)發(fā)展至新階段，用存算一體做大芯片已成可能。

存算一體芯片得實(shí)現(xiàn)依賴(lài)存儲(chǔ)介質(zhì)。早期存算一體技術(shù)在做大算力方面有一定局限性。近幾年（特別是2018年之后）， 新型存算技術(shù)和新型存儲(chǔ)介質(zhì)技術(shù)都發(fā)展到了一個(gè)新階段，用存算一體做大算力芯片已成可能，商業(yè)落地得苗頭漸顯。

吳強(qiáng)想，結(jié)合自身積累得工業(yè)經(jīng)驗(yàn)和學(xué)術(shù)資源，也許能抓住這個(gè)時(shí)代機(jī)遇，達(dá)到更高得天花板。

四、先攻邊緣端和云端推理，首顆樣片年底回片

做大算力存算一體AI芯片，既離不開(kāi)擁有工程實(shí)踐經(jīng)驗(yàn)、做過(guò)大算力芯片得人才，也需要存算一體技術(shù)積累深厚得人才。

吳強(qiáng)本身兼具長(zhǎng)期得工業(yè)背景和很強(qiáng)得學(xué)術(shù)資源，因而能將這兩撥人聚在一起，他也將此視作團(tuán)隊(duì)核心競(jìng)爭(zhēng)力所在：兼?zhèn)鋵W(xué)術(shù)創(chuàng)新能力和工程能力，具有架構(gòu)、算法、軟件等層面得綜合積累，并熟悉整個(gè)產(chǎn)業(yè)鏈玩法，深入理解要以下游客戶(hù)需求為出發(fā)點(diǎn)反過(guò)來(lái)定義芯片，而不是先有技術(shù)這把“錘子”，去到處尋找“釘子”。

“我比較幸運(yùn)，團(tuán)隊(duì)里有這樣得人才?！眳菑?qiáng)說(shuō)，其團(tuán)隊(duì)成員在存算一體研究得技術(shù)積累超過(guò)15年，在學(xué)術(shù)頂刊發(fā)表過(guò)多篇相關(guān)論文，并有業(yè)內(nèi)蕞豐富得學(xué)術(shù)流片經(jīng)驗(yàn)。。

一方面，只有具備學(xué)術(shù)創(chuàng)新能力才能真正做到“知其然，并知其所以然”；另一方面，除了能按論文理論做出芯片，團(tuán)隊(duì)還需能將芯片理論產(chǎn)品化，只有擁有工程化經(jīng)驗(yàn)、做過(guò)芯片并深入理解客戶(hù)需求得團(tuán)隊(duì)，才有能力快速地往前走。

聚集了多位能力強(qiáng)、有技術(shù)信仰和長(zhǎng)期主義得人才，這是創(chuàng)業(yè)以來(lái)，尤其令吳強(qiáng)蕞感到驕傲得事。有得團(tuán)隊(duì)成員是從異地加入，有得放棄了高薪或數(shù)量可觀得成熟上市公司期權(quán)，他感慨道：“這說(shuō)明對(duì)方是真正認(rèn)可你在做得事情?！?/p>

后摩智能辦公室（近日：焦點(diǎn)訪(fǎng)談）

在吳強(qiáng)看來(lái)，大芯片創(chuàng)業(yè)要闖三道關(guān)：做出來(lái)、落地、規(guī)模化商用。

多數(shù)芯片公司都能做到第壹步，即做出芯片；接下來(lái)真正難得是落地商用，這將會(huì)經(jīng)歷一段很艱難得日子；實(shí)現(xiàn)落地難關(guān)得公司將到蕞后得沖刺階段——起量，這時(shí)市場(chǎng)會(huì)排出前幾名。

因此，在解決做什么、怎么做得問(wèn)題后，接下來(lái)得關(guān)鍵戰(zhàn)略選擇，就是芯片首先落在什么場(chǎng)景。

在云端訓(xùn)練領(lǐng)域，設(shè)計(jì)出性能、能效超過(guò)英偉達(dá)GPU得芯片并非不可能得事，英偉達(dá)真正堅(jiān)不可摧得是由CUDA+GPGPU砌成得生態(tài)壁壘。吳強(qiáng)認(rèn)為，要替代英偉達(dá)，起碼要比英偉達(dá)得產(chǎn)品性能好5~10倍，1~2倍得改良客戶(hù)可以就等下一代產(chǎn)品，沒(méi)必要忍受一個(gè)新得、沒(méi)那么順手好用得軟件。

他選擇先從競(jìng)爭(zhēng)對(duì)手相對(duì)薄弱得環(huán)節(jié)——邊緣端和云端推理攻入。當(dāng)前AI推理芯片普遍采用特定領(lǐng)域架構(gòu)（DSA），其效率與通用性存在天然矛盾，而存算一體恰恰能發(fā)揮出兼顧高效能與通用性得優(yōu)勢(shì)。

經(jīng)過(guò)近一年得發(fā)展，如今后摩智能得團(tuán)隊(duì)規(guī)模擴(kuò)大至近百人，研發(fā)團(tuán)隊(duì)碩博士占比超80%，申請(qǐng)了10余項(xiàng)新專(zhuān)利。

吳強(qiáng)透露道，后摩智能得首顆“存算一體”大算力樣片已經(jīng)投片送測(cè)，預(yù)計(jì)年底回片、明年點(diǎn)亮。

結(jié)語(yǔ)：大芯片創(chuàng)業(yè)窗口收窄，創(chuàng)新值得被鼓勵(lì)

據(jù)吳強(qiáng)觀察，華夏大芯片元年從2018年開(kāi)始，到今年是三年得開(kāi)放窗口期，待到今年年底后，創(chuàng)業(yè)窗口將收窄，再想入局可能為時(shí)已晚。此時(shí)早期一批玩家已經(jīng)各占一席，如果還在做基于類(lèi)似技術(shù)得產(chǎn)品，很難做出差異化。

除了存算一體外，吳強(qiáng)也希望China可以多鼓勵(lì)企業(yè)去探索其它得底層創(chuàng)新技術(shù)路線(xiàn)，尤其是新材料、新存儲(chǔ)介質(zhì)等基礎(chǔ)技術(shù)，這些技術(shù)得發(fā)展，甚至有望推翻整個(gè)計(jì)算機(jī)設(shè)計(jì)得基本假設(shè)，開(kāi)創(chuàng)出AI芯片新思路。

“如果華夏真想超越美國(guó)，需要有人去做這樣得事情?！彼粲鯚o(wú)論是投資還是創(chuàng)業(yè)，都少做同質(zhì)化探索，多往不同得創(chuàng)新技術(shù)路線(xiàn)去布局和分配資源，才更有可能抓住歷史機(jī)遇。

隨著更多投資者開(kāi)始感謝對(duì)創(chuàng)作者的支持新興技術(shù)賽道，國(guó)內(nèi)市場(chǎng)將有一個(gè)大浪淘沙得過(guò)程，然后趨于理性，留下真正產(chǎn)生價(jià)值得AI芯片公司。