光子張量CPU：迸發(fā)5G機器學(xué)習(xí)新活力

翻譯自——EEtimes

近期,一種用光子張量處理器代替GPU來進行機器學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)計算的新方法表明,在處理光學(xué)數(shù)據(jù)傳輸?shù)男阅苌峡梢蕴岣?-3階。這也表明光子處理器具有增強電子系統(tǒng)的潛力,并可能在5G網(wǎng)絡(luò)邊緣設(shè)備中表現(xiàn)強勁。

美國喬治華盛頓大學(xué)電子和計算機工程系的Mario Miscuglio和Volker Sorger在《應(yīng)用物理評論雜志》上發(fā)表了一篇論文,題為《基于光子的處理單元使更復(fù)雜的機器學(xué)習(xí)成為可能》。

在他們的方法中,光子張量核并行執(zhí)行矩陣乘法,這提高了深度學(xué)習(xí)的速度和效率。在機器學(xué)習(xí)中,神經(jīng)網(wǎng)絡(luò)被訓(xùn)練來學(xué)習(xí)如何在不可見的數(shù)據(jù)上執(zhí)行無監(jiān)督的決策和分類任務(wù)。一旦神經(jīng)網(wǎng)絡(luò)對數(shù)據(jù)進行了訓(xùn)練,它就可以產(chǎn)生一種推斷,從而對對象和模式進行識別和分類,并在數(shù)據(jù)中找到一個特征。

光子TPU并行存儲和處理數(shù)據(jù),具有電光互連的特點,可以有效地讀寫光存儲器,并與其他架構(gòu)進行接口。

作者之一Mario Miscuglio表示:“我們發(fā)現(xiàn)集成了高效光存儲的集成光子平臺可以獲得與張量處理單元相同的操作,但它們只消耗一小部分的功率,并具有更高的吞吐量,如果經(jīng)過適當(dāng)?shù)挠?xùn)練,可以用于以光速進行推理?！?/p>

大多數(shù)神經(jīng)網(wǎng)絡(luò)旨在模仿人類大腦的多層相互連接的神經(jīng)元。表示這些網(wǎng)絡(luò)的一種有效方法是將矩陣和向量相乘的復(fù)合函數(shù)。這種表示方式允許通過專門用于向量化操作(如矩陣乘法)的架構(gòu)來執(zhí)行并行操作。

(a)光子張量核(PTC)由一個16點積引擎組成,內(nèi)在獨立地逐列逐行逐點乘法和累加。點積引擎執(zhí)行兩個向量之間的乘法。輸入矩陣的第i行由由高速(如馬赫-曾德爾)調(diào)制器調(diào)制的波分復(fù)用信號給出。通過適當(dāng)設(shè)置核矩陣的權(quán)值狀態(tài),將核矩陣的第j列加載到光子存儲器中。利用光-物質(zhì)與相變存儲器的相互作用,利用微環(huán)諧振器(MRR)對輸入信號進行頻譜濾波,并采用看似量子化的電吸收方案進行加權(quán)。(例如調(diào)幅),從而執(zhí)行按元素進行的乘法。使用光檢測器將元素式乘法非相干求和,這相當(dāng)于MAC操作(Dij)。

任務(wù)越智能化,預(yù)測精度就越高,網(wǎng)絡(luò)就越復(fù)雜。這樣的網(wǎng)絡(luò)需要更大的計算量和更大的處理能力。當(dāng)前適合于深度學(xué)習(xí)的數(shù)字處理器,如圖形處理單元(GPU)或張量處理單元(TPU),由于所需的功率以及處理器和存儲器之間電子數(shù)據(jù)的緩慢傳輸,在執(zhí)行更復(fù)雜、更精確的操作方面受到了限制。

研究人員表明,他們的TPU性能可以比電子TPU高出2-3個數(shù)量級。對于計算節(jié)點分布式網(wǎng)絡(luò)和在網(wǎng)絡(luò)邊緣(如5G)執(zhí)行高吞吐量智能任務(wù)的引擎來說,光子可能是一個理想的匹配。在網(wǎng)絡(luò)邊緣,數(shù)據(jù)信號可能已經(jīng)以來自監(jiān)控攝像機、光學(xué)傳感器和其他來源的光子的形式存在。

Miscuglio:“光子專用處理器可以節(jié)省大量的能源,提高響應(yīng)時間并減少數(shù)據(jù)中心的流量?！睂τ诮K端用戶來說,這意味著處理數(shù)據(jù)的速度要快得多,因為數(shù)據(jù)的很大一部分是預(yù)處理的,這意味著只需要將其余部分?jǐn)?shù)據(jù)發(fā)送到云或數(shù)據(jù)中心。