麻省理工研發(fā)出超快光子處理器,效率極高!
由麻省理工學(xué)院科學(xué)家設(shè)計的新型光子芯片以光學(xué)方式執(zhí)行所有深度神經(jīng)網(wǎng)絡(luò)計算,在納秒內(nèi)完成任務(wù),準(zhǔn)確率超過92%。 &zp5do;m 這將徹底改變高需求計算應(yīng)用,為可實時學(xué)習(xí)的高速處理器打開大門。 ayD\b6Z2. 光子機器學(xué)習(xí) ^\?9W 深度神經(jīng)網(wǎng)絡(luò)是當(dāng)今最先進的機器學(xué)習(xí)應(yīng)用背后的驅(qū)動力,它變得如此龐大和復(fù)雜,以至于突破了傳統(tǒng)電子計算硬件的極限。 }B-A*TI<h 光子硬件使用光而不是電來執(zhí)行機器學(xué)習(xí)計算,提供了一種更快、更節(jié)能的解決方案。 然而,光子設(shè)備很難實現(xiàn)某些神經(jīng)網(wǎng)絡(luò)操作,這就不得不依賴外部電子設(shè)備,從而減慢了處理速度,降低了效率。 HA%ye"(y8
[attachment=131058] 8if"U xV( 研究人員展示了一種完全集成的光子處理器,它可以在芯片上以光學(xué)方式執(zhí)行深度神經(jīng)網(wǎng)絡(luò)的所有關(guān)鍵計算,從而為激光雷達或高速通信等計算要求苛刻的應(yīng)用實現(xiàn)更快、更節(jié)能的深度學(xué)習(xí)。 @}gdOaw 光子芯片技術(shù)的突破 US|vYd}u+ 經(jīng)過十年的研究,麻省理工學(xué)院和合作機構(gòu)的科學(xué)家們開發(fā)出一種突破性的光子芯片,克服了這些挑戰(zhàn)。 他們展示了一種完全集成的光子處理器,能夠完全利用光執(zhí)行所有基本的深度神經(jīng)網(wǎng)絡(luò)計算,無需外部處理。該光學(xué)設(shè)備能夠在不到半納秒的時間內(nèi)完成機器學(xué)習(xí)分類任務(wù)的關(guān)鍵計算,同時達到 92% 以上的準(zhǔn)確率--性能與傳統(tǒng)硬件相當(dāng)。 fUL"fMoU 光子神經(jīng)網(wǎng)絡(luò)及其影響 Cg
Sdyg@ 該芯片由相互連接的模塊組成一個光神經(jīng)網(wǎng)絡(luò),采用商業(yè)代工工藝制造,可實現(xiàn)該技術(shù)的擴展和與電子產(chǎn)品的集成。 zT% kx:Fk 從長遠來看,光子處理器可為激光雷達、天文學(xué)和粒子物理學(xué)科學(xué)研究或高速通信等計算要求苛刻的應(yīng)用帶來更快、更節(jié)能的深度學(xué)習(xí)。 agYKaM1N 用光進行機器學(xué)習(xí) {dwV-qz 深度神經(jīng)網(wǎng)絡(luò)由多層相互連接的節(jié)點或神經(jīng)元組成,它們對輸入數(shù)據(jù)進行運算以產(chǎn)生輸出。 深度神經(jīng)網(wǎng)絡(luò)的一個關(guān)鍵操作是使用線性代數(shù)來執(zhí)行矩陣乘法,在數(shù)據(jù)從一層傳遞到另一層時進行轉(zhuǎn)換。 AE711l- 但除了這些線性運算外,深度神經(jīng)網(wǎng)絡(luò)還能執(zhí)行非線性運算,幫助模型學(xué)習(xí)更復(fù)雜的模式。 激活函數(shù)等非線性運算賦予了深度神經(jīng)網(wǎng)絡(luò)解決復(fù)雜問題的能力。 2z\F m/Z. 2017年,恩格倫德的研究小組與塞西爾和艾達-格林物理學(xué)教授馬林-索爾亞契奇實驗室的研究人員一起,在單個光子芯片上演示了一個光神經(jīng)網(wǎng)絡(luò),它可以用光進行矩陣乘法運算。但當(dāng)時,該設(shè)備無法在芯片上執(zhí)行非線性操作。 光學(xué)數(shù)據(jù)必須轉(zhuǎn)換成電信號,然后發(fā)送到數(shù)字處理器,才能執(zhí)行非線性操作。 .%rR Bandyopadhyay解釋說:“光學(xué)中的非線性具有相當(dāng)大的挑戰(zhàn)性,因為光子之間不容易相互作用。這使得觸發(fā)光學(xué)非線性變得非常耗電,因此建立一個能夠以可擴展的方式實現(xiàn)非線性的系統(tǒng)變得非常具有挑戰(zhàn)性! .{-yveE 他們通過設(shè)計稱為非線性光學(xué)功能單元(NOFUs)的設(shè)備克服了這一挑戰(zhàn),這種設(shè)備結(jié)合了電子學(xué)和光學(xué),可以在芯片上實現(xiàn)非線性操作。研究人員在光子芯片上構(gòu)建了一個光學(xué)深度神經(jīng)網(wǎng)絡(luò),利用三層設(shè)備執(zhí)行線性和非線性操作。 yFt7fdl2 完全集成的網(wǎng)絡(luò) ["}A#cO652 首先,他們的系統(tǒng)將深度神經(jīng)網(wǎng)絡(luò)的參數(shù)編碼成光。 然后,2017 年論文中展示的可編程分光器陣列對這些輸入進行矩陣乘法運算。然后,數(shù)據(jù)進入可編程 NOFU,NOFU 通過將少量光虹吸到光電二極管,將光信號轉(zhuǎn)換為電流,從而實現(xiàn)非線性功能。 這一過程無需外部放大器,能耗極低。 oc(bcU Bandyopadhyay說:“我們一直處于光域中,直到最后讀出答案。 這使我們能夠?qū)崿F(xiàn)超低延遲! a{+oN
$ 實現(xiàn)如此低的延遲使他們能夠在芯片上高效地訓(xùn)練深度神經(jīng)網(wǎng)絡(luò),這一過程被稱為原位訓(xùn)練,通常會消耗數(shù)字硬件的大量能量。這尤其適用于對光信號進行域內(nèi)處理的系統(tǒng),如導(dǎo)航或電信,也適用于想要實時學(xué)習(xí)的系統(tǒng)。 ?N
ga 光子系統(tǒng)在訓(xùn)練測試中達到了 96% 以上的準(zhǔn)確率,在推理中達到了 92% 以上的準(zhǔn)確率,與傳統(tǒng)硬件不相上下。 此外,該芯片還能在不到半納秒的時間內(nèi)完成關(guān)鍵計算。 o
FLrSmY)E 這項工作表明,計算(從本質(zhì)上講,就是輸入到輸出的映射)可以編譯到線性和非線性物理學(xué)的新架構(gòu)中,從而實現(xiàn)計算與所需工作量之間根本不同的比例規(guī)律。 OK\%cq/U 整個電路的制造采用了與生產(chǎn) CMOS 計算機芯片相同的基礎(chǔ)設(shè)施和代工工藝。 這樣就能利用在制造過程中引入極少誤差的成熟技術(shù),大規(guī)模制造芯片。 S;'eoqN8 Bandyopadhyay 說:“擴大設(shè)備規(guī)模并將其與相機或電信系統(tǒng)等實際電子設(shè)備集成將是未來工作的重點! 此外,研究人員還希望探索能利用光學(xué)優(yōu)勢更快、更節(jié)能地訓(xùn)練系統(tǒng)的算法。 .y/b$|d, 論文鏈接:https://www.nature.com/articles/s41566-024-01567-z
|