人工智能任務日益復雜、多樣且動態(tài)變化，傳統(tǒng)機器學習方法往往基于固定數(shù)據(jù)集訓練任務，無法適應環(huán)境變化，如何使AI系統(tǒng)具備多任務持續(xù)學習的能力成為亟需解決的問題。近年來，隨著摩爾定律的停滯，以衍射神經(jīng)網(wǎng)絡為代表的光學架構(gòu)作為新的計算模態(tài)，在功能和效率方面展現(xiàn)出巨大潛力。然而，當前光網(wǎng)絡仍普遍存在“災難性遺忘”（catastrophic forgetting）的問題，學習新任務會失去先前任務的記憶。受人腦實現(xiàn)可持續(xù)學習的神經(jīng)突觸機制啟發(fā)，基于光天然物理上的稀疏性和并行性，清華大學電子工程系方璐副教授團隊首創(chuàng)了智能光計算終身學習架構(gòu)，突破光網(wǎng)絡單一功能限制，支撐類腦并行多任務學習。通過稀疏光連接及多光譜并行計算等關(guān)鍵模塊，賦予光計算系統(tǒng)超越現(xiàn)有技術(shù)的功能、通量與能效，為智能系統(tǒng)在邊緣硬件的多任務部署提供了光速解決方案。

目前的人工智能模型大多只能處理給定的任務，當環(huán)境發(fā)生變化便無能為力，距離人們需要的通用智能相差甚遠。智能系統(tǒng)的可持續(xù)學習能力是AI領域發(fā)展的重要瓶頸，正受到廣泛關(guān)注。反觀人類本身，在不斷成長的過程中，人腦可以終身學習并掌握各種技能。如何借鑒人腦的終身學習機制，挖掘大規(guī)�？沙掷m(xù)進化的計算范式成為了極具挑戰(zhàn)性的研究方向。然而，傳統(tǒng)硅基電子計算芯片的算力和功耗嚴重受限，難以滿足現(xiàn)實迫切所需的大規(guī)模高通量數(shù)據(jù)處理需求，因此探索新的計算技術(shù)和模態(tài)是未來智能系統(tǒng)發(fā)展的必然趨勢。

近年來，以光計算為基礎、通過光電融合的方式構(gòu)建光電神經(jīng)網(wǎng)絡已成為國際前沿的熱點研究。然而，雖然以衍射神經(jīng)網(wǎng)絡為代表的各式光網(wǎng)絡不斷涌現(xiàn)，但是現(xiàn)有的光電系統(tǒng)中的基本光學計算單元普遍受限于固化的結(jié)構(gòu)與較低的擴展性，極大地限制了光本身的物理潛能和計算能力，導致當前光網(wǎng)絡只能實現(xiàn)簡單的單一任務，學習新任務時無法克服災難性遺忘的問題。

針對上述問題，方璐團隊提出了終身學習光計算架構(gòu)L²ONN（Lifelong Learning Optical Neural Network）（圖1），創(chuàng)新性實現(xiàn)了可持續(xù)學習的多任務智能系統(tǒng)。受益于大規(guī)模光連接中固有的稀疏性和并行性，光計算天然地模仿了人腦中神經(jīng)元和突觸的終身學習機制。通過自適應地激活相干光場中的稀疏光連接來學習每個任務，同時逐漸激活光計算來持續(xù)獲得對各種任務的經(jīng)驗信息，多任務光學特征由分配有不同波長的多光譜表征并行處理。所提出光終身學習架構(gòu)從理論上確保了光本身物理特性帶來的可擴展性和通用性，構(gòu)建了新型神經(jīng)形態(tài)計算體系，賦予智能系統(tǒng)以光速計算的能力。

圖片:46C085268D59002B5A0B92B66DE_24EAAB99_5B36F.png

圖1.光終身學習框架示意圖

為評估L2ONN的可持續(xù)學習能力，項目組在多個具有挑戰(zhàn)性的數(shù)據(jù)集上進行了仿真驗證（圖2）。大量實驗證實，L2ONN避免了普通光神經(jīng)網(wǎng)絡的災難性遺忘問題，在多種數(shù)據(jù)（視覺分類、語音識別、醫(yī)學診斷等）上完成多任務終身學習，其學習能力比普通光神經(jīng)網(wǎng)絡高出14倍以上。

圖片:8432D1784E385F0A1EBE4AAB1BD_9B61AAD3_3E48C.png

圖2.光終身學習架構(gòu)在多項數(shù)據(jù)集下的增量學習結(jié)果

進一步，團隊基于衍射計算模型實際制造了光終身學習芯片（圖3），并利用其實現(xiàn)了持續(xù)學習和并行處理，完成了光學智能系統(tǒng)在邊緣硬件的實際部署。最終結(jié)果表明，該芯片使用有限的計算資源，計算能效比典型的電神經(jīng)網(wǎng)絡高出一個數(shù)量級以上。

圖片:E4FA5FB406D3AAB4468B60E11B5_A893D8BF_C6251.png

圖3.光終身學習芯片原型系統(tǒng)、增量學習過程以及設計原理

研究提出的光計算終身學習架構(gòu)展現(xiàn)了光計算非凡的學習能力。隨著硅光芯片集成技術(shù)的發(fā)展，基于智能光計算終身學習架構(gòu)的光芯片有效支撐多任務并行處理，為智能系統(tǒng)在邊緣硬件的實際部署提供可持續(xù)學習的光速解決方案。該光計算架構(gòu)以其在功能、通量、能效上的優(yōu)勢，有望顯著提升人工智能系統(tǒng)的可擴展性和通用性，使機器智能擁有像人類一樣對現(xiàn)實世界復雜任務的適應能力。

近日，該研究成果以“數(shù)十項任務終身學習的光子神經(jīng)形態(tài)結(jié)構(gòu)”（Photonic neuromorphic architecture for tens-of-task lifelong learning）為題，在線發(fā)表于《自然》（Nature）子刊《光：科學與應用》（Light：Science&Applications）。

清華大學電子工程系程遠博士后為論文第一作者，方璐為論文通訊作者。研究得到國家自然科學基金委基礎科學中心項目，科技部2030“新一代人工智能”重大項目，清華大學-之江實驗室聯(lián)合研究中心等的支持。

論文鏈接：https://doi.org/10.1038/s41377-024-01395-4