超高效智能晶片 開創人工智能新時代

無論是支援人臉識別功能的行動裝置,抑或能安全載人到達目的地的無人駕駛車輛,應用人工智能的技術幾乎為日常生活的每一個環節帶來改變。

人工智能幫助人類在生活上作出更精明的選擇,但高昂的發展成本是一大限制。需要耗用巨大計算和記憶體資源,以及投放大量時間訓練人工智能模型等林林總總的挑戰,窒礙人工智能的全面發展。

科大早著先機,於2020年聯同史丹福大學、香港大學和香港中文大學攜手成立了跨界別的智能晶片與系統研發中心AI Chip Center for Emerging Smart Systems簡稱 ACCESS),矢志將人工智能的應用普及化。

在科大副校長(研究和發展)鄭光廷教授領導之下,多位研發專家雲集ACCESS一同開發性能及能源效益能夠提升1,000倍的新人工智能晶片,有助推動全球的人工智能發展。

優化硬件配置

人工智能應用的發展一日千里,為了保持領先地位,ACCESS晶片設計師正日以繼夜地研發晶片,用以運算極其複雜的人工智能演算法。

不過,一般用於個人電腦的運算晶片如CPUsGPUs等能力有限,它們不是運算速度太慢,就是散熱功能欠佳和能源效益太低,以致大大降低產品的耐用度和表現。

被稱為「人工智能加速器」的AI晶片,是因應人工智能不同應用情況而度身訂造的運算晶片,現今已成為解決硬件問題的技術指標。

研發中心創始總監鄭光廷教授是電子設計自動化、集成電路設計,以及計算機視覺領域的國際權威學者,他說:「很多公司希望大幅提升傳感器和設備的智能水平,以增強它們的功能。同時,他們需要強效、小巧且高能源效益的人工智能晶片,來執行特定多樣化的功能,但這類嵌入式智能技術仍然未見普及。」

鄭教授說,好像蘋果公司、Tesla、無人機製造商大疆創新等科技巨頭,有財力可以研製自家專用的人工智能晶片,但一般公司難以負擔如此龐大的資源。

較小規模的公司為了研發人工智能晶片,通常會把晶片研發工序外判,即使事前已明確闡明演算法和規格的要求,但製作出來的晶片通常用途廣泛,並非為特定或專門的人工智能應用而生產。

鄭教授說:「這意味著公司花錢購買回來的晶片,只能發揮某部分功能,表現並不全面,出現錯配、浪費資源及欠缺效率的情況,亦令公司的人工智能產品更難從競爭者中突圍而出。」

超高效定製人工智能晶片

鄭教授深信,ACCESS 的晶片設計師能夠領先一步,研究開放原始碼的方法和人工智能輔助的自動化工具,將會為人工智能業界帶來新氣象。

這些優勢可助初創和較小規模的公司更容易及更準確地度身定製自己所需要的晶片。ACCESS 除了在現行的人工智能生態環境內另闢蹊徑外,亦致力縮短晶片設計週期,及時應付市場對晶片的要求。

以團隊最近開發的現場可程式邏輯門陣列(FPGA)產品原型製作系統為例,這項創新方法以人工智能技術加快研發和改善產品原型設計,可以令能源效益比現行方法提升10倍、生產效率提高三倍。

鄭教授說:「我們的目標是以數十人的隊伍,以一至兩季的時間生產定製人工智能晶片,而不用出動數百人及以年計的時間才完成。」

加快電子設計自動化只是ACCESS 四大關鍵技術目標之一。研究中心同時忙於進行另外三個領域的技術研究,包括突破硬件瓶頸的新興技術;架構與異構系統整合,以及硬件加速的人工智能應用。

ACCESS 至今共開展了14 個項目,以突破人工智能硬件在設計及表現上的瓶頸為目標,務求解决存儲容量和數據傳輸頻寬不足的問題,以及提升速度和能源效益,成果指日可待。

團隊另一重要項目是發展新一代超低功耗存內計算(CIM)晶片。成品推出市場後,可作為獨立數據處理器,減省將資料從晶片傳輸至外部的通訊時間及能源消耗。

鄭教授說:「目前,機器必須先將數據發送到雲端或中央伺服器進行分析和處理,然後才能送回機器本身,CIM 晶片讓機器自行處理所有工序,運算速度可以提高數百倍,能源效益亦會更高。」根據近期的文獻和研究結果顯示,ACCESS 晶片的效能較當今性能最佳的 CIM 晶片高出三倍。

鄭教授續說,超低功耗晶片將會是日常生活應用的最理想選擇,例如室內場所或公眾地方使用的人流監察攝影機,以及具監測佩戴者心跳和其他健康指標功能的智能手錶等。

極具潛力的環球市場

根據估計,全球人工智能晶片市場預計2026年突破2,900億美元。鄭教授相信ACCESS 這個跨國研發聯盟將有助鞏固香港在世界人工智能硬件舞台上的地位。此外,研發中心已獲香港政府的 InnoHK 創新香港研發平台支持並獲4.439億港元的起始撥款。

現時已有10間本地及國際公司表示對 ACCESS 的人工智能晶片技術有興趣,涵蓋醫療、健康、個人電子產品、智能製造及智慧城市設計等不同範疇。鄭教授說:「各行各業也希望採用人工智能加速技術,運輸、金融科技、醫藥及教育界都不例外。這代表著一個大好機會,讓我們發揮科研、商業和社會影響力。」

鄭教授深信ACCESS的最大優勢在於其「一條龍」式的綜合研發方案。他指出:「其他科研中心未能像ACCESS一樣,將各個環節整合為一,它們只能做到當中的一部分。

中心一向以全方位思維運作,人才招募也採取同一策略,因此廣納了生產鏈上游及下游的不同專才,網羅軟件、硬件、晶片結構和設計、人工智能演算法及應用等人才,應有盡有。

20名經驗豐富的研究及工程人員已加盟中心,他們與來自四間大學約140位教員及博士研究生一起工作。中心亦希望在2027年前可以招聘約100名大學畢業生,為他們提供機會,提升跨領域研究及創新能力。

擔任研發中心執行總監的梁路宏博士於202011月加入ACCESS,此前近10年在香港應用科技研究院(ASTRI擔任主任工程師和機器學習平台組總監他說:「全職同事與國際專家、業界合作伙伴就先進人工智能技術保持緊密合作,並透過研討會、工作坊、訓練等活動進一步擴闊及鑽研技術。研發中心為不同興趣、能力及工作經驗的人才提供完善的晉升階梯,讓他們盡情發揮創新思維,成就事業志向。」

梁博士補充,他們正籌辦駐地工程師計劃,邀請業界合作伙伴將一些核心人才派送到ACCESS參與特定的項目

梁博士表示,計劃旨在提升參與者的技術水平,也會有利於 ACCESS與人工智能業界持者繼續建立互利關係

鄭教授補充,更緊密的合作將為雙方帶來重大利益企業可以更容易獲取ACCESS 研究人員對人工智能演算法和晶片架構的專家意見,而 ACCESS 本身亦可以更準確掌握人工智能應用市場的最新發展和需求。

他說:「雙方互惠互利。我們跟這些公司合作,可開發新的應用和帶來更影響力,最終受惠的將是這些公司的客戶。」

這種合作模式還可以將大學的尖端集成電路研究商業化,以支援人工智能片設計。

他說:「ACCESS的任務就是要移除大學科研與產業應用兩者之間的鴻溝,或『死亡谷』。大學可以將一些概念轉化為樣板及產品,而業界則可以找方法將之應用,兩者互相補足。」

鄭教授總結說:「一流的客戶以及尖端的科技就在咫尺,下一步便是將他們與人工智能硬件連結一起。ACCESS具備天時及地利的大好條件!」