超高效智能晶片 开创人工智能新时代

无论是支援人脸识别功能的行动装置,抑或能安全载人到达目的地的无人驾驶车辆,应用人工智能的技术几乎为日常生活的每一个环节带来改变。

人工智能帮助人类在生活上作出更精明的选择,但高昂的发展成本是一大限制。需要耗用巨大计算和记忆体资源,以及投放大量时间训练人工智能模型等林林总总的挑战,窒碍了人工智能的全面发展。

科大早著先机,於2020年联同史丹福大学、香港大学和香港中文大学携手成立了跨界别的智能晶片与系统研发中心(AI Chip Center for Emerging Smart Systems,简称 ACCESS),矢志将人工智能的应用普及化。

在科大副校长(研究和发展)郑光廷教授领导之下,多位研发专家云集ACCESS,一同开发性能及能源效益能够提升1,000倍的新人工智能晶片,有助推动全球的人工智能发展。

优化硬件配置

人工智能应用的发展一日千里,为了保持领先地位,ACCESS的晶片设计师正日以继夜地研发晶片,用以运算极其複杂的人工智能演算法。

不过,一般用於个人电脑的运算晶片如CPUs和GPUs等能力有限,它们不是运算速度太慢,就是散热功能欠佳和能源效益太低,以致大大降低产品的耐用度和表现。

被称为「人工智能加速器」的AI晶片,是因应人工智能不同应用情况而度身订造的运算晶片,现今已成为解决硬件问题的技术指标。

研发中心创始总监郑光廷教授是电子设计自动化、集成电路设计,以及计算机视觉领域的国际权威学者,他说:「很多公司希望大幅提升传感器和设备的智能水平,以增强它们的功能。同时,他们需要强效、小巧且高能源效益的人工智能晶片,来执行特定和多样化的功能,但这类嵌入式智能技术仍然未见普及。」

郑教授说,好像苹果公司、Tesla、无人机製造商大疆创新等科技巨头,有财力可以研製自家专用的人工智能晶片,但一般公司难以负担如此庞大的资源。

较小规模的公司为了研发人工智能晶片,通常会把晶片研发工序外判,即使事前已明确阐明演算法和规格的要求,但製作出来的晶片通常用途广泛,并非为特定或专门的人工智能应用而生产。

郑教授说:「这意味著公司花钱购买回来的晶片,只能发挥某部分功能,表现并不全面,出现错配、浪费资源及欠缺效率的情况,亦令公司的人工智能产品更难从竞争者中突围而出。」

超高效定製人工智能晶片

郑教授深信,ACCESS的晶片设计师能够领先一步,研究开放原始码的方法和人工智能辅助的自动化工具,将会为人工智能业界带来新气象。

这些优势可助初创和较小规模的公司更容易及更準确地度身定製自己所需要的晶片。ACCESS除了在现行的人工智能生态环境内另闢蹊径外,亦致力缩短晶片设计週期,及时应付市场对晶片的要求。

以团队最近开发的现场可程式逻辑门阵列(FPGA)产品原型製作系统为例,这项创新方法以人工智能技术加快研发和改善产品原型设计,可以令能源效益比现行方法提升10倍、生产效率提高三倍。

郑教授说:「我们的目标是以数十人的队伍,以一至两季的时间生产定製人工智能晶片,而不用出动数百人及以年计的时间才完成。」

加快电子设计自动化只是ACCESS四大关键技术目标之一。研究中心同时忙於进行另外叁个领域的技术研究,包括突破硬件瓶颈的新兴技术;架构与异构系统整合,以及硬件加速的人工智能应用。

ACCESS至今共开展了14个项目,以突破人工智能硬件在设计及表现上的瓶颈为目标,务求解决存储容量和数据传输频宽不足的问题,以及提升速度和能源效益,成果指日可待。

团队另一重要项目是发展新一代超低功耗存内计算(CIM)晶片。成品推出市场後,可作为独立数据处理器,减省将资料从晶片传输至外部的通讯时间及能源消耗。

郑教授说:「目前,机器必须先将数据发送到云端或中央伺服器进行分析和处理,然後才能送回机器本身,CIM 晶片让机器自行处理所有工序,运算速度可以提高数百倍,能源效益亦会更高。」根据近期的文献和研究结果显示,ACCESS晶片的效能较当今性能最佳的CIM晶片高出叁倍。

郑教授续说,超低功耗晶片将会是日常生活应用的最理想选择,例如室内场所或公众地方使用的人流监察摄影机,以及具监测佩戴者心跳和其他健康指标功能的智能手錶等。

极具潜力的环球市场

根据估计,全球人工智能晶片市场预计於2026年突破2,900亿美元。郑教授相信ACCESS这个跨国研发联盟将有助巩固香港在世界人工智能硬件舞台上的地位。此外,研发中心已获香港政府的InnoHK创新香港研发平台支持,并获4.439亿港元的起始拨款。

现时已有10间本地及国际公司表示对ACCESS的人工智能晶片技术有兴趣,涵盖医疗、健康、个人电子产品、智能製造及智慧城市设计等不同範畴。郑教授说:「各行各业也希望采用人工智能加速技术,运输、金融科技、医药及教育界都不例外。这代表著一个大好机会,让我们发挥科研、商业和社会影响力。」

郑教授深信ACCESS的最大优势在於其「一条龙」式的综合研发方案。他指出:「其他科研中心未能像ACCESS一样,将各个环节整合为一,它们只能做到当中的一部分。」

中心一向以全方位思维运作,人才招募也采取同一策略,因此广纳了生产链上游及下游的不同专才,网罗软件、硬件、晶片结构和设计、人工智能演算法及应用等人才,应有尽有。

逾20名经验丰富的研究及工程人员已加盟中心,他们与来自四间大学约140位教员及博士研究生一起工作。中心亦希望在2027年前可以招聘约100名大学毕业生,为他们提供机会,提升跨领域研究及创新能力。

担任研发中心执行总监的梁路宏博士於2020年11月加入ACCESS,此前近10年在香港应用科技研究院(ASTRI)担任主任工程师和机器学习平台组总监。他说:「全职同事与国际专家、业界合作伙伴就先进人工智能技术保持紧密合作,并透过研讨会、工作坊、训练等活动进一步扩阔及钻研技术。研发中心为不同兴趣、能力及工作经验的人才提供完善的晋升阶梯,让他们尽情发挥创新思维,成就事业志向。」

梁博士补充,他们正筹办驻地工程师计划,邀请业界合作伙伴将一些核心人才派送到ACCESS参与特定的项目。

梁博士表示,计划旨在提升参与者的技术水平,也会有利於ACCESS与人工智能业界持份者继续建立互利关係。

郑教授补充,更紧密的合作将为双方带来重大利益,企业可以更容易获取ACCESS 研究人员对人工智能演算法和晶片架构的专家意见,而ACCESS 本身亦可以更準确掌握人工智能应用市场的最新发展和需求。 

他说:「双方互惠互利。我们跟这些公司合作,可开发新的应用和带来更大影响力,最终受惠的将是这些公司的客户。」

这种合作模式还可以将大学的尖端集成电路研究商业化,以支援人工智能晶片设计。

他说:「ACCESS的任务就是要移除大学科研与产业应用两者之间的鸿沟,或『死亡谷』。大学可以将一些概念转化为样板及产品,而业界则可以找方法将之应用,两者互相补足。」

郑教授总结说:「一流的客户以及尖端的科技就在咫尺,下一步便是将他们与人工智能硬件连结一起。ACCESS具备天时及地利的大好条件!」