北理工在光电融合储备池计算用于语言学习方面取得重要进展


2d2bbb1d137240fc943ad8f061653ff8.jpg

日前,北京理工大学物理学院院长姚裕贵团队孙林锋教授与韩国高等科学技术研究院Heejun Yang教授,香港大学Wang Zhongrui教授合作,提出了一种基于低维材料体系的新型多维度光电融合忆阻器件,实现了传感器内储备池计算,并成功用在语言符号识别与学习上。在考虑相似度极高的干扰项存在的前提下,对复杂的语言句子体系实现了91%的识别率。该项成果为机器学习和边缘计算应用提供了一种处理时序信号事件的低成本训练方案。此项工作于五月十四日发表在《Science》子刊 Science Advances上。

近年来,受生物启发的机器视觉在发展迅速,因为视觉感知掌握了人类与周围环境互动过程中约80%左右以上的信息量。尽管人们在模拟人脑的视觉皮层以实现“看”的功能方面付出了巨大的努力,物理上分离的传感、内存和处理单元导致了大量的能量耗费、时间延迟和额外的硬件成本。特别是随着物联网的快速发展以及爆炸式增长的数据量,物联网上的传感器节点数也随之持续增加。此外,传统的递归神经网络训练算法过于复杂、计算量过于庞大,收敛速度较慢,网络结构也很难优化,进一步加剧了这一挑战。而储备池计算已经被证明可以显著降低计算成本,为开发用于时间模式分类、混沌态预测等提供了一个很好的解决方案。但是,目前的储备池计算在信息处理过程中是串行的,无法实现更具潜力的传感并行机制。因此,如何实现传感器内储备池计算将是信息处理速度进一步提高的关键,有利于储备池计算朝着高速、低功耗和易于集成的方向发展。此项研究工作克服了物理上分离的传感器和储备池计算这一技术瓶颈,大大降低了系统学习复杂度和计算成本。此方法可以应对物联网时代对爆炸式增长的大数据处理的迫切要求,为实现更有效的机器学习和类脑计算提供了技术上的突破。

微信图片_20210519153621.png

物理学院孙林锋教授为该工作的第一作者,Heejun Yang教授为通讯作者。该工作得到北京理工大学青年学者项目研究奖金,韩国三星研究基金会,三星电子孵化基金以及韩国国家研究基金的支持。

Linfeng Sun, Zhongrui Wang, Jinbao Jiang, Yeji Kim, Bomin Joo, Shoujun Zheng, Seungyeon Lee, Woo Jong Yu, Bai Sun Kong and Heejun Yang*, “In-sensor reservoir computing for language learning via two-dimensional memristors”, Science Advances, 7, 20, 2021 (eabg1455).

文章链接:https://advances.sciencemag.org/content/7/20/eabg1455


分享到: