【Nature子刊】清华大学陈宏伟团队:光学神经网络的进展和挑战
导读 | ONN有望为具有新颖计算范式的人工智能的进一步发展,提供计算速度和能耗方面的支持。 |
2024年9月20日,清华大学陈宏伟团队在期刊《Light: Science & Applications volume》上发表了题为“Optical neural networks: progress and challenges”的研究论文。本文首先介绍了基于各种光学元件的ONN的设计方法和原理。然后,团队依次回顾了由体积光学元件组成的非集成ONN和由片上元件组成的集成ONN。最后,团队总结和讨论了ONN的计算密度、非线性、可扩展性和实际应用,并评论了ONN在未来发展趋势中的挑战和前景。
https://www.nature.com/articles/s41377-024-01590-3
研究介绍
01
人工智能(AI)已经渗透到社会的各个领域,并取得了超越人类的成就。神经网络作为支撑人工智能发展的核心技术,发挥着至关重要的作用。2012年,Krizhevksy等人提出了深度卷积神经网络,进一步提升了神经网络的推理能力,使AI的应用领域更加广泛。
通过前人的不断探索和努力,ONN取得了多项研究进展。本文将全面介绍ONN近年来的演变。首先,团队简要介绍了ONN的原理,包括ONN的结构、光学神经元的模型,以及矩阵乘法函数的实现方法。其次,团队从两个模块(分为7个方面)系统地回顾了近年来ONNs的研究,包括基于体积光学元件的非集成ONN和由片上光学元件组成的集成ONN。最后,团队总结和分析了ONN在计算密度、非线性、可扩展性、实际应用等方面的优势和挑战。团队还将对ONN的未来发展趋势,进行展望和讨论。
光学神经网络(ONN)和相关光学实现的时间表。
研究进展
02
生物神经元模型和人工神经网络
神经网络是通过模仿人脑的神经系统建立的数学模型。人工神经元实现的功能类似于生物神经元中的树突、细胞核、轴突和突触的功能。
神经元结构和人工神经网络。
ONN的应用
目前,ONN的应用并不像电子同类产品那样广泛,大多数研究工作仍然集中在处理简单的数据集上,ONNs的实际应用场景很少见。尽管如此,科研人员正在努力将ONN的研究与实际应用相结合。例如,Huang et al将片上集成ONN应用于海底光纤通信链路中的非线性补偿。Sludds等人开发了Netcast,这是一种基于光子深度学习的边缘计算架构,以完成边缘设备上的推理过程。
此外,该行业还投资于ONN或光计算领域的研究。例如,Lightmatter先后发布了Envise和Passage等一系列产品。公司综合考虑软硬件协同和能耗,以更好地利用光在光计算过程中的固有优势。Lightelligence发布了光子算术计算引擎(PACE),该引擎在PACE的光子芯片中集成了10,000多个离散光子器件,系统时钟为1 GHz159。
未来ONN在各个领域的应用。ONN将在信息处理、医疗诊断、航空航天等各种专业领域,实现比电子同类产品更好的性能。
研究结论
03
未来可能需要相当长的时间,来不断优化ONNs系统的架构或混合框架以获得更好的性能,从而在某些专用领域取得出色的结果。在此期间,综合考虑ONNs应用生态系统的构建可能存在挑战,包括软件、硬件、协议、光学算法、行业标准、制造技术等方面。
参考资料:
1.McCulloch, W. & Pitts, W. A logical calculus of the ideas immanent in nervous activity. Bull. Math. Biophys. 5, 115–133 (1943).
2.McCulloch, W. & Pitts, W. The statistical organization of nervous activity. Biometrics 4, 91–99 (1948).
还没有人评论,赶快抢个沙发