分享到:
链接已复制
首页> 一带一路网> 科技创新>

中国科学院自动化所与北京大学合作开源深度脉冲神经网络学习框架

2023-10-11 11:22

来源:中国网·中国发展门户网

分享到:
链接已复制
字体:

中国网/中国发展门户网讯 脉冲神经网络(Spiking Neural Network, SNN)被誉为第三代神经网络,随着深度学习方法的引入,SNN的性能得到大幅度提升,脉冲深度学习(Spiking Deep Learning)成为新兴的研究热点。中国科学院自动化研究所李国齐研究员与北京大学计算机学院田永鸿教授团队合作构建并开源了深度脉冲神经网络学习框架SpikingJelly(中文名:惊蜇)。SpikingJelly(惊蜇)提供了全栈式的脉冲深度学习解决方案,支持神经形态数据处理、深度SNN的构建、替代梯度训练、ANN转换SNN、权重量化和神经形态芯片部署等功能。

据介绍,SpikingJelly(惊蜇)框架具有简单易用、扩展性强、性能卓越等优势。提供了简单易用的PyTorch风格的API、中英文双语编写的教程、活跃友善的讨论社区,常用的网络模型和训练脚本也一并给出,研究者可以快速进行跨领域的学习和使用,通过寥寥数行代码轻松构建并训练深度SNN。SpikingJelly(惊蜇)中的绝大多数模块都是通过层次清晰的多重继承实现,既为开发者降低了开发成本,也给用户提供了完美的定义新模型的范例。SpikingJelly(惊蜇)充分利用SNN的特性,通过计算图遍历顺序优化、JIT (just-in-time compilation, 即时编译)、半自动CUDA代码生成等技术来加速SNN仿真,与其他框架相比可达11倍的训练加速。

据悉,SpikingJelly(惊蜇)框架自2019年冬季一经推出就受到了研究者们的欢迎和广泛使用,基于SpikingJelly(惊蜇)的研究工作已经大量出版,将SNN的应用从简单的MNIST数据集分类扩展到人类水平的ImageNet图像分类、网络部署、事件相机数据处理等实际应用。此外,一些尖端前沿领域的探索也被报道,包括可校准的神经形态感知系统、神经形态忆阻器、事件驱动加速器硬件设计等。

介绍SpikingJelly (惊蜇)框架的论文于2023年10月6日在Science子刊《科学进展》(Science Advances)在线发表。北京大学计算机学院田永鸿教授、中国科学院自动化研究所李国齐研究员为论文共同通讯作者,北京大学计算机学院直博生方维为论文第一作者。

image.png

SpikingJelly(惊蜇)框架的整体结构、示例代码、仿真速度、生态位以及典型应用

【责任编辑:王虔】
返回顶部