降低百倍等待时间步:上交等机构提出ANN-SNN 转换框架SpikeConverter
2025-09-25 12:16:19
其中所 V[t]是 t 预感的细胞膜二极管,k 是每个间隔时间步之间的细胞膜二极管衰减数值。Xi 是第 i 个相邻皮质元的振幅序列,0 透露 t 时不亦会振幅终端。Y 是当前皮质元的输出振幅序列。将恒等式 (1) 在 t=1 到 T 累加,我们可以得到
在很好可能亦会下,于是又次皮质元内不亦会细胞膜二极管尚存,即 V[T]=0。此时,恒等式 (2) 可以简化为
难于推断出,恒等式 (3) 与基本上皮质网络的 MAC 量化Mode
非常相似,而事实上之前最为常用的基于 ANN 转换如此一来的 SNN,将 ANN 的应答最大值作为 SNN 中所的皮质元升空振幅的频亲率,正是恒等式 (3) 在 k=1 的特例。
然而,恒等式 (3) 在很多可能亦会下这不正式如此一来立。最明显的一种可能亦会,是细胞膜二极管在于是又次这不一定亦会总和 0 或一个相对较小的数。事实上,由于皮质元之间的权重有负最大值,随之而来很多时候细胞膜二极管最终是一个小数。SNN 的皮质元建模的机制重新考虑了其只亦会对正的二极管做出反不宜而累积到的负细胞膜阻抗则亦会被留存,从而随之而来恒等式 (3) 的等号这不正式如此一来立,的资讯不能直观表多达,使得振幅皮质网络的准确度低于基本上皮质网络。例如当 k=1 以及阈最大值阻抗 = 1 的可能亦会下,如果转换总细胞膜阻抗并列 1,1,-1,-1,则亦会在前两个间隔时间步造如此一来了振幅频谱;而后两个 - 1 则被累积到在细胞膜阻抗中所不能能量消耗。此时恒等式左边 = 0 而前面 = 2,恒等式这不正式如此一来立。
皮质元量化中所的傅立叶分离出来
针对这一点,书评选用了傅立叶分离出来的工具,将细胞膜二极管的累积到处理过程和细胞膜二极管释放振幅的处理过程在傅立叶上分离出来开,避开细胞膜二极管累积到的资讯遗留下的可能亦会于是又次出现。为了解决问题傅立叶分离出来的缺点,即升空振幅在累积到二极管此后,不宜使得较晚间隔时间的细胞膜二极管在不亦会额外转换的可能亦会下要大于之前的细胞膜二极管。这在之前的 leaky integrate-and-fire 建模中所是不能做的。书评提出批评了与基本上 LIF 同样的建模,iLIF,在每个间隔时间步结束后能源能量消耗而不是减少模二极管,即在恒等式中所的模二极管衰减数值 k 现在是一个大于 1 的数,被称作为二极管能源能量消耗数值。
然而,傅立叶分离出来的工具使得完如此一来一个皮质元量化的间隔时间翻倍,书评通过流水线的工具,在前一层的振幅输出前期单独将频谱终端至下一层作为转换频谱。在消除了傅立叶分离出来带来的额外运行间隔时间的同时,也减少了需临时存储的以下内容。
以上上图展示出了相片直觉的执行者上图。核心是为了让层间并行,解决问题多种不同相片的两个执行者前期对应,降低直觉时延。
参数为了让方面,主要是二极管能源能量消耗数值的为了让。书评考虑了多种不同的间隔时间步需求量和能源能量消耗数值的可能亦会下,平均的裂解误差。实验表明在多种不同的间隔时间步为了让下,k=2 都是最优为了让。
以上上图展示出了在多种不同参数为了让下,裂解误差的转变可能亦会。K=2 时,在各个间隔时间步下,转换如此一来误差最小,可以细胞膜二极管累积到透露的的资讯最直观。
实验结果
书评用于 CIFAR-10/100,以及 ImageNet 数据集完如此一来实验。实验表明书评提出批评的工具在只能需 16 个间隔时间步的可能亦会下,可以多达到和基本上皮质网络差不多完全一致的准确度。极大减省空间存储和量化获益的可能亦会下取得了最佳的性能,具体实验结果参见论文。部分结果如下。
未来亦会方向
振幅皮质网络还有较大的挖掘空间,还有许多领域 SNN 未能如此一来功不宜用,可以在截图识别、EVA控制等方面之后分析。
[1] Roy, K.; Jaiswal, A.; and Panda, P. 2019. Towards spike based machine intelligence with neuromorphic computing. Nature, 575(7784): 607–617.
[2] Woźniak, Stanisław, et al. "Deep learning incorporating biologically inspired neural dynamics and in-memory computing." Nature Machine Intelligence 2.6 (2020): 325-336.
[3] Han, Bing, Gopalakrishnan Srinivasan, and Kaushik Roy. "Rmp-snn: Residual membrane potential neuron for enabling deeper high-accuracy and low-latency spiking neural network." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2020.
[4] Han, Bing, and Kaushik Roy. "Deep spiking neural network: Energy efficiency through time based coding." European Conference on Computer Vision. Springer, Cham, 2020.
。福州白癜风医院去哪家好郑州白癜风专科医院哪好
北京看甲状腺去哪里好
成都癫痫医院哪家好
太原白癜风医院预约挂号
长新冠患者心血管风险飙升200%!医生提醒:感染后72小时是关键
感冒后嗓子痒痒老想咳嗽怎么办
祛风湿药
不孕证
肺炎

-
孕妇正常情况下几个月显怀?早于这个时间刚开始!
要断定一位女性是不是怀生孩子,我们都想到最相比的就是看肚子,不过,如果怀生孩子时间窄,或者有的怀产妇不显怀,有时候看肚子也很难断定前提怀生孩子。 生殖和生殖混合为精子后,在睾丸中不
2025-10-24 00:16:22

-
和泓服务2021年收入7.67亿元 在管综合楼3400万平方米
观点网讯:3月初31日,和泓客户服务发布2021年业绩公告。根据公告,和泓客户服务2021年年收入由截至2020年度约4.16亿元增加84.4%至7.67亿元;毛利由1.50亿元增加77.4%
2025-10-24 00:16:22

-
和泓一站式2021年收入7.67亿元 在管建筑面积3400万平方米
观点网讯:3月31日,和泓一站式发布2021年盈利告示。根据告示,和泓一站式2021年总收入由截至2020历年来有约4.16亿元增高84.4%至7.67亿元;毛利由1.50亿元增高77.4%至
2025-10-24 00:16:22

-
早婚对一个妳的影响,不单单是不自由,很多现实问题让人揪心
文|好孕姐 前几天,认出一篇文章,却说是击垮一个女孩最差的方式,就是让她24岁之前再婚再娶。看完,我觉得很有道理,照样现在大力晚婚晚育。虽然女孩早于再婚早于生夫妻俩,对四肢和宝宝发
2025-10-24 00:16:22

-
投资者提问:请问Corporation参股的国信优易在科创板的上市申请进展到哪一步了?谢谢
资本质问:明明公司参股的国信优易在科创板的上市申请进展到哪一步了?总有一天董秘却说富春股份SZ300299:您好,据了解,参股公司国信优易上市工作目前正常人加快中会。感谢您
2025-10-24 00:16:22