分享到:

Madaline敏感性研究

神经网络的输出对参数扰动的敏感性是神经网络设计和实现中的一个重要问题。参数的扰动对网络的输出会有怎样的影响?如何度量神经网络对参数扰动的敏感程度?本文着重计算和分析了一种前馈神经网络——Madaline对于输入和权扰动的敏感性。基于Madaline的结构特点,本文采用自底向上的方法计算Madaline的敏感性。首先,我们研究神经元——Adaline的敏感性。在此基础上,逐层计算Adaline的敏感性,最后输出层的Adaline的敏感性就是整个Madaline的敏感性。敏感性在本文中定义为网络输出由于其参数的扰动而发生改变的数学期望。对于一个训练后的网络而言,它的网络结构和权都已给定,论文从两个不同的角度来计算它对于输入和权扰动的敏感性。第一个角度是要求敏感性计算的结果比较精确。为此,本文提出了能准确表示Madaline输入空间的超立方模型,然后给出了基于超立方模型的计算敏感性的算法。尽管算法有一定的复杂度,但是实验表明该算法得到  (本文共70页) 本文目录 | 阅读全文>>

《中国科学:信息科学》2011年02期
中国科学:信息科学

基于离散随机技术的Madaline敏感性近似计算研究

本文系统地讨论了离散型前向神经网络Madaline的输出对网络参数扰动的敏感性计算.首先,根据神经元Adaline的离散特性,提出了一种离散随机技术方法,推导了Adaline敏感性近似计算公式.该方法从理论上解决了已有的连续随机技术方法无法处理的情况,取消了过强的限制条件,并使得从理论上对...  (本文共16页) 阅读全文>>

南京信息工程大学
南京信息工程大学

基于敏感性的Madaline神经网络结构自适应学习算法研究

随着机器学习的快速发展,人工神经网络再次引起广大研究人员关注,改善前向神经网络的学习算法一直是该领域的研究热点与难点。本文将从Madaline神经网络(由若干Adaline神经元组成)结构变化对输出的影响(即结构敏感)性角度入手,对Madaline神经网络的结构敏感性计算进行详细推导,以期用网络结构敏感性研究结论来指导Madaline网络的学习,并结合Madaline神经网络的权参数自适应学习算法打造出能使性能满足学习任务且能够优化网络结构的Madaline网络结构自适应结构学习机制。本文的主要研究内容如下:(1)提出了基于网络结构变化下的Madaline神经网络结构敏感性计算算法。网络结构规模变小或变大都会一定程度上影响网络的输出结果,因此,本文提出了基于网络结构的变化下的网络结构敏感性,并推导出计算过程。(2)提出了更为合理的、基于敏感性的Madaline神经网络结构裁剪算法。在本文Madaline网络结构敏感性计算理论的基...  (本文共72页) 本文目录 | 阅读全文>>

河海大学
河海大学

基于敏感性理论的Madaline网络学习算法研究

基于“敏感性理论”的MADALINE网络学习算法,是一种针对MADALINE网络(一种离散型的二值前向网络)的有监督的学习算法。目前,对于二值前向网络,还没有一种很好的训练学习算法。本文以“最小扰动”原则作为算法设计思想,从“MADALINE敏感性”的角度来寻找体现、贯彻这种思想的方法和途径,并成功地设计出了一种“基于敏感性理论的MADALINE学习算法”。另外,文中也以一定的篇幅分析了新算法的失败模式——“局部震荡”现象,并进一步阐述了跳出“局部震荡”的思想及其算法实现。最后,通过与MRⅡ的一组对比模拟试验,以及“MONK’S PROBLEM”的模拟试验,验证并展示了新算法的良好的学习性能和泛化性能,并分析和揭示了新算法所体现出来的其它一些良好性能表现,如算法学习性能对隐层结点数目表现出高灵敏度以及算法的泛化性能相对于网络结构呈现出良好的稳定性。可以说,新算法在二值前向网络上比较成功地实现了感知机学习规则的推广。突破了这一业界...  (本文共80页) 本文目录 | 阅读全文>>

《分析化学》1999年08期
分析化学

Madaline网络分离重叠光谱峰在灰色体系分析中的应用

将Madaline网络分离重叠光谱峰法应用于组成范围已知的灰色体系进行分析.模拟数据研究表明:当测量误差在[-0.005,+...  (本文共3;页) 阅读全文>>

《高电压技术》2006年10期
高电压技术

基于改进Madaline网络的谐波发射水平估计

为了在公共连接点合理估计系统及用户的谐波发射水平以更好地控制公用电网中的谐波污染,提出了一种基于改进Madaline神经网络的系统谐波阻抗及用户谐波发射水平的估计方法:利用在公共连接点同步...  (本文共3页) 阅读全文>>

《光学学报》2007年03期
光学学报

基于Madaline网络的气溶胶消光系数反演算法

运用激光雷达监测气溶胶是大气环境监测的一项重要内容,通过激光雷达方程可以反演得到气溶胶消光系数,并进而获得气溶胶的其他特性。然而传统方法在反演气溶胶消光系数时需要很多假设,使得...  (本文共7页) 阅读全文>>