分享到:

反向传播算法运用于电力系统神经网络的分析研究

1前言 人工神经网络是与传统计算机系统不同的另一种信息处理工具,它具有人脑的某些功能特征,可以用来解决模式识别与人工智能中用传统方法难于解决的问题。近年来,神经网络在理论上与实践上都取得了许多重大进展[l1阁,在运用于电力系统警报处理、负荷预测、经济调度及潮流计算等方面时,神经网络也显示出了巨大的潜力。 同传统的串行计算机系统相比较,神经网络系统具有以下特点[lj: (l)在处理数据时,大量简单的信息运算单元同时并行工作,因而具有高速并行处理的特点和很强的鲁棒性。 (2)信息分布地存贮于处理单元的闭值和它们的联接权中,因而具有很强的容错能力,个别处理单元不正常不会引起整个系统出错。 (3)应用多种调整权和闭值的学习算法,能使神经网络具有近似人脑的学习(自适应和自组织)功能。2 BP算法与BP模型 BP算法也称误差反向传播算法,是当今神经工程的核心算法之一。目前,神经网络应用中的90%是山反向传播算法网络和HOPFIELD网络来解...  (本文共6页) 阅读全文>>

《科学技术创新》2017年23期
科学技术创新

反向传播算法浅析

1概述反向传播算法一种非常重要的算法,它能够能使得训练深度模型时的计算变得更加容易。对现在的神经网络来说,它使得基于梯度下降的训练方法相比原始的方法快几百万倍。除了在深度学习中以外,反向传播算法在很多其他的领域也是一种强大的计算工具,从天气预报到分析数值的稳定性等多个领域都有应用,只是具有不同的名称。实际上,这个算法在不同的领域被反复提出过至少几十次(Griewank(2010))。不考虑具体的应用的话,通常该方法被称为“逆向求导”(reverse-modedifferentiation)。从本质上来讲,反向传播是一种用来快速求解梯度的技术。它将是你手中一种非常重要的技术,不仅仅在深度学习中,同时在更广泛的数值计算领域。本文从计算图的角度介绍了反向传播的基本理论。2计算图计算图是一种用来思考数学表达的绝佳方法。例如考虑如下的一个表达式\(e=(a+b)*(b+1)\)。这里有三个操作,两个加法,一个乘法。如下图1所示:图1计算图...  (本文共2页) 阅读全文>>

《无线通信技术》2013年04期
无线通信技术

基于延时反向传播算法的低复杂度滤波器研究

1引言近几年,在非线性自适应信号处理领域[1],非线性自适应滤波技术取得了非常高的关注。因为神经网络[2]的优势(基于对误差函数优化的学习能力),各种类型的神经网络被成功地用来对复杂的非线性系统来建模。在神经网络的研究中,神经网《无线通信技术》2013年第4期络的拓扑结构,神经元的数学模型和神经网络的学习方式,是决定神经网络整体特性的三大要素[3]。静态前向神经网络由于其结构上缺乏内部隐含状态,因此对外表现出对时序信号的弱表达能力,随着前向网络在实际应用中面临越来越大的局限性,递归神经网络[4]得到更多研究者的关注。最流行的基于递归神经网络的学习算法是延时反向传播算法[5],递归反向传播算法和实时递归学习算法[6-8]。实时递归学习算法在实时系统中非常适用。但是,它受限于过低的收敛速度。Park提出了基于双线性多项式模型的双线性递归神经网络来提高系统的鲁棒性,但它仍然有较重的计算负载。1995年,Haykin和Li提出了一种高效...  (本文共6页) 阅读全文>>

《攀枝花学院学报》2006年05期
攀枝花学院学报

模糊建模中的改进反向传播算法

1引言模糊逻辑最初是一种规范描述和处理语言信息的方法。显然也可以用来控制一个给定的可以用语言描述的对象或者任务。模糊控制的设计过程不需要对象的显式模型,所需要的是关于系统行为和一般认识的知识,这些知识用模糊规则的形式表达,无需对象的数学模型使设计任务简单化,并且使工程师们能够通过较少的工作获得满意的控制器。随着模糊理论的发展,能够有效描述系统非线性特性的模糊建模方面的研究也变得活跃起来[1]。一般来说,模糊模型具有能够利用人类操作者直觉知识描述系统的优势,因此,对于模糊建模的研究成果也很多。有的基于模式识别技术[2],有的基于系统识别理论。另外,也有其他一些比如基于神经网络的方法。有很多算法是利用反向传播算法的,也证明了BP算法是进行模糊建模的有效工具。模糊模型可以被视为一个前馈网络,因而模型的学习可以用反向传播算法来处理[3]。但传统的反向传播算法独立地调整各个参数,因此存在一些比如死区和陡峭决策表面的问题,因此,本文提出了对...  (本文共4页) 阅读全文>>

《武汉工业大学学报》1950年20期
武汉工业大学学报

修改的反向传播算法

修改的反向传播算法钟珞,汤超,谢伟平,李桂青(建筑学院)(长沙铁路总公司勘测设计院)(建筑学院)摘要本文提出一个修改的反向传播算法,并基于这一算法设计了一个能进行故障诊断的神经网络模型。然后,用实验说明了这一算法的实用性。关键词神经网络,反向传播算法,专家系统AModifiedBack-propagationAlgorithm¥ZhongLuo;TangChao;XieWeiping;LiCuiqing(Assoc.Prof.,InstituteofArchitecture&CivilEngineering,WUT,Wuhan430070,China.)Abstract:Thispapergivesamodifiedback-propagationalgorithm,andbasedonthisalgorithmdesigninganeuralnetworkforthedamagedetection.Finally,thepap...  (本文共3页) 阅读全文>>

《控制理论与应用》1999年05期
控制理论与应用

综合反向传播算法

1 引言(Introduction)误差反向传播算法(BP)[1]是用于多层神经网络训练的著名算法,有理论依据坚实、推导过程严谨、物理概念清楚、通用性强等优点.但是,人们在使用中发现BP算法存在收敛速度缓慢、易陷入局部极小等缺点.本文综合考虑网络的泛化能力、训练的快速性和全局最优性,提出一种多层前向神经网络的改进训练算法———综合反向传播算法.2 广义误差指标函数(Generalerrorindexfunction)算法中采用了如下作者提出的广义误差函数:E(λ)=∑pEp(λ)=∑Pp=1∑NLi=1d(p)id(p)i-y(p)(L)i(t)+λ2y(p)(L)i(t)2-d(p)i2+121-y(p)(L)i(t)d(p)i+ε2}.(1)其中d(p)i,y(p)(L)i(t)分别指在第p个训练模式下网络输出层第i个输出神经元的期望输出和实际输出;P指训练模式总数;NL指网络输出层神经元数;λ为可变因子,在训练期间从1递减...  (本文共6页) 阅读全文>>