论文摘要
本文研究了具有随机隐单元的渐增径向基函数(RBF)神经网络对紧集上的平方可积函数的逼近能力。在传统的神经网络逼近理论中,RBF网络逼近能力的证明主要是存在性的,并且在迭代过程中所有的权系数都需要调整,这样就给算法的运行带来了不便。与传统方法不同,我们应用一种构造型方法证明了只需简单随机地选择隐单元的参数,并适当调整隐单元和输出单元之间的权值,那么随着网络隐单元个数的逐渐增大,网络输出函数将依L2(K)范数以任意精度逼近L2(K)函数,其中K是欧式空间Rn中任给的一个紧致子集。我们的结果表明对于具有随机隐单元的单隐层RBF神经网络,如果激活函数g:R+1→R1,g不是偶次多项式,并且满足g(‖x‖)∈Lloc2(Rn),那么只要适当选取隐单元和输出单元之间的权值,随着网络隐节点个数m的增大,网络函数fm将以概率1收敛于L2(K)中的任意目标函数。本文的结构安排如下:第一章回顾相关神经网络的背景知识,其中包括近年来RBF网络的逼近结果;第二章介绍文中所需要的泛函分析、随机序列和广义函数的基础知识,包括基本函数空间和广义函数空间的关系、基本函数的支集和广义函数的支撑以及基本函数和广义函数的卷积等内容;第三章主要讨论具有随机隐单元的渐增RBF网络对紧集上平方可积函数的逼近能力,我们得到了一种自然建立三层前向渐增神经网络的有效方法。