带随机隐单元的RBF网络L~2逼近能力

带随机隐单元的RBF网络L~2逼近能力

论文摘要

本文研究了具有随机隐单元的渐增径向基函数(RBF)神经网络对紧集上的平方可积函数的逼近能力。在传统的神经网络逼近理论中,RBF网络逼近能力的证明主要是存在性的,并且在迭代过程中所有的权系数都需要调整,这样就给算法的运行带来了不便。与传统方法不同,我们应用一种构造型方法证明了只需简单随机地选择隐单元的参数,并适当调整隐单元和输出单元之间的权值,那么随着网络隐单元个数的逐渐增大,网络输出函数将依L2(K)范数以任意精度逼近L2(K)函数,其中K是欧式空间Rn中任给的一个紧致子集。我们的结果表明对于具有随机隐单元的单隐层RBF神经网络,如果激活函数g:R+1→R1,g不是偶次多项式,并且满足g(‖x‖)∈Lloc2(Rn),那么只要适当选取隐单元和输出单元之间的权值,随着网络隐节点个数m的增大,网络函数fm将以概率1收敛于L2(K)中的任意目标函数。本文的结构安排如下:第一章回顾相关神经网络的背景知识,其中包括近年来RBF网络的逼近结果;第二章介绍文中所需要的泛函分析、随机序列和广义函数的基础知识,包括基本函数空间和广义函数空间的关系、基本函数的支集和广义函数的支撑以及基本函数和广义函数的卷积等内容;第三章主要讨论具有随机隐单元的渐增RBF网络对紧集上平方可积函数的逼近能力,我们得到了一种自然建立三层前向渐增神经网络的有效方法。

论文目录

  • 摘要
  • Abstract
  • 1 绪论
  • 1.1 神经网络概述
  • 1.1.1 人工神经网络的诞生与发展
  • 1.1.2 人工神经网络的结构设计与连接方式
  • 1.1.3 人工神经网络的学习方式与学习规则
  • 1.1.4 人工神经网络的特征功能与应用
  • 1.2 径向基函数网络
  • 1.2.1 神经元
  • 1.2.2 径向基函数
  • 1.2.3 径向基函数参数的选取
  • 1.2.4 高斯条函数
  • 1.3 网络逼近的一些成果
  • 1.4 本文的主要工作
  • 2 网络逼近的数学基础
  • 2.1 前言
  • 2.2 随机过程简介
  • 2.2.1 随机变量
  • 2.2.2 随机过程
  • 2.3 泛函分析的相关内容
  • 2.4 广义函数简介
  • 2.4.1 基本函数空间
  • 2.4.2 广义函数的定义
  • 2.4.3 广义函数的性质和卷积
  • 3 逼近性证明
  • 3.1 定义和引理
  • 3.2 定理及其证明
  • 结论
  • 参考文献
  • 攻读硕士学位期间发表学术论文情况
  • 致谢
  • 相关论文文献

    标签:;  ;  ;  ;  

    带随机隐单元的RBF网络L~2逼近能力
    下载Doc文档

    猜你喜欢