1、引言 神经网络是计算机智能和机器学习研究的最活跃的分支之一。近二十年来,该学科的研究受到了极大的重视,取得了大量成果,但也暴露出很多目前研究中存在的不足。本文综述了神经计算的研究现状及发展趋势,主要介绍了神经计算理论、方法、应用等不同层面的一些重要研究领域的研究进展、热点问题。 本文从理论、方法、应用等不同层面,综述了神经计算一些重要研究领域的研究进展,主要包括神经网络VC维计算、神经网络集成、基于神经网络的数据挖掘,并指出了一些有待研究的重要问题。 2、神经网络VC维计算 2.1,重要性 神经计算技术已经在很多领域得到了成功的应用,但由于缺少一个统一的理论框架 [CC98],经验性成分相当高。这使得研究者们难以对各种神经计算模型的性能及其适用范围进行理论分析,仅能用不十分可靠的实验性比较评价优劣。 最近十年里,很多研究者都致力于这方面的研究,力图在一个统一的框架下来考虑学习与泛化的问题。PAC(Probably Approximately Correct)学习模型 [Val84] 就是这样一个框架。作为PAC学习的核心以及学习系统学习能力的度量,VC维在确定神经网络的容量(capacity)、泛化能力(generalization)、训练集规模等的关系上有重要作用。如果可以计算出神经网络的VC维,则我们可以估计出要训练该网络所需的训练集规模。显然,神经网络VC维计算的研究对神经网络的发展将会产生极大的促进作用。 2.2,研究进展 由于神经网络也是一种基于统计的学习方法,神经网络的VC维取决于网络中可调参数的数目,而后者又是由网络的拓扑结构所确定的,因此,网络的VC维与拓扑结构之间有必然的联系。在给定训练集的情况下,如果我们能求出合适的VC维,则可以帮助确定网络的结构;反之,在给定网络结构的情况下,如果我们能求出其VC维,则可以确定合适的训练集规模。显然,这对寻找Hornik [HSW89] 指出的最优解有重要的启发作用。 ...... |
查看评论
已有0位网友发表了看法