神经网络与主成分分析的结合

三、神经网络与主成分分析的结合

多元统计分析是数理统计学中近三四十年来迅速发展的一个分支，多元统计的方法已经广泛应用于各个领域。在国内外，从自然科学到社会科学的许多方面的实际应用都证实了多元分析方法是一种很有用的数据处理方法，而且取得了很大的成绩。主成分分析是多元统计分析中的一个重要组成部分。实际问题中，经常遇到研究多指标(变量)问题，然而多数情况下，不同指标之间有一定的相关性。由于指标较多，再加上指标之间有一定的相关性，势必增加了分析问题的复杂性。主成分分析就是设法将原来的指标重新组合成一组新的互相无关的几个综合指标来代替原来指标，同时根据需要从中取几个较少的综合指标尽可能多地反映原来指标的信息。在主成分分析中，在自变量样本中提取几个综合变量，使之能最好地概括原数据样本中有用的信息，保证数据信息损失最少，这样的综合变量就是主成分。可以看到，如果把主成分按照携带信息多少的顺序排列，淘汰携带较少信息的主成分，留下几个能最大限度地反映原始变量的主成分，那么就对高维变量空间进行了降维处理。无疑，在低维空间处理数据更加快捷、有效。将主成分分析与神经网络组合，就是先利用主成分分析方法在数据输入神经网络之前先进行一番处理，“过滤”掉无用的变量，以较少的综合变量作为神经网络的输入项，从而提高负荷评估(预测)的效率。

此外，组合方法还包括神经网络与专家系统的结合、神经网络与混沌理论结合、神经网络与遗传算法结合等^[3]。

专家系统(Expert System)是一种使用知识和推理的智能计算机程序，其目的是将专家解决问题的推理过程再现而成为专家的辅助决策工具，或为非专业决策者提供专业性建议。它的功能表现在解释功能、灵活性和学习功能三方面。传统上，专家系统采用直接法，这种方法要消耗大量的时间和人力，而且问题域中的一些经验性知识无法清楚表示，故限制了专家系统的规模和实用性。在开发专家系统的过程中知识的获取始终是一个瓶颈，而推理方式的研究决定着专家系统的智能化水平，这两个方面的进展极大地影响着专家系统的应用前景。而神经网络是基于输入/输出的一种自觉性反射，适于发挥经验知识的作用，进行浅层次的经验推理;专家系统是基于知识、规则匹配的逻辑知识的作用，进行深层次的逻辑推理。专家系统的特色是符号推理，神经网络擅长数值计算。因此将两者科学地结合，可以取长补短。

当神经网络实际应用中，网络输入发生较大变异时，应用网络的固有容错能力往往感到不足，经常会发生失忆现象。混沌神经网络动态记忆属于确定性动力学运动，记忆发生在混沌吸引子的轨迹上，通过不断地运动(回忆过程)，一一联想到记忆模式，特别对于那些状态空间分布得较接近或者发生部分重叠的记忆模式，混沌神经网络总能通过动态联想记忆加以重现和辨识，而不发生混淆，这是混沌神经网络所特有的性能，它将大大改善Hopfield神经网络的记忆能力。混沌吸引子的吸引域存在，形成了混沌神经网络固有容错功能，从而提高对复杂的模式分类与识别的精确率。

遗传算法是基于自然选择和基因遗传学原理的全局优化搜索算法，因其简单通用，鲁棒性强，适于并行处理，已成为人们用来解决高度复杂问题的一个新思路和新方法。运用遗传算法可以有效防止搜索过程收敛于局部极小点，易于求得全局最优解，能较好地解决神经网络预测时三个重要参数(隐含层节点数目、学习率和动量因子)的问题。遗传算法与神经网络的结合主要体现在以下几个方面:网络连接权重的进化训练，网络结构的进化计算，网络结构和连接权重的同时进化，训练算法的进化设计。基于进化计算的神经网络设计和实现已在众多领域得到应用，如模式识别^[4]、机器人控制^[5]、财政预测^[6]等，并取得了较传统神经网络更好的性能和结果。但从总体上看，这方面的研究还处于初级阶段，理论方法有待于完善、规范，应用研究有待于加强、提高。

【注释】

[1]孙增圻，张再兴，邓志东.智能控制理论与技术.北京:清华大学出版社，1997.

[2]王建伟.基于小波分析和神经网络的股价预测方法研究.北京:北京工业大学，2004.

[3]王学武，谭得键.神经网络的应用与发展趋势.计算机工程与应用，2003，3:98-100.

[4]方建安，邵世煌.采用遗传算法学习的神经网络器.控制与决策，1993:8(3):208-221.

[5]Maniezzo V.Genetic evolution of the topologh and weight distribution of neural networks.IEEE Trans on Neural Networks.1994:5(1):39-53.

[6]Harrald P G，Kamstra M.Evolving artificial neural networks to combine financial forecase.IEEE Trans on Evol Compnt，1997:1(1):40-52.