神经网络学习初期提示:
第一步:看看入门书籍,对神经网络有个初步认识;
第二步:掌握如下算法:
1.感知机学习,这个较简单易懂,就不多说了.
2.最小均方误差,这个原理是下面提到的神经网络学习算法的理论核
心,入门者要先看《高等数学》(高等教育出版社,同济大学版)第 8
章的第十节:“最小二乘法”。
3.在第 2 步的基础上看 Hebb 学习算法、SOM 和 K-近邻算法,上述
算法都是在最小均方误差基础上的改进算法,
容易买到的参考书籍有:
《神经网络原理》(机械工业出版社,Simon Haykin 著,中英
文都有);
《人工神经网络与模拟进化计算》(清华大学出版社,阎平凡,
张长水著);
《模式分类》(机械工业出版社, Richard O. Duda 等著,
中英文都有);
《神经网络设计》(机械工业出版社,Martin T. Hargan 等著,
中英文都有)。
4.ART(自适应谐振理论),该算法的最通俗易懂的读物就是《神经网
络设计》(机械工业出版社,Martin T. Hargan 等著,中英文都有)
的第 15 和 16 章。若看理论分析较费劲可直接编程实现一下 16.2.7
节的 ART1 算法小节中的算法.
5.BP 算法,初学者若对误差反传的分析过程理解吃力可先跳过理论
分析和证明的内容,直接利用最后的学习规则编个小程序并测试,建
议看《机器学习》(机械工业出版社,Tom M. Mitchell 著,中英文
都有)的第 4 章和《神经网络设计》(机械工业出版社,Martin T.
Hargan 等著,中英文都有)的第 11 章。
第三步:在掌握上述算法的基础上看各种前馈网络、反馈网络、联想
存储器、神经网络集成、模糊神经网络等技术就属于学习神经网络的
高级阶段了,需要根据自己的研究和应用方向决定。
神经网络高级话题:
神经网络研究的高级阶段是研究各种神经网络(包括多层感知器
网络、径向基函数网络、概率神经网络、径向基概率神经网络、递归
神经网络、光学神经网络、库仑能量网络、隐马尔科夫模型、模糊极
大极小网络、模块神经网络、学习委员会机、ARTMAP 网络、自适
应共振理论(ART1-3)、自组织特征映射、联想记忆、主分量分析、
独立分量分析、盲源分离、硬聚类和模糊聚类子空间理论、波尔兹曼
机、神经认知机、统计学习理论、支撑矢量机、随机神经网络理论、
EM 算法、遗传与进化算法、增强学习理论、人工免疫算法、模拟退
火算法)的数学理论、学习算法、模型和结构、推广能力、预测与逼
近能力。
神经网络的应用领域:
神经网络在模式识别、图象处理、数据挖掘、机器人、生物信息
学等领域被广泛应用。