机器学习课程-温州大学-13机器学习-人工神经网络

• 语言: 中文（简体）
• 格式: .pdf
• 来源: github.com/fengdu78

摘要

文档介绍了人工神经网络的发展历史及其核心算法。首先，1943年McCulloch和Pitts建立了神经网络的数学模型，随后感知机在1960年代发展，但受限于无法解决非线性问题。1982年Hopfield提出了Hopfield神经网络模型，引入能量计算概念。1986年Rumelhart和McClelland提出了BP神经网络，成为应用最广泛的多层前馈网络。近年来，黄广斌提出的极限学习机(ELM)在单隐层网络中表现出高精度和快速学习的优点。

AI总结

## 人工神经网络概述

### 发展历史
人工神经网络的发展经历了多个关键阶段：

1. **1943年**：心理学家McCulloch和逻辑学家Pitts提出了神经网络的数学模型（MP模型），奠定了神经网络的基础。
2. **1960年代**：感知机被提出，但Minsky指出其无法解决非线性问题，导致研究停滞。
3. **1982年**：Hopfield提出了Hopfield网络，引入能量函数，解决了稳定性问题。
4. **1986年**：Rumelhart和McClelland提出了BP算法，成为应用最广的多层前馈网络。
5. **现代发展**：黄广斌提出的极限学习机（ELM）学习速度快，精度高。

### 感知机算法
感知机是单层神经网络，结构简单，但仅能处理线性问题，受Minsky的局限性分析影响，研究一度受阻。

### BP算法
BP算法是多层前馈网络，使用误差反向传播训练，解决复杂问题，应用广泛。

### 总结
人工神经网络从MP模型到现代算法，经历了技术瓶颈和突破，现广泛应用于各个领域。