资讯

人工神经网络是什么?受大脑启发、由大量“神经元”连接成的模型

2026-11-053 分钟阅读百科
TL;DR人工神经网络(ANN)是受生物神经系统启发的计算模型,由大量相互连接的人工神经元按层组织而成,每个神经元对输入加权求和并经过激活函数输出,通过反向传播算法从数据中学习连接权重,是深度学习和现代 AI 的基础。

人工神经网络(Artificial Neural Network,ANN),简称神经网络,是一种受生物大脑神经系统启发而设计的计算模型。它由大量相互连接的简单计算单元,也就是“人工神经元”组成,能够从数据中学习复杂的规律。它是深度学习的基础,也是当今大多数人工智能技术的核心。

人工神经元

人脑中有数百亿个神经元,每个神经元通过突触与其他神经元相连,接收信号、处理信号,再把信号传递出去。人工神经元是对这一过程的极度简化:它接收多个输入,每个输入都有一个对应的权重,表示这个输入的重要程度;神经元把所有输入乘以各自的权重后加起来,再加上一个偏置;最后,把结果送入一个激活函数,得到神经元的输出。激活函数引入了非线性,常用的有 Sigmoid、ReLU 等。如果没有激活函数,无论网络有多少层,整体都只相当于一个简单的线性变换。

网络的结构

神经元通常被组织成层:输入层接收原始数据,比如一张图片的像素;中间是一个或多个隐藏层,对信息进行逐层的加工和提取;输出层给出最终的结果,比如图片属于各个类别的概率。每一层的神经元与下一层的神经元相连。隐藏层越多,网络就越“深”,深度学习中的“深”就是指有很多隐藏层。

它是怎么学习的

神经网络的“知识”存储在连接的权重中。学习的过程就是不断调整这些权重:先把训练数据输入网络,得到预测结果,这叫前向传播;用损失函数计算预测结果与正确答案之间的差距;再通过反向传播算法,从输出层往回计算每个权重对误差的影响,也就是梯度;最后用梯度下降法,把每个权重往减小误差的方向调整一点。重复这个过程成千上万次,网络的预测就会越来越准确。

发展历程

1943 年,沃伦·麦卡洛克和沃尔特·皮茨提出了第一个人工神经元的数学模型。1958 年,弗兰克·罗森布拉特发明了感知机,可以学习简单的分类。1969 年,马文·明斯基等人指出单层感知机无法解决异或这样的简单问题,神经网络研究陷入低谷。1986 年,大卫·鲁梅尔哈特、杰弗里·辛顿等人推广了反向传播算法,使多层神经网络的训练成为可能。2012 年,辛顿的团队用深度卷积神经网络 AlexNet 在 ImageNet 图像识别比赛中大幅胜过其他方法,开启了深度学习的时代。2024 年,约翰·霍普菲尔德和杰弗里·辛顿因在人工神经网络领域的奠基性工作获得了诺贝尔物理学奖。

常见的类型

多层感知机,是最基本的全连接网络;卷积神经网络,擅长处理图像;循环神经网络和长短期记忆网络,用于处理序列数据;以及如今主导大语言模型的 Transformer。