柯尔莫哥洛夫-阿诺德表示定理是什么？多元函数都能拆成一元函数的组合

柯尔莫哥洛夫-阿诺德表示定理（Kolmogorov-Arnold Representation Theorem），也称叠加定理，是实分析和逼近理论中的一个重要定理。它指出：任何一个定义在 n 维单位立方体上的多元连续函数，都可以表示为有限个一元连续函数经过加法和复合（嵌套）的形式。这一定理由苏联数学家安德烈·柯尔莫哥洛夫和他的学生弗拉基米尔·阿诺德在 1956 到 1957 年间证明。

它说的是什么

一个多元函数，就是有多个输入变量的函数，比如 f(x, y, z)，它的值同时依赖于 x、y、z 三个变量，变量之间可能以非常复杂的方式相互作用。一元函数则只有一个输入变量，比如 sin(x)、x 的平方。直觉上，多元函数似乎比一元函数复杂得多。但这个定理给出了一个令人惊讶的结论：任何多元连续函数，无论多复杂，都可以只用一元函数和加法“搭”出来。

具体来说，对于 n 个变量的连续函数 f，存在若干个一元连续函数，使得 f 可以写成这样的形式：先对每个输入变量分别施加一组一元函数，把结果加起来；对这些和再分别施加另一组一元函数；最后把所有结果加起来。总共只需要 2n 加 1 个“外层”函数，以及若干“内层”函数。换句话说，变量之间所有复杂的交互作用，最终都可以归结为“加法”这一种最简单的组合方式，再配合一元函数。

历史背景：希尔伯特第十三问题

1900 年，数学家希尔伯特提出了 23 个重要的数学问题，深刻地影响了 20 世纪的数学发展。其中的第十三问题，大致是问：某些七次方程的解，能否用只有两个变量的连续函数复合表示出来？希尔伯特猜想不能。柯尔莫哥洛夫和阿诺德的定理，解决了这个问题的一个更受约束的变体，并在某种意义上给出了否定希尔伯特猜想的结论：所有多元连续函数，都可以用一元函数和加法（一种二元函数）的复合来表示。

与神经网络的关系

这一定理和神经网络有着天然的联系：神经网络本质上也是在用简单的函数组合来逼近复杂的函数。上世纪 80 年代末，就有研究者讨论过这个定理对神经网络的意义。但这个定理中的一元函数可能非常不光滑、形状极其复杂，难以在实际中学习和计算，所以长期以来被认为对实用的神经网络意义有限。2024 年提出的 KAN（柯尔莫哥洛夫-阿诺德网络）从这一定理中获得灵感，把可学习的一元函数放在网络的连接上，并通过加深网络的层数来缓解原定理中函数不光滑的问题，让这个古老的数学定理重新受到了关注。