通用近似定理（universal approximation theorem，Cybenko 1989，Hornik 1991）指出：在 $ \mathbb{R}^n $ 上的紧致子集上，只要激活函数满足温和条件（例如非常数、有界且连续），具有有限个神经元的单隐藏层前馈网络便能以任意精度逼近任何连续函数。
