通用逼近定理（Cybenko 1989，Hornik 1991）指出，具有有限数量神经元的单隐藏层前馈网络可以以任意精度逼近 $ \mathbb{R}^n $ 紧子集上的任何连续函数，前提是激活函数满足温和的条件（例如，非常数、有界且连续）。
