通用逼近定理（Cybenko 1989, Hornik 1991）指出，包含有限數量神經元的單一隱藏層前饋網絡可以以任意精度逼近 $ \mathbb{R}^n $ 緊緻子集上的任何連續函數，前提是激活函數滿足溫和條件（例如非常數、有界且連續）。
