通用逼近定理（Cybenko 1989，Hornik 1991）指出，含有有限數量神經元的單隱藏層前饋網絡可以在 $ \mathbb{R}^n $ 的任意緊子集上以任意精度逼近任何連續函數，只要激活函數滿足溫和的條件（例如非常數、有界且連續）。
