Translations:Batch Normalization Accelerating Deep Network Training/23/zh

    From Marovi AI

    批歸一化成為深度學習架構中最普遍的組件之一。在 2010 年代後期,它幾乎在所有卷積網絡中都被採用,並且在許多架構中仍然是標準做法。該技術的成功啟發了一系列歸一化方法,包括層歸一化(在Transformer 和循環網絡中更受青睞)、實例歸一化(用於風格遷移)和組歸一化(適用於小批量大小)。