Translations:Gradient Descent/17/zh

    From Marovi AI

    全批量梯度下降計算精確的梯度,因此沿著平滑的軌跡向最小值前進。隨機梯度下降使用單個樣本來估計梯度,大幅減少了每的計算量,代價是軌跡更嘈雜。小批量梯度下降在兩者之間取得平衡,是實踐中最常見的選擇,典型的批量大小介於 32 到 512 之間。