Translations:Word Embeddings/41/zh

• ELMo（Peters 等，2018 年）——使用雙向 LSTM 生成依賴上下文的詞表示。
• BERT（Devlin 等，2019 年）——使用以掩碼語言建模訓練的 Transformer 編碼器。
• GPT系列（Radford 等，2018 年起）——使用以自回歸方式訓練的 Transformer 解碼器。