Translations:Word Embeddings/41/zh

• ELMo（Peters 等，2018 年）——使用双向 LSTM 生成依赖上下文的词表示。
• BERT（Devlin 等，2019 年）——使用以掩码语言建模训练的 Transformer 编码器。
• GPT系列（Radford 等，2018 年起）——使用以自回归方式训练的 Transformer 解码器。