Translations:Word Embeddings/41/zh

• ELMo（Peters 等，2018）— 使用双向 LSTM 生成依赖上下文的词表示。
• BERT（Devlin 等，2019）— 使用以掩码语言建模训练的 Transformer 编码器。
• GPT 系列（Radford 等，2018–）— 使用以自回归方式训练的 Transformer 解码器。