Translations:Attention Mechanisms/31/zh

    From Marovi AI

    交叉注意力用於查詢來自一個序列、鍵/值來自另一個序列的場景。在編碼器-解碼器Transformer中,解碼器通過交叉注意力關注編碼器的輸出,使模型能夠基於完整的輸入上下文進行生成。