Transformer 架构：2017 年那篇论文改变了什么
它解决了什么问题在 Transformer 之前，处理序列数据（如文本）的主流模型是 RNN（循环神经网络）及其变体 LSTM、GRU。RNN 有一…
标签：Transformer
共 2 片织锦
注意力机制的直觉：让模型学会"看重点"
类比人阅读一句话时，不会对每个词平均用力。理解"它"指代什么时，我们会回头去找前文中的某个名词——这就是注意力。机制注意力…
它解决了什么问题在 Transformer 之前，处理序列数据（如文本）的主流模型是 RNN（循环神经网络）及其变体 LSTM、GRU。RNN 有一…
类比人阅读一句话时，不会对每个词平均用力。理解"它"指代什么时，我们会回头去找前文中的某个名词——这就是注意力。机制注意力…