CDA考试专区 加入小组

844个成员 593个话题 创建时间:2017-12-06

在Transformer架构中,以下哪个组件负责捕获输入序列中的位置信息?

发表于03-26 524次查看

在Transformer架构中,以下哪个组件负责捕获输入序列中的位置信息?

A.    Multi-head Attention

B.    Feed-forward Neural Network

C.    Positional Encoding

D.    Layer Normalization

参考答案:C

解析:Transformer 的自注意力机制是不变的,因此为了捕获序列中的位置信息,我们使用位置编码。

发表回复
你还没有登录,请先 登录或 注册!
话题作者
一站式数据科学在线教育平台