[单选题]
在一个标准的Transformer Block中,一个Multi-Head Attention子层之后通常会跟一个Position-wise FFN子层。关于这两个子层处理信息方式的描述,以下哪项最为准确?
Multi-Head Attention和FFN都独立地处理每个位置的向量,不进行位置间的信息交换。
FFN负责在不同位置间混合信息,而Multi-Head Attention则对每个位置的向量进行独立的非线性变换。
Multi-Head Attention在不同位置间混合信息,而FFN则对每个位置的向量进行独立的非线性变换。
Multi-Head Attention和FFN都负责在整个序列的不同位置间进行信息交换。
这道题你会答吗？花几分钟告诉大家答案吧！
问题信息
-
扫描二维码，关注牛客网
- 意见反馈
-
下载牛客APP，随时随地刷题
扫一扫，把题目装进口袋
- 求职之前，先上牛客
-
扫描二维码，进入QQ群
扫描二维码，关注牛客公众号
- 公司地址：北京市朝阳区北苑路北美国际商务中心K1座一层-北京牛客科技有限公司
- 联系方式：010-60728802 投诉举报电话：010-57596212（朝阳人力社保局）
- 牛客科技© All rights reserved admin@nowcoder.com
- 京ICP备14055008号-4 增值电信业务经营许可证 营业执照 人力资源服务许可证
-
京公网安备
11010502036488号
