首页 > 试题广场 >

若模型中attention部分head数h=8，GQA分组数

[单选题]
若模型中attention部分head数h=8，GQA分组数g=2，则K/V矩阵的共享情况是 
  • 仅Q矩阵分组
  • 每2个头共享K/V，共4组
  • 每组4个头共享K/V
  • 所有头共享同一组K/V
查看正确选项
添加回答

这道题你会答吗？花几分钟告诉大家答案吧！

提交观点

问题信息

来自：2026年-华为-1月...
难度：
0条回答 4浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号