上下文窗口是模型在训练阶段能处理的最长输入序列长度
上下文窗口的限制会导致模型无法有效关联长对话中的历史信息
增加上下文窗口大小不会对模型的推理速度和内存占用产生影响
上下文窗口仅包含用户当前输入的内容,不包括历史对话
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题