在互联网大厂算法岗的面试环节中，深度学习相关八股文的重要性早已无需多言。算法岗面试八股文看似是一个大家"背答案，对于记忆力的比拼"，但实际上却是互联网大厂面试官考察候选人知识体系完整性和基础知识掌握扎实程度最直接、有效的方式！因此八股文在面试中的重要性不言而喻。

大家在求职过程中会发现，当下很多大厂算法岗面试八股文资料杂乱无章，不成体系，需要花费大量的时间和精力进行整理，耽误求职复习进度。本深度学习算法岗求职八股文专栏将互联网大厂面试中的高频八股知识点进行了汇总和梳理，并且附带参考答案。助力大家在求职面试前打下扎实的基础功底，面试过程中游刃有余！

本文是《深度学习算法岗求职八股文专栏》 中Transformer高频考点系列的第三篇文章，整理了面试过程中Transformer的高频考点，并且附带参考答案。

为什么Transformer 网络中的位置编码采用正余弦的形式？

正余弦位置编码具有几个比较不错的属性：

（1）可区分性：周期函数具有唯一的值，这意味着每个位置的编码都是独一无二的，从而保证了模型可以区分不同位置的元素。

（2）相对位置关系：通过使用正弦和余弦函数，可以通过位置编码的相加或相减来很容易地捕捉到元素之间的相对位置。这是因为正弦和余弦函数的和与差具有良好的数学性质，可以保持周期性，这对于模型理解序列中的模式非常重要。