在如今互联网大厂面试环节中，现场手撕代码已经成为了每位面试者必须要经历的一关。目前85%以上的互联网公司都将面试者的现场编程能力作为能否拿到Offer的核心评价指标。如果可以在规定时间内流畅、顺利完成面试官给出题目的候选人，拿到高质量面评的概率要比其他人高出很多。

本文作为《一站式智驾感知算法求职宝典》专栏中CV&感知算法面试常见手撕代码题目汇总系列的第四篇文章，本篇内容包含：Transformer中的单头注意力实现、计算任意多边形的面积实现、计算任意三个点所构成的夹角角度计算实现三道算法手撕代码题目，并给出了参考实现代码。

CV&感知算法面试常见手撕代码题目汇总系列将会持续为大家收录和整理互联网大厂面试中的高频手撕算法题目，并且给出参考实现代码，便于同学们实习和求职前复习，从而在面试手撕代码环节更加游刃有余！

《一站式智驾感知算法求职宝典》专栏包含诸多高质量求职内容系列，包含

• 如何制作一份高质量个人简历保姆级教程
• 如何包装论文成果&科研项目&实习工作话术
• 十五家自动驾驶感知算法面经（附参考答案）
• 互联网大厂在线笔试ACM模式常见输入输出类型题目汇总（附Python和C++两种语言参考答案）
• CV&感知算法面试常见手撕代码题目汇总

无论你是即将开始秋招的应届毕业生，还是打算找实习的算法小白，《一站式智驾感知算法求职宝典》都将是你求职路上的得力助手！

一、Transformer中的单头注意力机制实现

import math
import torch
import torch.nn.functional as F

def attention(query, key, value, attn_mask=None):
    bs, len, dim = query.shape
    attention_matrix = torch.matmul(query, key.transpose(-2, -1)) / math.sqrt(dim)

    if attn_mask is not None:
        attention_matrix = attention_matrix.masked_fill(attn_mask == 0, float("-inf"))  # 0代表无效像素位置.
    
    attention_score = F.softmax(attention_matrix, dim=-1)
    attention_output = torch.matmul(attention_score, value)

    retu