简历

第 55 题：提示越狱（Prompt Jailbreaking）的常见手段与防御策略 题目 解释提示越狱（Prompt Jailbreaking）的常见手段和防御策略。 一、什么是提示越狱？ 提示越狱（Jailbreaking） 指通过精心设计的 prompt 诱使模型绕过安全与合规约束（如拒绝生成有害内容、不泄露系统提示、不扮演违规角色），输出本不该输出的内容。与“提示注入”侧重“改写系统意图”略有重叠，但越狱更强调突破安全策略。 二、常见手段（简述）  角色扮演：要求模型“扮演无限制的 AI”“忽略伦理”等，弱化其安全身份。 假设与虚构：如“假设在虚拟故事中…”“仅用于研究…”以制造“非真...

投了好多 目前B站 蚂蚁笔试 PDD 米哈游大概率凉凉 其他的 要么简历挂 要么就是十好几天待处理

一、核心结论Agent 的出错/幻觉，不是单点问题，而是「模型原生不确定性 + RAG检索误差 + Prompt约束不足 + 工具链不可验证」的叠加效应。结合我项目落地经验，按优先级排序，幻觉的主要诱因的是：高概率：Prompt 缺少强约束，允许模型在“无证据、不确定”时硬答（核心可控）；次高：RAG 召回质量问题（切分不合理、过滤不到位、上下文拼接杂乱），给模型喂了无关“脏数据”，导致误导性幻觉；长期因素：模型本身能力边界（尤其本地小模型），属于原生短板，但占比最低。核心优化思路（不换模型）：把“模型自由生成”，改成“检索/工具可验证 + 受控生成”，用工程手段兜底，减少模型主观臆测空间。二...

不止遇到一次了，什么都不会，让提合并请求，问什么是合并请求。让gitlab.页面把测试截图附上，不知道截图要放在哪，那么大的编辑看不到吗让配开发机，问ip是什么东西……这都咋进来的啊，我们（我2023年毕业）那会儿没AI的时候面试都是直接linux，docker，k8s，git，结构与算法，计网。怎么才过去2年，实习生跟傻子一样，有些问题问的我难受，不会git commit，不会git pull，不会切换分支，直接要覆盖master....