大模型/AI方向面试唠嗑素材(2)—关键技术+提示词撰写

大语言模型关键技术概览

  • 规模扩展:早期的研究主要关注模型参数规模所带来的性能优势,最近的工作则是加大对于高质量数据的规模扩展。
  • 数据工程:首先,需要对于数据进行全面的采集,拓宽高质量的数据来源;其次,需要对于收集到的数据进行精细的清洗,尽量提升用于大模型训练的数据质量;第三,需要设计有效的数据配比与数据课程,加强模型对于数据语义信息的利用效率。
  • 高效预训练
  • 能力激发:多种高级提示策略,包括上下文学习、思维链提示等,通过构建特殊的提示模板或者表述形式来提升大语言模型对于复杂任务的求解能力。
  • 人类对齐:首先训练能够区分模型输出质量好坏的奖励模型,进而使用强化学习算法来指导语言模型输出行为的调整,让大语言模型能够生成符合人类预期的输出。
  • 工具使用

一个好的提示词一般需要包括以下几部分内容

  • 角色:定义大模型角色,使其输出更符合需求的答案
  • 任务:定义任务,让大模型具体了解你想要完成的任务
  • 工具:智能体拥有的工具,需要清晰定义应何时使用
  • 要求:对任务的具体要求越具体,AI输出的答案就越符合预期
  • 少样本示例:通过一个回答示例,让大模型自主学习,格式化大模型的输出
  • 注意事项:在不断调试过程中,智能体输出效果不及预期时,需要在“注意事项”中强调正确的做法。此部分对于智能体调优十分重要,保持智能体输出的稳定性
  • 工作流:要求大模型按照特定工作流程输出,适用于有固定流程的工作
  • 输出语气:模仿各类角色的语气定制化输出
  • 特定提示词:用于提升大模型的输出能力(一步步思考/······),规定大模型的输出格式(markdown,json等)

上述所有模块不一定每次提示词都需要,可以根据需求增加或减少。

#牛客AI配图神器#

下期更新《大语言模型的构建过程》,敬请期待~

#大模型##牛客激励计划##产品面经#
《大语言模型》阅读笔记 文章被收录于专栏

紧跟时代潮流~

全部评论
mark
1 回复 分享
发布于 06-11 01:53 江苏
mark
点赞 回复 分享
发布于 06-10 10:41 上海

相关推荐

水墨不写bug:疑似没有上过大学
点赞 评论 收藏
分享
头像
06-11 23:35
美团_测试开发
  今天主要说说我之前实习那会是怎么过来的以及大家以后做实习生了有什么建议给大家。入职一年不到就要开始下楼去接我的实习生了,之前虽然也带过一些实习生啥的但是主要是别人教的,我主要就是带带他们测需求或者写一些工具啥的,没有归属感。我实习那会:煮包我是大三那会开始实习的,当时是在快手,我在牛客的第一篇帖子就是23年那会拿到快手的offer,作为双非二本的我还是很开心的。首先实习第一天就是配环境其它不用做什么有时间可以再熟悉一下业务啥的。公司招实习生的目的主要是做一些杂活技术含量一般要求不高,除非是校招实习拿到offer再去实习,这种一般会好好培养或者做一些技术含量大的工作。普通实习生一般要是想学东西就得靠自己去看看公司的课或者相关的文档啥的,学习进步的过程往往是痛苦的,煮包我当然是吃不了一点苦的那会,所以快手实习两个月基本啥也不会就混了个实习经历,再后来痛定思痛感觉再不学一些东西面试都没东西讲了,所以就详细了解了一下业务,主动申请写写自动化,然后当时还学了kafka,我的导师晚上化作面试官对我提问。真的很不错,再后来就是大四下因为学校要求所以过完年就去美团提前实习了,因为是我主动要去的,所以当时就没啥工作基本都在摸鱼,每天就是逛我们内部的话题看看相亲贴啥的,就这样两个月也没测过需求就学了学工具基本没有成长吧,也是为我下半年入职埋了雷吧,出来混迟早要还的。建议:如果你是大三或者研二这种的,我的建议是可以努努力争取转正啥的,或者多去学学公司的内部资料,特别是基础一般的一定要乘着这个机会去学,文档没有权限就大胆的申请,私信求大哥大姐们给审批一个权限。“哥,我是刚来的实习生可以辛苦给审批个权限吗,我要学一下这个东西”。这个是我常用的话术,一般人都不会拒绝的。如果是大四考研上岸的这种,俗称“大爷”,这种可以随时跑路,干的不喜欢跑就完事了。之前我就遇到个,项目干了一半了跑了,然后我加班好几天才给补救回来,一开始信誓旦旦的给我说我干完了才会走,结果发现不好搞就直接跑路了,我真的丢了呀。我相信我的新实习生不会这样的,我要励志成为一个好mt。最后:有个好的导师真的很重要,可以少走很多的弯路,也希望大家能拿到满意的offer遇到很好的导师  
宏夏c:我实习时候的mentor已经跳槽了
点赞 评论 收藏
分享
评论
2
2
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务