llm应用开发 和 传统后端开发 思考

想知道各位牛友如何看现在市场上的传统后端开发和“llm应用开发”呢,因为llm应用开发其实市场上做的工作内容参差挺大的,我大致分了几类供参考,如有不对,轻喷
1.第一种最接近后端,调大模型api,然后还是搞后端那一套,无奈很多公司喜欢打着这个噱头,其实跟后端无异。
2.做agent,核心工作就是prompt,rag,用低代码平台搭工作流、智能体这种,这种去了感觉失业得最快。
3.搞微调,这种门槛也不是很高,但比第二种好多了,涉及模型微调、指标评估、造数据啥的。
4.预训练,这种都是算法招进去的,门槛有点高,感觉危机感没那么高,虽然说也是搞数据清洗的多。
5.模型压缩、推理加速啥的,这种偏底层 门槛也很高,个人感觉很好,就是要求高。
大概这五种,依次从后端到算法,市面上很多名字,大模型/ai/ai agent应用开发太多了,但工作的内容差别超大。
如果说涉及到的主要工作就是洗数据、造指标、微调、prompt、rag之类的或者再加一点agent,那感觉护城河似乎没那么高,甚至感觉可能还比不过java(说法可能有些绝对),总结来说就是感觉危机感很重,想知道大伙是怎么看的,作为在校生该如何做选择呢?
全部评论
1 2 3其实可以归为一块,我们组都在做。跟业务场景结合,做解决特定领域的agent,壁垒就在于和业务场景绑定和工程优化。agent框架,mcp等都是为业务服务的,而微调的话重要的是数据,以及当前模型更新速度这么快,做微调的成本远高于primpt
5 回复 分享
发布于 06-02 10:40 浙江
第二种目前我就在涉及一些 感觉前景并不像你说的灰暗 因为涉及多流程交互 其中需要额外的流程控制工程才能保证效果 服务多了 才能体现出来流程控制的重要性 这点没那么容易的
4 回复 分享
发布于 05-25 02:39 北京
大佬,你Agent开发就说了个低代码平台,企业没人用LangChain、CrewAI这些吗
2 回复 分享
发布于 06-03 11:10 日本
1
点赞 回复 分享
发布于 06-24 16:09 四川
急招LLM应用开发实习生,要有rag相关经验,没有实习自己做过项目也可以!
点赞 回复 分享
发布于 06-19 22:08 北京
点赞 回复 分享
发布于 06-03 10:14 湖北
mark
点赞 回复 分享
发布于 05-30 20:36 澳大利亚
支持
点赞 回复 分享
发布于 05-28 00:23 辽宁
我的部门现在1,2都在搞 而且都是传统Java程序员在搞的
点赞 回复 分享
发布于 05-27 23:56 上海
mark
点赞 回复 分享
发布于 05-27 23:55 上海
蹲蹲蹲
点赞 回复 分享
发布于 05-24 18:03 四川

相关推荐

1.自我介绍,拷打项目为什么用多智能体不用单智能体了解哪些大模型应用框架(你项目中的竞品)rag知识库是怎么搭建的,怎么进行的分片操作如何让大模型更加理解医学名词(一般大模型理解不了医学名词)知识库的大小,我答了一个很大的数,问接口速度问题(一脸懵逼,没考虑过,只考虑过rag层面的优化)询问rag评估(孩子寄了我没做,但是我背过),问具体评估数值(🐔没做过,瞎逼逼了一个数字)优化空间从项目拷打中看的出来面试官水平确实比较高,而且是个声音很好听的小哥哥2.写算法,尽然是acm格式,幸好函数写出来了,可惜的是输入输出没写出来,链表的输入输出真的难3.反问环节:做什么业务,不足之处
梗小姐:佬,你投的不会是这个吧。 wxg-微信支付-模型组 主要工作方向: 1.利用支付数据、社交数据等制定安全策略进行数据挖掘、特征工程 2.前沿模型研究:利用LLM代替xgboost等传统风控模型 本次实习生,可能的工作:使用司内大模型平台进行agent构建,集成到企业微信机器人里,作为内部工具以消息告警等形式提醒产品同学,其实还是偏开发。 掌握python和java应该够用了。 需要掌握的基本知识 简单的开发技能 agent基本原理(重点:function call,可能会被问了解mcp吗) LLM基本知识(训练、微调和部署推理,偏工程化),最好再掌握一些RAG知识
查看13道真题和解析
点赞 评论 收藏
分享
评论
20
55
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务