首页 / 数据开发工程师
#

数据开发工程师

#
328707次浏览 2149人互动
此刻你想和大家分享什么
热门 最新
数据开发学习路径(本人亲测)
分享一下我在大数据方向的学习路线,列出的基本上是必须掌握的内容。对于项目方面,建议先离线后实时项目,再之后便是数据湖等项目。另外推荐《大数据之路》这本书,里面涉及到的理论和企业中的白皮书基本一样。平常也可以多翻看各个公司公开分享的技术文章,源码等。比如:阿里的学习文档、美团的技术文档等,在没有实际生产经验时可以了解各个场景下技术选型、底层调优、内存调整、资源配置、数据治理等各个重要环节和内容。1. Java:JAVA SE、JVM、JUC(刚开始只需要看Java基础就可以,不要花太多时间在Java的学习上,也不需要学习一些web框架,因为不管是源码二次开发,UDF开发,还是数仓都不需要用到这些框架,除非涉及到数据平台开发。2. Linux+Shell,熟悉基本操作即可3. Git、Maven(了解会用,如果需要使用能快速学习上手使用即可)4. Hadoop(重点,HDFS,MapReduce,Yarn)5. Zookeeper6. Hadoop高可用(了解即可)7. Flume8. Kafka(重点,时间紧张的话可以大致了解用途,后面可以和Flink一起学,主要用来处理实时数据)9. Hive(重点,需要熟练了解原理,并且会写HQL,以及一些优化,是基础)10. Spark(重点,大部分公司都是写SparkSQL,并且调优,需要明白底层原理,内存结构,SparkUI等,来不及的话可以先跳过Java API编写Spark代码的学习)11. Maxwell、DataX、DolphinScheduler(项目中数据同步、模拟日常调度工作)12. 离线数仓项目:sgg电商数仓6.0(跟着做完这个项目,就知道数仓、维度模型、指标体系等等,以及生产中一些内容。这套教程比较全面,若来不及可以选择sgg其它离线数仓项目)。学到这里可以去找实习,实时数仓等技术可以在实习中抽空学13. Flink(重点)14. MPP架构(如:Doris、Clickhouse、StarRocks)15. 实时数仓项目16. 数据治理17. 数据湖、湖仓一体18. 刷算法、刷sql、刷场景题          
投递美团等公司10个岗位
点赞 评论 收藏
分享
【内推】SparkXGlobal 邑炎科技招聘数据开发+算法工程师啦
🏢公司名称:SparkXGlobal 邑炎科技💻招聘岗位:数据开发工程师+广告算法工程师+运营/市场等岗位 投递入口:https://app.mokahr.com/su/audvam或者扫描文内二维码直接提交简历,关于岗位问题可以留言。数据/算法 也可私信发送简历 直达部门 leader🌟内推码:NTA6JPz💰福利待遇:   考核晋升 | 完善的晋升机制 | 晋级涨薪 | 项目奖金 | 团队奖金 | 个人奖金 | 绩效提成                         老员工带新 | 导师一对一 | 内部定期培训 | 专业技能培训 | 大牛带队🤔工作体验:    - 邑炎公司实行扁平化组织管理,强调以工作为中心,达到简单高效的信息交流。营造轻松平等的工作环境,提供简单纯粹、自由无拘束的办公氛围。    - 供应茶点、零食、饮料,还有咖啡吧,为你加“油”    - 没有领导讲话,没有总结汇报,只需要享受当下    - 我们拥有完善的团建制度,你可以选择与亲近的同事来一场私密的出游,也可以参与组织整个大家庭的团建活动。【数据开发工程师】JD:●职位职责:1. 负责离线和实时数据处理,包括开发、维护和优化。2. 参与建设企业级大数据平台,包括数据架构、数据治理和数据应用的开发,以提升公司业务和技术部门的数据使用效率。3. 探索和分析新技术趋势,以解决现有问题和提升系统性能。●必备技能:1. 熟练掌握Java、Scala、Python等至少一种编程语言,并有良好的Shell脚本编写能力和Linux环境下的开发经验。2. 对Spark、Hadoop、Hive、Flink等大数据处理工具有深入理解,以及至少一种工具的实际使用经验。3. 对OLAP数据库如Clickhouse、StarRocks有深入理解,熟练使用MySQL,并对SQL优化有丰富经验。4. 至少2年的数据开发和设计经验,熟悉ETL设计和开发,对数据仓库分层模型、数据治理和数据平台有深入理解。●求职者特质:1. 对新技术和新事物充满好奇心,具备独立解决和分析问题的能力。2. 工作态度认真负责,执行力强,能有效地在团队内部和跨团队沟通。●加分项:1. 具备AWS、阿里云、腾讯云等至少一种云服务的使用经验。【广告算法工程师】JD:工作职责:- 基于在线广告的投放表现和用户行为数据,以提高客户的变现效果和体验为目标,建立并优化广告投放系统的基础算法和策略- 应用机器学习等技术,针对大规模信息建模,挖掘潜在商业价值,负责在线广告投放系统的核心技术创新与优化职责要求:- 计算机或相关专业本科及以上学历- 良好的逻辑思维能力和数据敏感度,能够从海量数据中发现有价值的规律- 熟悉 Python 语言编程- 熟悉数据挖掘、机器学习、自然语言处理等相关技术,并具备1年及以上实际工作经验- 优秀的分析和解决问题的能力,对挑战性问题充满激情- 具备良好的团队合作精神,较强的沟通能力- 具备广告投放相关技术的经验者优先- 有大语言模型相关技术的经验者优先欢迎优秀的应届生投递!更多岗位:https://app.mokahr.com/su/audvam
点赞 评论 收藏
分享
不愿透露姓名的神秘牛友
2024-11-15 00:38
数据开发offer选择 美团字节
投票
字节跳动 数据开发 48w 其他
匿名牛油:最后签定团子了
点赞 评论 收藏
分享
不愿透露姓名的神秘牛友
2024-11-23 09:30
已编辑
点赞 评论 收藏
分享
2024-11-05 22:44
门头沟学院 Java
京东零售-数据开发工程师-开奖统计
投票
京东零售 数据开发工程师 23K-30K
点赞 评论 收藏
分享
玩命加载中
牛客网
牛客企业服务