大数据开发

以下是本人在大数据方向的技术栈学习路线，另外还有诸如HBase、Kylin、实时数仓项目、数据湖项目、湖仓一体等。下面列出的是基本所必须掌握的内容。对于项目方面，建议先离线后实时开发的学习，再之后便是数据湖等项目。另外推荐可以经常翻看《大数据之路》这本书，里面涉及到的理论和企业中的白皮书基本一样。平常也可以多翻看各个公司公开分享的技术文章，源码等。类似阿里的学习文档、美团的技术文档等，在没有实际生产经验时可以了解各个场景下技术选型、底层调优、内存调整、资源配置、数据治理等各个重要环节和内容。1、Java：JAVA SE、JVM、JUC（刚开始只需要看Java基础就可以了，不需要学习一些web框架，因为不管是源码二次开发，UDF开发，还是数仓都不需要用到这些框架（除了平台开发之外），像Spring这些web框架，在学习完所有的大数据框架之后，找工作之前如果还有时间，可以去学一学这些框架【加分项】）2、Linux+Shell3、Git、Maven（了解会用，有印象，如果需要使用能快速学习上手使用即可）4、Hadoop（HDFS，MapReduce，Yarn）5、Zookeeper6、Hadoop高可用（了解即可）7、Hive（重点，需要熟练了解原理，并且会写HQL，以及一些优化，是基础）8、Spark（大部分公司都是写SparkSQL，并且调优，需要明白底层原理，内存结构，SparkUI等）9、Flume10、Kafka（时间紧张的话，可以先放一放，和Flink一起学，kafka+Flink+Spark是处理实时数据的）11、Maxwell、DataX、Dolphinscheduler（项目中数据同步、模拟日常调度工作）12、sgg电商数仓x.0（跟着做完这个项目，就知道什么是数仓，什么是维度模型，什么是指标等等，以及生产中一些内容）13、Flink14、MPP架构（类似Doris、Clickhouse）15、实时数仓项目16、数据治理17、数据湖、湖仓一体18、刷算法、刷sql、刷场景题

1.自我介绍2.熟悉flink还是spark答：flink3.介绍下flink架构吧答：这里越深越好，我就讲到了flink的jobmanager(dispathcer，jobmaster)和taskmanager4.flink有哪些算子?答：map,flatmap,filter,window,union等,RichFunction提供生命周期open close,上下文环境。5.flink你知道有哪些窗口吗？计数窗口能介绍下吗？答：时间窗口有滚动滑动会话，计数窗口有滚动滑动。6.你知道窗口什么时候触发吗？答：讲了一下窗口触发器trigger7.你能介绍下flink有几种窗口触发器吗？底层怎么实现的。答：讲了一下事件时间触发器和处理时间触发器的原理。8.假如flink窗口突然不触发了，你怎么排查。答：这里我答了一下排查上游其中一个流是否断流，如果其中一条流断流可以设置withIdleness空闲时间，让窗口的最小水位线机制去掉那个断流的依赖，靠另外的流触发计算。这里面试官提了一个场景，如果小米商城半夜就是没人买东西或者数据量很小导致水位线不能及时更新，（就是每条流都没数据）那你该怎么触发呢？利用窗口触发器ProcessingTimeoutTrigger9.口述一道sparksql题10.sparksql优化答:(1)sort by 代替 order by，需要结合distribute by使用。(2)count(distinct)优化(3)列裁剪(4)谓词下推(5)优化MAPJOIN阈值。(6)定期合并小文件，防止maptask数量过多(7)多用explain看执行计划,避免笛卡尔积等意外情况11.执行计划怎么看每个stage是根据shuffle切分，执行计划会写上具体的操作符和数据量和JOIN规则。12.distrubute by 会发生shuffle吗？根据什么字段distribute by? 这个和cluster by的区别是什么？13.反问：(1)小米数仓具体是做什么数据？(2)为什么岗位介绍上写了机器学习？面试官说这个有专门团队去做，跟数仓关系不大牛客字数限制，答案写的有点简略小米面试官的技术感觉很强，态度好，体验很不错，希望以后有机会能进吧。

📍公司：Fastlanle🖥️工作环境：每年都有公司年度旅游、月度下午茶、节日京东卡🤔团队氛围：数据团队非常nice，token无限用，agent开发爽爆💰薪资福利：13-19k🙇整体评价：总体上让新人发挥的空间很大，我是公司25届的数据开发校招生，无论是培养和资源都不输入中大厂。重点是WLB，性价比拉满，早十晚7。内推码:K932D5S投递链接:https://fastbase.jobs.feishu.cn/s/8GEgKtfe9k0有啥不懂，可以私聊我！！！

时长40分钟左右，总体问的东西不难（感觉是简历上没东西可问的）。今天面两场有点晕，这个面经只能是记得多少写多少了。1. 自我介绍2. 你的项目是学习的时候做的吗3. 你提到数据仓库分层，分别讲讲每层的作用4. 你提到DWS层存储一些指标，这个层可以删掉吗5. 讲讲HDFS（说了组件构成和读写流程）6. secondary nn起到什么作用（这里是我讲hdfs的时候，脑子抽抽忘说了，面试官点了一下）7. 讲一下mapreduce的流程8. 你提到shuffle过程中的排序，那在mr的shuffle中都有哪些排序9. 数据倾斜在什么情况下发生，如何解决10. java面向对象特性11. hive中的分区和分桶有什么区别12. hive的内部表和外部表的区别13. 说说udf udaf udtf14. 研究生阶段印象比较深的课程15. 撕两道sql（第一个考察left join、right join、inner join），第二个窗口函数16. 面试官顺势问了row_number() rank() dense_rank()的区别17. 反问中间问java，面试官应该是看出来我没怎么学java的八股内容，就没怎么追问java内容了。写sql的时候，因为不能编译运行，脑子想了半天，感觉写的有点慢了，还是得多练。

前言近一年，大数据面试的风向正在发生明显变化。过去，面试官更关注：数仓分层怎么设计？指标体系如何构建？Spark 调优怎么做的？而现在，越来越多的面试开始追问：你有没有做过 AI 相关项目？LLM 在数据场景中如何落地？RAG 是怎么设计的？AI 不再是「加分项」，而是逐渐成为「基础能力」。但问题是 很多人所谓的 AI 项目，只停留在：调个 API写个简单问答 Demo这在企业级场景里，是远远不够的。真正有含金量的 AI 项目，必须要解决真实业务问题，并具备：检索增强（RAG）落地能力LLM 语义理解与 Prompt 设计能力工程化架构能力（可扩展、可复用、可维护）而在我们当前的数据仓库体系中...

25届学长，25秋招拿下字节、腾讯等6家大厂大数据开发offer，自用大数据八股，有需要可联系我

接下来这几道题，算是所有面经里面出现频率最高的（仅限牛客大数据开发面经分享），有的公司甚至一二面都常有重复的题（比如美团~）。   公众号：旧时光大数据   一、Hadoop部分     一、HDFS文件写入和读取过程   可灵活回答：   1）HDFS读写原理（流程）   2）HDFS上传下载流程   3）讲讲（介绍下）HDFS   4）HDFS存储机制   问过的一些公司：   阿里×3，阿里社招，腾讯x2，字节x2，百度，拼多多x2，浩鲸云，小米，流利说，顺丰，网易云音乐×2，有赞×2，祖龙娱乐，360×2，商汤科技，招银网络，深信服，多益，大华，快手，电信云计算，转转，美团x4，sho...

bg双9，非科班，3段中大厂实习最近秋招陆续开了，投了一圈一个面都没有。不知道是不是简历写太烂！求大佬们锐评

面试时间：1h 10min自我介绍实习工作的一些问题项目相关的一些问题Java基本数据类型？String为什么不是基本数据类型？能不能继承？如果需要频繁地拼接字符串用什么？为什么？StringBuffer、StringBuilder 的区别？Java的集合类了解吗？都有那些？它们的继承关系是怎么的？讲讲HashMap？HashMap多线程下怎么办？多线程的HashMap它的原理？并发编程的问题，听的有点懵，说不会，他又换了一个，还是不会，尴尬JVM内存结构？类加载机制？线程池了解吗？介绍一下设计模型用过那些？在哪里用过？线程和进程的区别？我看你学过python，python里面的协程和进程线程有什么区别吗？MapReduce原理？Spark为什么比MaReduce快？现在还有用MapReduce的吗？比起Spark，MapReduce的应用场景？Spark任务执行的流程？宽窄依赖？HDFS是如何保证数据可靠的？机房断网，造成脑裂怎么办？Flume构成？你在项目里是怎么用的？Kafka的构成？多个partition，怎么能保证全局有序？回答可以设置一个partition，不知道其他方法，反问面试官。他说这是别人问他的，他也不知道，问问看我能不能知道....数据库和数据仓库区别？数仓为什么要分层？星型模型和雪花模型区别？维度表和事实表，介绍一下？SQL：给了一张用户登陆表，求每个日期用户的活跃数、7日留存用户、7日活跃留存率好像最后时间不够了，我还没写完，就让我说了一下思路反问：部门业务是什么实习生都做什么工作对实习生有什么要求总结：- 问了很多项目相关的问题，很细，我开始以为一面只会问八股，没怎么准备，猝不及防- 面试官说他不是这个部门的，似乎是后端开发的，问了不少Java 的八股，Java集合的内容很久没复习，忘得差不多了；并发编程是都没研究过- 第一次面试，有些紧张，NameNode和DateNode、线程和进程 这些嘴瓢都说乱了，面试官人挺好的，还在安慰我别紧张

美团高频数开面试题分享|2024届校园招聘即将开始：https://www.nowcoder.com/discuss/515311167196160000?sourceSSR=users字节最全数开面试题|有同学拿了字节提前批offer：https://www.nowcoder.com/discuss/509134018885992448?sourceSSR=users快手大数据开发高频面试题及答案【海量hc】：https://www.nowcoder.com/discuss/527892445468577792?sourceSSR=users微众大数据开发高频面试题及答案【附JD分析】：ht...

附加信息：211本+985硕（非计算机），笔试4出头的分数，面了90分钟，面试官人超好，奈何本人过菜1、部门介绍2、自我介绍3、项目介绍，在项目中承担什么角色，如何完成工作大数据相关：4、对大数据开发的理解5、知道什么常用的大数据开发组件6、谈谈MapReduce的原理7、谈谈shuffle的实现方法8、对spark有什么理解？为什么Spark的运行速度快MySQL相关：9、对索引的理解10、索引的数据结构是什么？有什么好处？11、数据库设计三范式12、常用的数据引擎有什么？InnDB有哪些优势？13、sql题：计算排名14、sql题：用户净增长15、sql题：用户留存率16、sql题：表格转置17、反问

    2023年4月，大数据开发面试笔记V3.0发布，过去已经两个月，V4.0终于来了，这次主要新增了企业级调优手法以及数据湖基础等内容。如今面试越来越难，常常会被问到大数据的前沿知识比如数据湖，以及企业级调优手段有哪些等，于是我结合自己在大厂的工作经历进行了补充，最终汇聚成一份全面的大数据开发面试笔记。    此笔记包含大数据开发、Java、计算机基础、数仓理论、常考SQL、大数据开发场景题、大厂面经合集、大厂SQL真题、企业级调优手法、数据湖基础等十大模块，并且所有内容会持续更新。第一部分 大数据开发HDFS...

面经 自我介绍为啥不继续实习了实习项目主要内容是什么？会java吗？没系统学习过，会python说下数仓建模的分层（没准备）说下维度模型星型模型和雪花模型的区别什么情况下使用星型/雪花模型更好（没想过，胡乱回答了）HDFS读流程？原则是什么？(就近原则没答上来)了解spark吗？说一下宽依赖和窄依赖？（不太懂）了解flink吗？不懂hiveSQL怎么优化？（搞成说明HQL的提交流程了）机器学习的一些基本算法？（没准备）英语口语可以吗？请用英文进行一段自我介绍（没准备好，太紧张表现的有点差）反问：大数据开发是以java为主吗？java只是一种语言，其他语言也是可以的基于前面的面试表现，如果想从事大数据开发，有什么需要加强的？加强大数据组件的学习实习生有加班费吗？周末有，平时不会有感觉太多要准备的了，希望下次能回答的上来。