美团数据开发一面秋招面经

1.WordCount 具体是怎么跑的?比如怎么分片、map 阶段做了啥、shuffle 是咋回事、reduce 最后怎么汇总的2.MapReduce和Spark 到底差在哪儿?适用场景这些都得对比着说3.Spark 提交任务时，Client模式和集群模式有啥不一样?比如 Driver 在哪跑、日志在陖瞎圈看、适合啥场景4.同一条 SQL，为啥 SparkSQL 跑起来比HiveSQL 快?得从执行引擎、优化器这些底层说说原因5.自定义 UDF 怎么实现?比如在 Hive 或Spark 里，具体步骤是啥，有没有踩过坑6.设计 HBase 表得注意啥?rowkey 怎么设计才合理、列族要不要分、版本数怎么设，这些睪腘狐旨を曽斷纰可能问到7.HBase 里的 HLog 是干嘛的?跟数据持久化、故障恢复有关系吗8.都是存在 HDFS 上的数据，为啥 HBase 能支持在线实时查询，Hive 就不行?底层存储结构不一样在哪9.用 SparkSQL 操作 Hive 数据时，有没有縈区堠浓ゴ壮攥到过兼容性问题?比如某些函数不支持、数据格式读不对之类的，怎么解决的10.Spark Streaming、Storm、Flink 这几个流处理框架，区别在哪?各自的优缺点和适用场景得搞明白场景题:11.数据量特别大，要用三个 Map 和一个Reduce 来做 Top10，哪种方法效率最高?得考虑怎么减少数据传输、避免倾斜

面试部门：内容数据工程timeline：09.24投递，10.14笔试通知，10.21一面，次日挂，并取消10.25的笔试一面（35min）自我介绍实习内容介绍实习中最复杂的一项工作，主要内容是什么，从中有哪些收获主要用什么技术栈JVM的内存结构如何排查OOM问题内存泄漏在什么场景下会发生算法：最大子数组和

1.mapreduce执行流程2.hdfs如何保证数据一致性3.flink和kafka如何保证数据的一致性4.flink的checkpoint里的barrier对齐和非对齐分别如何实现exactly-once；非对齐实现需要怎么做？5.kafka如何保证数据一致性6.spark和mr的shuffle有哪些区别7.spark的内存参数一般怎么调整；一般集群的spark内存参数会在什么样的一个级别？8.数仓分层，每一层有什么作用？具体的全链路流程是什么样的？9.维表应该如何进行设计？10.用户画像如何搭建？11.然后是一些数据结构的考察。12.然后是两道sparksql题，不难。其中一个是考察数据构造，需要对sparksql有较深的使用了解。

面试时间：2025.09面试部门：电商timeline：09.24一面，09.29二面，然后转到正式批流程中，就没有后续了一面（80min）面试官介绍部门业务自我介绍+实习经历简介实习经历全方位拷打（35min）Spark SQL的运行流程Spark SQL编译过程中做的一些优化手段刚才提到的都是静态优化，有没有动态优化的手段Spark有哪些Join方式，如何选择，优先级是什么sql题：给一张表student，记录了学生的分数：id, item（课程）, score求科目前10名 以及每个科目的最高分 追问：求最高分是否可以不用join求各学科均>60的学生追问：如果极端情况，某一科所有...