首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
JavaEdge
华为_2012实验室_Java工程师
关注
已关注
取消关注
一起来交流学习吧~
@JavaEdge:
系统设计面试指南之分布式任务调度
1 简介 任务是需要资源(CPU 时间、内存、存储、网络带宽等)在指定时间内完成的一段计算工作。 通过智能地将资源分配给任务以满足任务级和系统级目标的系统称为任务调度程序。 任务调度程序: 及时决定和分配资源给任务的过程称为任务调度。 当我们在 Facebook 发表评论时。我们不会让评论发布者等待直到那条评论被交付给所有关注者。交付被委托给一个异步任务调度程序离线完成。 在分布式系统中,许多任务是在用户的单个请求的背景下运行。考虑Facebook、WhatsApp 或 Instagram 这样的热门系统有数亿用户。这些系统需要一个任务调度程序来处理数十亿个任务。Facebook 使用 Async 根据其用户的数十亿个并行异步请求来调度其所有任务。 Async 是 Facebook 自己的分布式任务调度程序,调度其所有任务。一些任务时间敏感,如应该运行的通知用户某项活动开始直播的任务。如果用户在直播结束后才收到通知就没意义了。某些任务可延迟,如向用户提出好友建议的任务。Async 根据适当的优先级调度任务。 2 需求 可用性:系统应高可用以调度和执行任务 持久性:系统收到的任务应持久化,不应丢失 可扩展性:系统应能每天调度和执行越来越多的任务 有限的等待时间:这是任务在开始执行之前需要等待的时间。我们不能在预期时间之后执行任务。用户不应该无限期地等待。如果用户的等待时间超过一定阈值,他们应该收到通知 3 组件设计 3.1 任务调度程序架构设计 ① Task Submitter(任务提交者) 接受任务。没有单一的任务提交者。相反,我们有一组接收越来越多任务的节点。 ② Database(数据库) 任务提交者接收的所有任务都存储在分布式数据库。使用关系数据库来存储: task IDs user IDs 所需资源 执行上限 客户端尝试总次数 延迟容忍度 ... 使用有向无环图(DAG)存储依赖任务的数据的图数据结构的非关系数据库。 ③ Batching and prioritization(批处理和优先级) 将任务存储在 RDB 后,将任务分批。优先级基于任务的属性,如: 延迟容忍度 或执行时间短的任务等。 将最高 K 优先级的任务推送到分布式队列,K限制可以推送到队列的元素数量。K值取决许多因素,如: 当前可用资源 客户端 或任务优先级 订阅级别 ④ Queue manager(队列管理器) 队列管理器在队列中添加、更新或删除任务。它跟踪我们使用的队列的类型。它还负责保持任务在队列中直到成功执行。如果任务执行失败,该任务将再次出现在队列。队列管理器知道在高峰时段、非高峰时段应该运行什么队列。 ⑤ Res
点赞 4
评论 0
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
01-16 09:29
用友网络_Java开发
改 Bug 场景:别让 Trae “重写一切”
📢 重要提醒!还没看过上篇的同学,记得先戳专栏补课哦~咱们要按顺序来才能玩转Trae!首先说明下,只要不是让你从零开始写新项目,咱们最常用的就是SOLO Coder和Chat模式啦。今天重点讲讲Bug修复场景怎么玩转这两个模式~🛠️ 修复Bug两步走:第一步:定位Bug 1️⃣ 先用Chat模式让Trae指出Bug的具体位置 2️⃣ 自己review下整个业务流程 3️⃣ 思考解决方案 (PS:如果你对项目代码已经很熟了,这步可以跳过)第二步:Plan模式出击 直接让Trae给出一套修复方案!这里有个小技巧:因为我们之前在项目规则里设置了"最小改动"原则,所以每次对话都...
用 Trae 上班:实习...
点赞
评论
收藏
分享
01-18 17:03
已编辑
上海交通大学 算法工程师
打开一个网页,HTTP 请求几次?TCP 几次?
面试题简述打开一个网页的时候,一共会发多少次 HTTP 请求?又会建立几次 TCP 连接?面试官想听的1、是否真正理解浏览器和网络协议2、是否知道一个页面不等于一个请求面试回答举例打开一个网页时,HTTP 请求次数和 TCP 连接次数并不是固定的,取决于页面内容和 HTTP 协议版本。详情请参考:http://xhslink.com/o/5lyvnr7it26由浅入深分析1、请求是应用层概念,连接是传输层概念2、协议演进的目标是减少连接开销面试加分点1、能区分 HTTP/1.1 和 HTTP/22、能提 Keep-Alive、多路复用3、提到连接建立成本很高
2025八股文复盘
点赞
评论
收藏
分享
2025-12-22 16:51
湖南大学 安卓
室友提前实习,回来之后就变了
记得那年大三的时候,我们都在玩,室友突然说要去一线城市实习,我们都笑他不好好把握没课的大学时光……结果第二年开春室友回来之后就变了一个人,游戏也不打了,整天就是抱着电脑刷题,做项目,闲下来的时候就给我们讲实习遇到的同事,还有好mt,他说现在很清楚知道自己想要什么,不考研不考公,想去大厂工作……最后我们都在考研的时候,他已经拿到了大疆的offer,有一次碰到他刚好一起进图书馆,我问他年薪多少,他不好意思的笑了笑,40w+,然后我两就分开了,他去了机房,我去了自习室……
在下小袋鼠:
40w 年薪暴击考研党,这差距太真实了
一人说一个提前实习的好处
点赞
评论
收藏
分享
01-16 14:43
百度_感知算法工程师(准入职员工)
图拉斯内推,图拉斯内推码
面经:蓝禾的流程推得很快,基本上投完两天就接到了hr的初试电话,直接进行了初试。初试全程大概三十分钟,hr小哥态度很和善。主要问了实践经历获奖的情况最有成就感的事情对电商运营的理解选择公司的标准等,都是比较常规的问题。图拉斯2026届校招启动,今年HC翻倍,抓紧投递~【我们是】图拉斯(原蓝禾) 是一家集产品、设计、研发、品牌、营销和大数据运营于一体的创新型科技公司,总部位于中国深圳,全球员工规模超3000人。【base】深圳【岗位】运营(国内)、运营(国外)、营销、设计、研发技术、职能内推链接:https://lanhevip.jobs.feishu.cn/s/gAwh1MlZJsw内推码:H...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
备战春招,网申一键填写工具,发布了!!!
3.4W
2
...
27双非非科班4段实习从字节tt到腾讯wxg
6698
3
...
【评论得现金💰】26年度牛客评论活动起航!(试运行)
6570
4
...
AI 军火库
3713
5
...
字节校招landing实感
3515
6
...
腾讯后端日常实习二面(已OC)+一点随笔
3486
7
...
多益可以去吗
2966
8
...
AI coding时代,前端已死?
2895
9
...
第二期「创作模范」名单揭晓!速来围观
2372
10
...
实习久了,感觉人也麻木了
2188
创作者周榜
更多
正在热议
更多
#
上班以后,你还有哪些坚持的爱好?
#
3400次浏览
100人参与
#
拼多多工作体验
#
42580次浏览
275人参与
#
你最近因为什么迷茫?
#
20873次浏览
289人参与
#
你有哪些缓解焦虑的方法?
#
47419次浏览
892人参与
#
你都在哪些场所面过试?
#
8570次浏览
137人参与
#
记录实习开销
#
176664次浏览
677人参与
#
当你面对裁员会如何?
#
355861次浏览
2878人参与
#
你认为小厂实习有用吗?
#
114862次浏览
677人参与
#
实习离职怎么跟领导说
#
74739次浏览
412人参与
#
工作一周年分享
#
49230次浏览
243人参与
#
AI coding的好用工具分享
#
8470次浏览
192人参与
#
工作压力大怎么缓解
#
133386次浏览
1163人参与
#
实习怎么做才有更好的产出
#
5384次浏览
128人参与
#
一起聊字节
#
241330次浏览
1018人参与
#
实习生工资多少才算正常?
#
6719次浏览
128人参与
#
找工作以来,你最看不惯__
#
5188次浏览
136人参与
#
你给AI提过哪些离谱的需求?
#
2999次浏览
106人参与
#
26届秋招投递记录
#
112208次浏览
661人参与
#
领导做过最不靠谱的事
#
6987次浏览
131人参与
#
上班到公司第一件事做什么?
#
134361次浏览
938人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务