首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
JavaEdge
华为_2012实验室_Java工程师
关注
已关注
取消关注
一起来交流学习吧~
@JavaEdge:
系统设计面试指南之分布式任务调度
1 简介 任务是需要资源(CPU 时间、内存、存储、网络带宽等)在指定时间内完成的一段计算工作。 通过智能地将资源分配给任务以满足任务级和系统级目标的系统称为任务调度程序。 任务调度程序: 及时决定和分配资源给任务的过程称为任务调度。 当我们在 Facebook 发表评论时。我们不会让评论发布者等待直到那条评论被交付给所有关注者。交付被委托给一个异步任务调度程序离线完成。 在分布式系统中,许多任务是在用户的单个请求的背景下运行。考虑Facebook、WhatsApp 或 Instagram 这样的热门系统有数亿用户。这些系统需要一个任务调度程序来处理数十亿个任务。Facebook 使用 Async 根据其用户的数十亿个并行异步请求来调度其所有任务。 Async 是 Facebook 自己的分布式任务调度程序,调度其所有任务。一些任务时间敏感,如应该运行的通知用户某项活动开始直播的任务。如果用户在直播结束后才收到通知就没意义了。某些任务可延迟,如向用户提出好友建议的任务。Async 根据适当的优先级调度任务。 2 需求 可用性:系统应高可用以调度和执行任务 持久性:系统收到的任务应持久化,不应丢失 可扩展性:系统应能每天调度和执行越来越多的任务 有限的等待时间:这是任务在开始执行之前需要等待的时间。我们不能在预期时间之后执行任务。用户不应该无限期地等待。如果用户的等待时间超过一定阈值,他们应该收到通知 3 组件设计 3.1 任务调度程序架构设计 ① Task Submitter(任务提交者) 接受任务。没有单一的任务提交者。相反,我们有一组接收越来越多任务的节点。 ② Database(数据库) 任务提交者接收的所有任务都存储在分布式数据库。使用关系数据库来存储: task IDs user IDs 所需资源 执行上限 客户端尝试总次数 延迟容忍度 ... 使用有向无环图(DAG)存储依赖任务的数据的图数据结构的非关系数据库。 ③ Batching and prioritization(批处理和优先级) 将任务存储在 RDB 后,将任务分批。优先级基于任务的属性,如: 延迟容忍度 或执行时间短的任务等。 将最高 K 优先级的任务推送到分布式队列,K限制可以推送到队列的元素数量。K值取决许多因素,如: 当前可用资源 客户端 或任务优先级 订阅级别 ④ Queue manager(队列管理器) 队列管理器在队列中添加、更新或删除任务。它跟踪我们使用的队列的类型。它还负责保持任务在队列中直到成功执行。如果任务执行失败,该任务将再次出现在队列。队列管理器知道在高峰时段、非高峰时段应该运行什么队列。 ⑤ Res
点赞 4
评论 0
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
01-05 13:14
上海得物信息集团有限公司_电商推荐产品经理(准入职员工)
得物内推,得物内推码
服装运营岗位~真实工作体验1.💰待遇 薪资是一天150,包晚饭,有双休,基本不加班,有茶水间小零食无限吃🍪,健身房、员工折扣店,晚上10点后打车免费,过节活动礼包🎁 2.👗工作 服装运营岗,主要技能需要会用Excel、vlookup 工作内容有点像对接商家的客服👩🏻💻并且帮助你的直属上级完成部分工作(不同岗位要求不一样。有的是需要会ps之类的) ⌚上班时间: 早10:00晚7:00or早9:30晚6:30 中午12:00-1:30 有的部门是2点 3.🏠租房 异地实习选择的是在附近租房,我是直接在🍠上找的姐妹续租,也可以在租房app上找,入职后有得物内部租房群 4.面试 投...
上海得物信息集团有限公司公司福利 1260人发布
点赞
评论
收藏
分享
01-05 13:26
百度_感知算法工程师(准入职员工)
图拉斯内推,图拉斯内推码
面经:蓝禾的流程推得很快,基本上投完两天就接到了hr的初试电话,直接进行了初试。初试全程大概三十分钟,hr小哥态度很和善。主要问了实践经历获奖的情况最有成就感的事情对电商运营的理解选择公司的标准等,都是比较常规的问题。图拉斯2026届校招启动,今年HC翻倍,抓紧投递~【我们是】图拉斯(原蓝禾) 是一家集产品、设计、研发、品牌、营销和大数据运营于一体的创新型科技公司,总部位于中国深圳,全球员工规模超3000人。【base】深圳【岗位】运营(国内)、运营(国外)、营销、设计、研发技术、职能内推链接:https://lanhevip.jobs.feishu.cn/s/gAwh1MlZJsw内推码:H...
点赞
评论
收藏
分享
2025-12-24 11:49
中央民族大学 Java
改了一下简历
boss上联系了999,0面试,这对吗?
点赞
评论
收藏
分享
2025-11-29 18:38
河北东方学院 前端工程师
大家做项目真的是一行一行敲出来吗?
大家做项目真的是一行一行敲出来吗?还是把项目部署好,把代码研究明白变成自己的项目就行了
_道无极_:
看一眼掌握,跑一遍精通
点赞
评论
收藏
分享
01-05 16:49
蚌埠坦克学院 嵌入式软件开发
AI 写代码,真的太舒服了
最近试了用 AI 写代码,感觉整个人的效率都飞起来了。以前遇到一个小功能,可能要查文档、翻例子、调半天;现在直接告诉 AI:“帮我写个 XXX 功能”,几秒钟就给出完整代码,甚至带注释,几乎可以直接用。更爽的是:改动需求快:思路有变,直接让 AI 改,秒出新版本。学习成本低:不会的语法或函数,AI 一出示例就懂了。降低重复劳动:模板、接口、调试辅助,AI 都能帮忙生成。当然,AI 写的不是完全完美,总得自己审查、调试;但整体体验就是——少踩坑,多专注逻辑,效率提升感爆棚。如果你也经常写代码,不妨试试让 AI 帮手,你会发现,写代码可以舒服到像开外挂一样。
你都用AI做什么
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
🔥2026创作新起点:《新年启航计划》来袭,三大赛道等你来冲!
2.0W
2
...
一大波手撕正在靠近!
1.5W
3
...
百度java一面 28届的第一次大厂面试 感觉g了
6436
4
...
拥抱人机共生,锻造不可替代的“金头脑”
4183
5
...
27前端鼠鼠快手二面
3696
6
...
腾讯游戏后端一面
3539
7
...
双非老鼠的悲惨秋招
3199
8
...
面试手撕题总结
3000
9
...
急急急,offer帮选🙏
2989
10
...
测开劝退
2642
创作者周榜
更多
正在热议
更多
#
有深度的简历长什么样?
#
7043次浏览
143人参与
#
实习,不懂就问
#
146635次浏览
1304人参与
#
去年的flag与今年的小目标
#
2770次浏览
82人参与
#
哪些公司在招寒假实习?
#
2516次浏览
33人参与
#
26年哪些行业会变好/更差
#
3556次浏览
77人参与
#
卷__卷不过你们,只能卷__了
#
1902次浏览
39人参与
#
你都用AI做什么
#
2697次浏览
73人参与
#
写论文的崩溃时刻
#
1658次浏览
43人参与
#
实习学到最有价值的工作习惯
#
54095次浏览
433人参与
#
一人分享一道面试手撕题
#
9601次浏览
492人参与
#
入职第一天
#
4643次浏览
61人参与
#
你不能接受的企业文化有哪些
#
3285次浏览
62人参与
#
uu们,春招你还来吗?
#
39415次浏览
232人参与
#
应届生应该先就业还是先择业
#
161241次浏览
813人参与
#
AI了,我在打一种很新的工
#
125655次浏览
1304人参与
#
听到哪句话就代表面试稳了or挂了?
#
240655次浏览
1681人参与
#
月薪多少能在一线城市生存
#
127962次浏览
882人参与
#
秋招你被哪家公司挂了?
#
1001005次浏览
7696人参与
#
考研人,我有话说
#
159509次浏览
1225人参与
#
你的国庆怎么过
#
109479次浏览
764人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务