【Python3实战Spark大数据分析及调度】第5章 Spark运行模式

第五章 Spark运行模式

PySpark实战之运行模式

官方submit文档:Submitting Applications
pyspark 与 spark-submit中的参数列表是一样的


local模式下执行py脚本流程


standalone下提交脚本流程


yarn,不需要启动worker和master
standalone需要启动worker和master


deploy-mode
启动在本地节点 client
启动在集群上worker节点 cluster

Spark的driver运行在application master里面


yarn不能够支持交互式的程序


查看已经运行完的yarn 程序的日志

总结:不管你的spark运行在哪个模式下,spark代码并不需要任何的修改

全部评论

相关推荐

10-21 00:37
已编辑
门头沟学院 C++
小浪_Coding:你问别人,本来就是有求于人,别人肯定没有义务免费回答你丫, 有点流量每天私信可能都十几,几十条的,大家都有工作和自己的事情, 付费也是正常的, 就像你请别人搭把手, 总得给人家买瓶水喝吧
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务