3.Flink-On-Yarn开发使用\原理\Session会话模式\Per-Job模式

发布时间:2022-08-18 18:43

本文来自:Flink1.12-2021黑马程序员贺岁视频

3.Flink-On-Yarn开发使用
3.1.原理
3.2.两种模式
3.2.1.Session会话模式
3.2.2.Per-Job模式
3.3.操作
3.4.测试
3.4.1.Session会话模式
3.4.2.PerJob模式

3.Flink-On-Yarn开发使用

3.1.原理

为什么使用flink on yarn ?
在实际开发中,使用Flink时,更多的使用方式是Flink On Yarn模式,原因如下:

  • 1.Yarn的资源可以按需使用,提高集群的资源利用率。
  • 2.Yarn的任务有优先级,根据优先级运行作业。
  • 3.基于Yarn调度系统,能够自动化地处理各个角色的Failover(容错)
    A: JobManager进程和TaskManager进程都由Yarn NodeManager监控。
    B:如果JobManager进程异常退出,则Yarn ResourceManager会重新调度JobManager到其他机器。
    C:如果TaskManager进程异常退出,JobManager会收到消息重新向Yarn ResourceManager申请资源,重新启动TaskManager
    3.Flink-On-Yarn开发使用\原理\Session会话模式\Per-Job模式_第1张图片

ItVuer - 免责声明 - 关于我们 - 联系我们

本网站信息来源于互联网,如有侵权请联系:561261067@qq.com

桂ICP备16001015号