本文来自:Flink1.12-2021黑马程序员贺岁视频
3.Flink-On-Yarn开发使用
3.1.原理
3.2.两种模式
3.2.1.Session会话模式
3.2.2.Per-Job模式
3.3.操作
3.4.测试
3.4.1.Session会话模式
3.4.2.PerJob模式
3.Flink-On-Yarn开发使用
3.1.原理
为什么使用flink on yarn ?
在实际开发中,使用Flink时,更多的使用方式是Flink On Yarn模式,原因如下:
- 1.Yarn的资源可以按需使用,提高集群的资源利用率。
- 2.Yarn的任务有优先级,根据优先级运行作业。
- 3.基于Yarn调度系统,能够自动化地处理各个角色的Failover(容错)
A: JobManager进程和TaskManager进程都由Yarn NodeManager监控。
B:如果JobManager进程异常退出,则Yarn ResourceManager会重新调度JobManager到其他机器。
C:如果TaskManager进程异常退出,JobManager会收到消息重新向Yarn ResourceManager申请资源,重新启动TaskManager