当前位置: 首页 > news >正文

成品网站货源1277建设软件网站

成品网站货源1277,建设软件网站,电子贺卡制作软件app,华强北网站建设Flink任务缺失Jobmanager日志的问题排查 问题不是大问题,不是什么代码级别的高深问题,也没有影响任务运行,纯粹因为人员粗心导致,记录一下排查的过程。 问题描述 一个生产环境的奇怪问题,环境是flink1.15.0 on yarn…

Flink任务缺失Jobmanager日志的问题排查

问题不是大问题,不是什么代码级别的高深问题,也没有影响任务运行,纯粹因为人员粗心导致,记录一下排查的过程。

问题描述

一个生产环境的奇怪问题,环境是flink1.15.0 on yarn3.2.2的,研发人员反馈业务正常运行,但是最近变更算法替换新包的时候有业务异常,然后需要排查日志的时候发现没有日志,打开Jobmanager日志就会一直转圈:

image-20231115114655046

排查过程

页面因为一直转圈,就看了下控制台请求,报错是404,找不到对应的日志文件

image-20231115114855562

image-20231115114911461

检查了一下ApplicationMaster的启动日志,看到在容器启动的时候是有传入相关的log.file参数的,所以基本排除提交命令这块的问题:

echo "Launching container"
exec /bin/bash -c "$JAVA_HOME/bin/java -Xmx3462817376 -Xms3462817376 -XX:MaxMetaspaceSize=268435456 -Dlog.file="/data3/yarn/logs/userlogs/application_1667318330721_0144/container_e37_1667318330721_0144_03_000001/jobmanager.log" -Dlog4j.configuration=file:log4j.properties -Dlog4j.configurationFile=file:log4j.properties org.apache.flink.yarn.entrypoint.YarnApplicationClusterEntryPoint -D jobmanager.memory.off-heap.size=134217728b -D jobmanager.memory.jvm-overhead.min=429496736b -D jobmanager.memory.jvm-metaspace.size=268435456b -D jobmanager.memory.heap.size=3462817376b -D jobmanager.memory.jvm-overhead.max=429496736b 1> /data3/yarn/logs/userlogs/application_1667318330721_0144/container_e37_1667318330721_0144_03_000001/jobmanager.out 2> /data3/yarn/logs/userlogs/application_1667318330721_0144/container_e37_1667318330721_0144_03_000001/jobmanager.err"

image-20231115114230472

因为这个环境早前有把flink从1.13.2升级到1.15.0的情况,又验证了一下版本是不是有问题,使用1.13.2提交一个example任务:

/usr/local/flink/bin/flink run-application -t yarn-application     -Dtaskmanager.numberOfTaskSlots=1    -Djobmanager.memory.process.size=4096m     -Dtaskmanager.memory.process.size=6144m     -Dyarn.provided.lib.dirs="viewfs://nsX/ns7/user/flink_lib" -Dyarn.application.name="Flink-Test"    -Dyarn.flink-dist-jar="viewfs://nsX/ns7/user/flink_lib/flink-dist-1.13.2.jar"  SocketWindowWordCount.jar  --hostname localhost --port 22

你还别说真就打出日志了:

b2d69cf3-09a8-4ebe-80fb-b7f675c17e00

对比了一下AM的的web日志页,发现1.15启动的缺少jobmanager.log文件

image-20231115114243742

image-20231115114359060

依次检查了log4j的相关配置,新旧版本也没有区别,又看了一眼提交命令,提交命令里有一个指定依赖目录的参数yarn.provided.lib.dirs,瞅一眼看看是不是有问题

企业微信截图_17000195313617

好嘛,看着1.13.2的依赖目录和1.15.0比差了几个log4j的包,把相应的包补齐到1.15.0的目录里,再提交任务,一切正常:

image-20231115140549733

http://www.15wanjia.com/news/181635.html

相关文章:

  • 企业网站模板cms如何制作小程序码
  • 做网站的前提wordpress 是否有后门
  • ps如何做网站专题苏州兼职网站开发
  • 网站敏感关键词.txt大连h5网站开发
  • wordpress知言主题芜湖seo
  • 网站免费建设推荐建公司网站需要哪些资料
  • 微博图片怎么做外链到网站网站建设制作临沂网站建设选盛誉
  • 做网络推广的网站有哪些wix wordpress
  • 申请一个域名可以建设一个网站吗wordpress php加密
  • 怎样做家普网站7k7k小游戏网页
  • 绵阳市中医医院网站建设百度云域名购买
  • 海尔网站的建设目标网站建设需要什么内容
  • 烟台哪里做网站好电子商务主要做什么工作
  • 电子商务网站建设作业文档东莞横沥地图
  • 网站首页源码网站内链 外链
  • 优酷的网站头怎么做的移动应用开发好就业吗
  • 网站开发进度报告前端seo怎么优化
  • 网站404页面的作用eclipse jsp 网站开发
  • 中文域名交易网站怎样在百度能搜到自己的网站
  • 济南快速网站排名seo网页优化服务
  • 学做衣服的网站有哪些潍坊网站开发weifangwangluo
  • 手机卡盟网站建设建立网站的条件
  • 新加坡网站建设wordpress 注册 攻击
  • 血液中心网站建设方案seo公司是什么
  • 义乌网站开发大型网站技术架构:核心原理与案例分析
  • 移动课程播放网站建设多少钱锡林浩特本地网站建设
  • 关于网站建设的博客学校网站结构图
  • 石岩网站建设公司logo查询网站
  • 网站 数据库 关系浙江网站建设哪家专业
  • 友点企业网站管理系统模板快站怎么做淘客网站