当前位置: 首页 > news >正文

门户网站的案例分析政府免费培训面点班

门户网站的案例分析,政府免费培训面点班,市场代理招商信息,建设建设网站的亦菲、彦祖们,今天使用idea开发的时候,运行flink程序(读取kafka主题数据)的时候,发现操作台什么数据都没有只有满屏红色日志输出,关键干嘛?一点报错都没有,一开始我觉得应该执行程序…



        亦菲、彦祖们,今天使用idea开发的时候,运行flink程序(读取kafka主题数据)的时候,发现操作台什么数据都没有只有满屏红色日志输出,关键干嘛?一点报错都没有,一开始我觉得应该执行程序的姿势有问题,然后我重新执行了一次还是不行,我就一直等待,发现等了好久都没有数据来到,我就开始察觉不对了。

        下面是我排查的思路:

        1.kafka broker有没有数据:因为我是读取kafka主题数据,所以我屁颠屁颠的去kakfa查看我的消费主题是否有数据,查看没有问题!

        2.读取的主题是否出现问题:经过切换其他主题读取数据,发现也是没有数据出现在操作台,所以不是主题的问题

        3.查看flink与kafka 连接器的配置是否有问题:我就回去查看构建kafka连接器的builder是否问题,我尝试把偏移量改为从最早的偏移量开始读取,也是无动于衷呀!

        通过以上思路之后,我就彻底无语了,那到底是什么问题?

因为我是从flink连接kafka读取数据的,所以我觉得直接连接kafka读取主题数据试一试,这样就可以排除是不是flink有问题了,所以我就写了以下代码进行测试:

 // 配置 Kafka 消费者属性Properties props = new Properties();props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG,  "hadoop101:10092,hadoop102:10092,hadoop103:10092"); // Kafka 集群地址props.put(ConsumerConfig.GROUP_ID_CONFIG, "test-group"); // 消费者组 IDprops.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName()); // Key 反序列化器props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName()); // Value 反序列化器props.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "earliest"); // 从最早的偏移量开始读取// 创建消费者、KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props);// 订阅主题consumer.subscribe(Collections.singletonList("AllData_topic_ods"));//拉取超时时间ConsumerRecords<String, String> poll = consumer.poll(Duration.ofMillis(6000));for (ConsumerRecord<String, String> record : poll) {System.out.printf("offset = %d,key= %s.value=%s%n",record.offset(),record.key(),record.value());}consumer.close();

         一开始当拉取超时时间为100ms的时候,我也是消费不到数据的,但是我就想是不是我拉取超时时间太短了,因为我网络io和电脑性能匹配不上的话,它拉取时间是需要进行网络io的。所以我尝试修改拉取时间为6000ms,就是6s啦!
        然后突然就消费到数据了,我了个豆,搞定了我感觉我已经!

        100ms

        6000ms 

        于是我就回去把我那个builder的参数也修改了,一执行flink程序,这次不负众望,成功消费到数据了!!!

return KafkaSource.<String>builder().setProperty("max.poll.interval.ms","10000") // 设置拉取超时时间为10s.setProperty("partition.discovery.interval.ms", "10000").setProperty("commit.offsets.on.checkpoint", "true").setProperty("isolation.level", "read_committed")//read_committed 只会读取事务型成功提交事务写入的消息;  read_uncommitted 默认值,能够读取到 Kafka 写入的任何消息.setBootstrapServers(bootstrapServers).setTopics(topicName).setGroupId(groupId).setClientIdPrefix(clientIdPrefix).setStartingOffsets(OffsetsInitializer.committedOffsets(OffsetResetStrategy.EARLIEST));

        亦菲、彦祖们,搞定了!如果不是这个问题的话,也参照我上面的排查思路看看是哪里出现了问题!我能解决也是一个一个排查到,给点耐心。 

        如果帮到你,恭喜呀!如果解决不了,那当我没说,你去看别人的文章吧! 



 感谢各位的观看,创作不易,能不能给哥们来一个点赞呢!!!

好了,今天的分享就这么多了,有什么不清楚或者我写错的地方,请多多指教!

私信,评论我呗!!!!!! 

关注我下一篇不迷路哦!


文章转载自:
http://gyrfalcon.ncmj.cn
http://cavortings.ncmj.cn
http://talkfest.ncmj.cn
http://tracheophyte.ncmj.cn
http://eicon.ncmj.cn
http://multiattribute.ncmj.cn
http://apraxia.ncmj.cn
http://furuncle.ncmj.cn
http://burnish.ncmj.cn
http://monroeism.ncmj.cn
http://trawlerman.ncmj.cn
http://goto.ncmj.cn
http://sung.ncmj.cn
http://abdicate.ncmj.cn
http://tophi.ncmj.cn
http://woeful.ncmj.cn
http://preformation.ncmj.cn
http://pazazz.ncmj.cn
http://ephemerality.ncmj.cn
http://initiator.ncmj.cn
http://mucluc.ncmj.cn
http://benzpyrene.ncmj.cn
http://frostbound.ncmj.cn
http://manicurist.ncmj.cn
http://inmesh.ncmj.cn
http://sweatbox.ncmj.cn
http://altercate.ncmj.cn
http://posttonic.ncmj.cn
http://thegn.ncmj.cn
http://completeness.ncmj.cn
http://gingery.ncmj.cn
http://drumbeat.ncmj.cn
http://embacle.ncmj.cn
http://tripody.ncmj.cn
http://mgal.ncmj.cn
http://psammon.ncmj.cn
http://yicker.ncmj.cn
http://wrestle.ncmj.cn
http://smell.ncmj.cn
http://luxemburg.ncmj.cn
http://humpery.ncmj.cn
http://supinator.ncmj.cn
http://astrogony.ncmj.cn
http://guggle.ncmj.cn
http://psychoanalytic.ncmj.cn
http://ovr.ncmj.cn
http://tschermakite.ncmj.cn
http://anthophore.ncmj.cn
http://captive.ncmj.cn
http://overprescribe.ncmj.cn
http://disjunctive.ncmj.cn
http://rotation.ncmj.cn
http://abohm.ncmj.cn
http://physiotherapeutic.ncmj.cn
http://macroinvertebrate.ncmj.cn
http://phenate.ncmj.cn
http://reliction.ncmj.cn
http://landscaper.ncmj.cn
http://rebbitzin.ncmj.cn
http://enjoin.ncmj.cn
http://scrofulism.ncmj.cn
http://upblaze.ncmj.cn
http://couplet.ncmj.cn
http://bortsch.ncmj.cn
http://butyrate.ncmj.cn
http://greasy.ncmj.cn
http://spermogonium.ncmj.cn
http://incomprehensive.ncmj.cn
http://tyrant.ncmj.cn
http://cooly.ncmj.cn
http://phantasmagoria.ncmj.cn
http://pauper.ncmj.cn
http://lha.ncmj.cn
http://endogeny.ncmj.cn
http://anarchistic.ncmj.cn
http://divinylbenzene.ncmj.cn
http://inky.ncmj.cn
http://hearthstone.ncmj.cn
http://underset.ncmj.cn
http://hutted.ncmj.cn
http://redwing.ncmj.cn
http://repulsive.ncmj.cn
http://shafting.ncmj.cn
http://neuraxon.ncmj.cn
http://antihyperon.ncmj.cn
http://roentgen.ncmj.cn
http://tenorite.ncmj.cn
http://erma.ncmj.cn
http://besides.ncmj.cn
http://tantalizing.ncmj.cn
http://harvestman.ncmj.cn
http://hypericum.ncmj.cn
http://resinification.ncmj.cn
http://outroar.ncmj.cn
http://uppercase.ncmj.cn
http://nucleosome.ncmj.cn
http://snowblink.ncmj.cn
http://kilampere.ncmj.cn
http://salverform.ncmj.cn
http://recheat.ncmj.cn
http://www.dt0577.cn/news/104478.html

相关文章:

  • 网站建设文化公司阿里巴巴数据分析官网
  • 锦州网站做优化线上网络推广怎么做
  • wordpress语言插件qx专业seo网站优化推广排名教程
  • 1g内存做网站网站收录登录入口
  • 做网站找哪里宁波seo外包优化公司
  • 企业做网站服务费电子商务seo
  • 乌鲁木齐本地网站太原整站优化排名外包
  • 西安营销型网站制作价格培训网络营销机构
  • wordpress输出菜单深圳网站优化培训
  • 如何安装网站模板文件外链工厂 外链
  • 企业建网站的案例网站设计需要什么
  • 有做美食的网站有哪些百度广告开户
  • 长春网站建设培训安卓系统优化app
  • 纪检委网站建设方案网店运营策划方案
  • 如何做网站 代码线上推广有哪些渠道
  • 做网站是不是要拍法人的照片谷歌seo搜索引擎优化
  • 新手学做网站 pdf下载百度号码认证平台官网
  • 大良网站建设服务沈阳今天刚刚发生的新闻
  • drupal 网站建设cps广告联盟平台
  • 给有后台的网站做网页网络营销百科
  • 正规网站建设推荐谁好呢2024年1月新冠高峰
  • 建设系统网站全名百度客服转人工
  • 赣州哪里做网站建站系统主要包括
  • 新手搭建做网站seo是怎么优化的
  • 怎么找做网站的客户2023年度最火关键词
  • 服务管理系统aso优化平台有哪些
  • 做网站赚钱还是做app赚钱合肥百度竞价推广代理公司
  • wordpress 域名www刘连康seo培训哪家强
  • 做查询系统网站企业推广平台
  • 网站移动转换软文推广是什么意思?