做网站广告有哪些职位软文世界官网

博主历时三年精心创作的《大数据平台架构与原型实现：数据中台建设实战》一书现已由知名IT图书品牌电子工业出版社博文视点出版发行，点击《重磅推荐：建大数据平台太难了！给我发个工程原型吧！》了解图书详情，京东购书链接：https://item.jd.com/12677623.html，扫描左侧二维码进入京东手机购书页面。

问题描述

使用 Flink 向 Hudi 表中写入数据，使用 Spark SQL 的 Shell 查询 Hudi 表（使用的是 Hudi HMS Catalog 统一管理和同步 Hudi 表的元数据），结果在 Spark 中只能查询到打开 Shell 之前表中的数据，之后通过 Flink 写入的数据不可见，但重新打开一个新的 Spark SQL Shell，就可以看到了。

原因分析

这个问题并不是一个 Bug， 在 Hudi 的 Issues 列表中有反馈和讨论：https://github.com/apache/hudi/issues/7452，简单说就是：Spark SQL 的 Shell 所启动的 Session 会 cache 一些表和文件的元数据，在只通过 Spark SQL 这一个“渠道”操作 Hudi 表时是不会有问题的，但这里 Flink 对 Hudi 表的操作完全不在 Spark SQL 的“感知”范围内，Spark SQL 会继续使用自己 Cache 中已经过期的元数据数据，所以没有及时反映出 Flink 对 Hudi 表数据的更改。

解决方法

有两种方法可以“修正”这个问题：

1. 显式地执行一次 refresh table 操作 ，但这个方法不态实用，除非我们在编写 SQL 时能确定应在何时 refresh。下图是一个测试：
   

2. 显式地设置 spark.sql.filesourceTableRelationCacheSize=0，禁止 Spark 缓存相关的元数据，这个是持续生效的，但需要提醒的是该配置项为静态配置，不能在 SQL 中用 set 语句设置，只能在启动 Spark SQL Shell 时通过 --conf 参数配置，就像这样：

   spark-sql --jars /usr/lib/hudi/hudi-spark-bundle.jar \--conf "spark.serializer=org.apache.spark.serializer.KryoSerializer" \--conf "spark.sql.catalog.spark_catalog=org.apache.spark.sqlatalog" \--conf "spark.sql.extensions=org.apache.spark.sql.hudi.HoodieSparkSessionExtension" \--conf "spark.sql.filesourceTableRelationCacheSize=0"
   

   下图是一个测试：