鲲鹏社区首页
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助

相关参考

OmniStateStore配置项说明如表1所示。

表1 OmniStateStore配置项

归属模块

配置项名称

简要描述

默认值

合法值/区间

注意事项

Log

state.backend.ockdb.jni.logfile

日志路径。

“/usr/local/flink/log/kv.log”

有读写权限的路径下面的文件

保证路径已存在且对Flink运行用户有读写权限。

state.backend.ockdb.jni.loglevel

日志打印级别。

2

数字1 ~ 4

日志级别对应关系:

  • 1:DEBUG
  • 2:INFO
  • 3:WARN
  • 4:ERROR

state.backend.ockdb.jni.lognum

最大日志文件个数。

20

大于或等于10,且小于或等于50

-

state.backend.ockdb.jni.logsize

单个日志文件大小。

20MB

大于或等于10MB,且小于或等于50MB

-

StateStore

state.backend

Flink开源参数,用于配置state.backend状态后端。

-

com.huawei.ock.bss.OckDBStateBackendFactory

保证字符完全正确,区分大小写。

state.backend.ockdb.localdir

OmniStateStore本地数据存储路径。

-

已存在且Flink运行用户具有读写权限的路径

  • 保证路径已存在且对Flink运行用户有读写权限。
  • 确保该路径与taskmanager.state.local.root-dirs配置路径在同一个文件系统下。

taskmanager.state.local.root-dirs

Flink开源参数,用于配置本地checkpoint临时目录。

-

已存在且Flink运行用户具有读写权限的路径

  • 建议配置。如果不配置,默认使用io.tmp.dirs配置的路径。
  • 确保该路径与state.backend.ockdb.localdir配置路径在同一个文件系统下。

state.backend.ockdb.savepoint.sort.local.dir

使用savepoint功能时需要配置,创建savepoint过程产生的用于排序的临时文件存放路径。

“/usr/local/flink/savepoint/tmp”

已存在且Flink运行用户具有读写权限的路径

保证路径已存在且对Flink运行用户有读写权限。

state.backend.ockdb.jni.dbsize

单个OmniStateStore Database实例可使用的内存阈值。

-

系统默认会按Flink框架配置的托管内存计算内存上限

一般情况下不需要单独设置。

state.backend.ockdb.jni.freshtable.size

可变数据缓存层可使用的内存阈值。

-

系统默认会按Flink框架配置的托管内存计算内存上限

一般情况下不需要单独设置。

state.backend.ockdb.jni.slice.watermark.ratio

缓存层通过设定高/低水位线比例阈值触发数据淘汰机制,将冷数据按预设策略迁移至LSM文件存储层,实现存储资源动态平衡。

0.8

大于0且小于1

一般情况下不需要单独设置。

state.backend.ockdb.jni.lsmstore.compaction.switch

LSM文件存储层整理合并开关。LSM文件存储层的分层合并机制通过开关控制数据文件的整理与合并操作,以优化存储性能和空间利用率。

0

  • 0:关闭
  • 1:开启

建议开启。

state.backend.ockdb.lazy.download.switch

从checkpoint恢复时启动懒加载开关。

false

  • false:关闭
  • true:开启

当checkpoint很大时开启,缩短任务恢复为running的所需时间。

state.backend.ockdb.bloom.filter.switch

针对状态key是否启动布隆过滤器的开关。

true

  • false:关闭
  • true:开启

对于存在较多无效key访问的场景建议开启,开启时会增加数十MB内存占用。