相关参考
OmniStateStore配置项说明如表1所示。
归属模块 |
配置项名称 |
简要描述 |
默认值 |
合法值/区间 |
注意事项 |
---|---|---|---|---|---|
Log |
state.backend.ockdb.jni.logfile |
日志路径。 |
“/usr/local/flink/log/kv.log” |
有读写权限的路径下面的文件 |
保证路径已存在且对Flink运行用户有读写权限。 |
state.backend.ockdb.jni.loglevel |
日志打印级别。 |
2 |
数字1 ~ 4 |
日志级别对应关系:
|
|
state.backend.ockdb.jni.lognum |
最大日志文件个数。 |
20 |
大于或等于10,且小于或等于50 |
- |
|
state.backend.ockdb.jni.logsize |
单个日志文件大小。 |
20MB |
大于或等于10MB,且小于或等于50MB |
- |
|
StateStore |
state.backend |
Flink开源参数,用于配置state.backend状态后端。 |
- |
com.huawei.ock.bss.OckDBStateBackendFactory |
保证字符完全正确,区分大小写。 |
state.backend.ockdb.localdir |
OmniStateStore本地数据存储路径。 |
- |
已存在且Flink运行用户具有读写权限的路径 |
|
|
taskmanager.state.local.root-dirs |
Flink开源参数,用于配置本地checkpoint临时目录。 |
- |
已存在且Flink运行用户具有读写权限的路径 |
|
|
state.backend.ockdb.savepoint.sort.local.dir |
使用savepoint功能时需要配置,创建savepoint过程产生的用于排序的临时文件存放路径。 |
“/usr/local/flink/savepoint/tmp” |
已存在且Flink运行用户具有读写权限的路径 |
保证路径已存在且对Flink运行用户有读写权限。 |
|
state.backend.ockdb.jni.dbsize |
单个OmniStateStore Database实例可使用的内存阈值。 |
- |
系统默认会按Flink框架配置的托管内存计算内存上限 |
一般情况下不需要单独设置。 |
|
state.backend.ockdb.jni.freshtable.size |
可变数据缓存层可使用的内存阈值。 |
- |
系统默认会按Flink框架配置的托管内存计算内存上限 |
一般情况下不需要单独设置。 |
|
state.backend.ockdb.jni.slice.watermark.ratio |
缓存层通过设定高/低水位线比例阈值触发数据淘汰机制,将冷数据按预设策略迁移至LSM文件存储层,实现存储资源动态平衡。 |
0.8 |
大于0且小于1 |
一般情况下不需要单独设置。 |
|
state.backend.ockdb.jni.lsmstore.compaction.switch |
LSM文件存储层整理合并开关。LSM文件存储层的分层合并机制通过开关控制数据文件的整理与合并操作,以优化存储性能和空间利用率。 |
0 |
|
建议开启。 |
|
state.backend.ockdb.lazy.download.switch |
从checkpoint恢复时启动懒加载开关。 |
false |
|
当checkpoint很大时开启,缩短任务恢复为running的所需时间。 |
|
state.backend.ockdb.bloom.filter.switch |
针对状态key是否启动布隆过滤器的开关。 |
true |
|
对于存在较多无效key访问的场景建议开启,开启时会增加数十MB内存占用。 |