生成模板文件
命令功能
生成鲲鹏自动调优的参数空间和应用程序场景模板的配置。配置生成后可运行“devkit kat train -t task.yaml -f param.yaml”开始自动调优。
命令格式
1
|
devkit kat template [-h] [-l {0,1,2,3}] [-o <dir>] (-g | -c <file>) |
参数说明
参数 |
参数选项 |
说明 |
---|---|---|
-h/--help |
- |
可选参数,获取帮助信息。 |
-l/--log-level |
0/1/2/3 |
可选参数,设置日志级别,默认为2。
说明:
新增功能采用更合理设计,默认级别调整为2(WARNING)。
|
-o/--output |
- |
可选参数,设置生成的模板文件的输出路径。 |
-g/--generate |
- |
可选参数,进入模板配置交互界面,生成对应应用的简易模板文件,仅包含任务必须参数。 |
-c/--convert |
- |
可选参数,将简易模板文件转换为全参数的自定义模板文件。
说明:
|
使用示例
以Spark应用为例。
- 生成简易模板。
1
devkit kat template -g -o /opt/template
命令中使用参数“-g”将进入交互界面,用户可选择模板文件需要的基本参数,参数“-o /opt/template”为生成的模板文件存放目录。
- 选择Spark应用。
使用“↑”、“↓”键选择,按“Enter”键选中应用。
图1 选择应用 - 选择应用版本。
按“Enter”键进入版本列表选择需要的版本,按“Space”切换选项前“[ ]”中的参数,Y表示选用该版本。
图2 选择版本1图3 选择版本2 - 选择参数类型。
按“Esc”返回上一级目录,使用“↓”选择ParamSpaces,按“Enter”进入参数类型列表选择参数类型。
Spark为应用参数,System选项为系统参数,Kunpeng uarch为微架构参数。
支持不选择应用参数,仅使用系统参数或微架构参数进行调优。
图4 选择应用参数按“Space”切换选项前“[ ]”中的参数,Y表示选用该参数。
图5 选择需要配置的参数类型 - 选择具体参数。
在启用对应参数后,按“Enter”键进入参数配置界面,选择需要启用的详细参数,目前应用参数和系统参数可自定义配置,可键入“/”进入搜索模式,查看需要配置的参数,也可按“Page Up”键和“Page Down”键翻页查看。
图6 选择应用参数 - 保存配置,生成简易模板文件。
配置完成后按“s”键保存简易模板文件至指定目录下,如果未指定保存目录,将在当前目录下生成名为“template_应用名_YMD_HMS”格式的文件夹。
按任意键可回到保存操作前的界面。
保存成功回显如下:
1
Spark configuration file saved successfully: {'path': '/opt/template/template_Spark_20250515_063634'}
- 退出配置交互界面。
按“q”键选择退出,再按“y”键确认退出;将在终端显示模板文件保存目录。
返回信息如下:
1
[2025-05-15 06:38:31 UTC] [KAT] [message] - The path of the saved file is as follows: ['/opt/template/template_Spark_20250515_063634']
- 查看简易模板文件。
1
ls /opt/template/template_Spark_20250515_063634/
返回信息如下:
1
param_Spark_System.yaml task_Spark_System.yaml
- 任务参数文件(task_Spark.yaml):包含执行任务所需的主机、应用路径、压测等相关信息。
- 应用参数文件(param_Spark.yaml):包含所选择的各个参数空间中的具体参数信息。
已选择的应用参数和系统参数可在模板文件生成目录下的参数文件param_Spark.yaml中查看或修改。
- 查看应用参数文件。
1
cat /opt/template/template_Spark_20250515_063634/param_Spark_System.yaml
param_xxxx.yaml文件内容为交互界面中选择的应用参数(包括默认选择的参数),应用参数文件内容如下:
- 查看并完善任务参数文件。
1
vim /opt/template/template_Spark_20250515_063634/task_Spark_System.yaml
该模板文件中一些任务必选参数值需用户根据实际情况填写,比如环境信息、应用所在服务器、性能测试工具所在服务器及压测指标等,参数说明可在任务模板的yaml文件中查看,任务模板文件如下:
- 保存退出任务参数文件。
完善好基本配置后按“Esc”键,输入:wq!再按“Enter”键保存退出。
- 当简易模板无法满足用户对应用的参数调整时可转换为自定义参数模板文件进行操作。
自定义模板文件中包含任务和应用的全量执行命令,便于调整调优任务的整体执行流程。
1
devkit kat template -c /opt/template/template_Spark_20250515_063634/task_Spark_System.yaml
返回信息:
1
[2025-05-15 06:53:49 UTC] [KAT] [ info ] - /opt/template/template_Spark_20250515_063634/task_Spark_System.yaml has been converted to /opt/template/template_Spark_20250515_063634/task_Spark_System_custom.yaml
转换后的模板文件名称会在原来名称的基础上添加“_custom”内容。
自定义模板文件内容如下: