mstx_preprocessing 使用文档
1. 功能说明
utils/mstx_preprocessing.py 是一个 MSTX Profiling 离线解析脚本,用于在调用 main 之前对 NPU profiling 数据进行离线数据解析,从而生成 mstx_parser.py 需处理的目标文件 trace_view.json
它的作用是:
接收一个 profiling 数据根目录路径
对根目录下的所有文件夹调用
torch_npu.profiler.profiler.analyse,执行离线解析解析失败时输出错误日志
2. 脚本位置
rl_insight/utils/mstx_preprocessing.py
3. 使用方法
python -m rl_insight.utils.mstx_preprocessing <profile-data-path>
4. 参数说明
脚本接收 1 个位置参数:
参数 |
说明 |
|---|---|
|
profiling 数据根目录路径 |
5. profile目录结构示意
profile-data-path 下的目录层级如下:
<profile-data-path>/
└── <role>/
└── *_ascend_pt/
6. 注意事项
profile-data-path目录下需要包含<role>/*_ascend_pt/这一层级如果
<role>或者<role>/*_ascend_pt下存在ASCEND_PROFILER_OUTPUT,会认为该数据已经完成解析,从而跳过对应<role>的数据预处理过程如果解析失败,脚本会打印错误日志