简体中文
Appearance
简体中文
Appearance
EXPLAIN 语句用于展示查询语句的执行计划,帮助你了解查询的执行路径、数据扫描范围以及可能的性能瓶颈。在需要定位慢查询原因或验证优化效果时,EXPLAIN 是最常用的分析工具之一。
EXPLAIN [ANALYZE] [VERBOSE] SELECTTIP
EXPLAIN:只展示执行计划,不执行查询。EXPLAIN ANALYZE:会真实执行查询,并收集每个计划节点的运行时指标,如耗时、扫描行数和裁剪效果。EXPLAIN VERBOSE:输出更详细的计划信息,适合在排查复杂查询时使用。EXPLAIN ANALYZE
SELECT *
FROM test.device
WHERE sid = 1
AND ts >= '2024-09-01 00:00:00'
AND ts < '2024-09-02 00:00:00'
ORDER BY ts DESC
LIMIT 10;Datalayers 提供 EXPLAIN ANALYZE 功能,用于在执行查询的同时收集并展示查询计划中各个算子的运行时指标。在时序表查询场景中,最值得重点关注的通常是 PartitionedScanExec 和 PartitionScanExec 两个算子,它们分别对应查询计划的前端汇总阶段和后端分区扫描阶段。本文档重点说明这两个算子的指标,并补充基础指标与文件扫描指标的含义和典型值。
面对一棵较长的执行计划时,建议按以下顺序阅读:
PartitionedScanExec,确认查询涉及多少分区,以及前端规划、分区裁剪和结果拉取分别花了多少时间。PartitionScanExec,判断每个分区主要在扫描 Memtable 还是 SST 文件,以及是否发生了有效裁剪。bytes_scanned、row_groups_pruned、page_index_rows_pruned 和 scan_efficiency,判断 I/O 是否存在浪费。如果只想快速判断查询是否命中了时间范围裁剪、分区裁剪或对象存储优化,通常只需要重点查看上述几类指标即可。
PartitionedScanExec 的指标反映查询前端节点的性能情况。该节点负责汇总各个 partition 的查询结果,并协调分布式执行过程。
| Metric 名称 | 含义 | 典型值 |
|---|---|---|
partition_count | 参与本次查询扫描的数据分区数量 | 取决于表的分区数,通常 1~N,值越大说明查询的分区数越多 |
elapsed_plan_transform | 前端进行逻辑计划分析、逻辑优化、物理计划生成、物理优化的总耗时 | 毫秒级,简单查询 <10ms,复杂多级查询可达几十ms |
elapsed_find_pipelines | 拆分出可分布式执行的计划的耗时 | 微秒~毫秒级 |
elapsed_prune_partitions | 根据查询谓词(时间范围、分区键)裁剪不相关分区的耗时 | 微秒~毫秒级,分区越多耗时越高 |
elapsed_pull_partitions | 从各分区拉取结果流的总耗时,反映分布式查询的传输开销,对于集群版则包含额外的网络传输延迟和数据编解码开销 | 毫秒~百毫秒级,受数据量、分区数、网络延迟影响 |
PartitionScanExec 的指标反映查询后端节点的性能情况。该节点负责扫描单个数据分区中的源数据,因此这些指标主要用于判断 Memtable 扫描、SST 文件扫描以及各类裁剪是否生效。
| Metric 名称 | 含义 | 典型值 |
|---|---|---|
memtable_count | 扫描的 Memtable 的数量,格式为 pruned/total,pruned 为被裁剪了的数量,total 为经过简单时间范围过滤后的数量 | 例如 2/10 表示 10 个 Memtable 位于查询时间范围内,其中 2 个被裁剪掉 |
sst_file_count | 扫描的 SST 文件的数量,格式为 pruned/total,pruned 为被裁剪了的数量,total 为经过简单时间范围过滤后的数量 | 例如 2/10 表示 10 个 SST 文件位于查询时间范围内,其中 2 个被裁剪掉 |
range_count | 扫描的数据分组的数量。在 overwrite 写入模式下,时间重叠的数据源(Memtable 或 SST)会被合并为一个 range;在追加写入模式下每个源独立为一个 range | 通常等于或小于源总数 |
elapsed_query_handling | 该分区整体查询处理的总耗时,包括计划解码、分区扫描、源扫描的全部时间 | 毫秒~秒级,取决于数据量和查询复杂度 |
elapsed_partition_scan | 创建 PartitionScanExec 算子的耗时,包含列出数据源、构建扫描上下文等 | 毫秒级,通常在几十ms以内 |
elapsed_plan_decode | 对前端通过网络发送过来的逻辑计划执行反序列化的耗时 | 微秒~毫秒级,通常较小。只对于集群版有意义 |
elapsed_plan_transform | 后端执行物理优化的耗时 | 微秒~毫秒级,通常较小 |
elapsed_scan_memtables | 扫描 Memtable 中数据的实际耗时 | 微秒~毫秒级,受 Memtable 内数据行数影响 |
elapsed_scan_sst_files | 扫描 SST 文件的耗时,包括文件列表、元数据读取、数据读取等 | 毫秒~秒级,受文件数量和数据量影响,通常是查询中最耗时的部分 |
几乎所有算子都会提供一组基础指标,用于衡量算子执行过程中的计算耗时、输出行数和内存使用情况。
| Metric 名称 | 含义 | 典型值 |
|---|---|---|
elapsed_compute | 算子执行计算的总时间,是该算子所有协程计算时间的总和 | 毫秒~秒级,通常是该算子体感耗时的主要参考 |
output_rows | 该算子输出的总行数 | 取决于查询谓词选择性和数据量,0~百万+ |
mem_used | 该算子输出 RecordBatch 所占用的内存总量(字节) | 取决于输出行数和列宽,KB~GB |
这些指标仅在查询实际涉及 SST 文件扫描时出现。
| Metric 名称 | 含义 | 典型值 |
|---|---|---|
files_ranges_pruned | 通过文件级统计信息(分区值、文件 Min/Max 等)裁剪掉的文件/文件段数量。文件裁剪通常在规划阶段完成,但当存在动态过滤器(如 Join 产生的运行时过滤条件)时也可能在执行阶段裁剪 | pruned/total,单次 SST 扫描 total 恒为 1,pruned 为 0(扫描)或 1(完全裁剪),多文件聚合后 pruned 可 > 0 |
row_groups_pruned | 通过 Row Group 级别的列 Min/Max 和 Null Count 统计信息裁剪掉的 Row Group 数量 | pruned/total,total 等于文件中 Row Group 总数,pruned 越多说明统计信息过滤效果越好 |
limit_pruned_row_groups | 由于 LIMIT 下推导致的 Row Group 裁剪(满足所需行数后提前停止读取后续 Row Group) | pruned/total,仅在包含 LIMIT 的查询中出现,pruned 越大说明提前终止得越早 |
page_index_pages_pruned | 通过 Page Index 级别的统计信息裁剪掉的 Page 数量 | pruned/total,仅在文件包含 Page Index 时有效,pruned 越多 I/O 节省越多 |
page_index_rows_pruned | 通过 Page Index 级别的统计信息裁剪掉的行数 | pruned/total,仅在文件包含 Page Index 时有效,pruned 越大说明页级过滤效果越好 |
bytes_scanned | 实际从对象存储物理读取的字节数 | 取决于查询过滤条件和文件大小,KB~GB |
pushdown_rows_pruned | 被行级谓词下推(Parquet 解码期间的 Row Filter)过滤掉的行数 | 取决于谓词选择性和数据分布 |
pushdown_rows_matched | 通过行级谓词下推的行数 | pushdown_rows_matched + pushdown_rows_pruned = 谓词下推评估的总行数 |
row_pushdown_eval_time | 行级谓词下推过滤的评估耗时(纳秒,显示为 ms) | 毫秒级,受影响行数影响 |
statistics_eval_time | Row Group 级别统计信息过滤的评估耗时(纳秒,显示为 ms) | 毫秒级,通常远小于 I/O 时间 |
page_index_eval_time | Page Index 级别过滤的评估耗时(纳秒,显示为 ms) | 毫秒级,仅在使用了 Page Index 时有值 |
metadata_load_time | 读取和解析 Parquet 文件 Footer 元数据的耗时(纳秒,显示为 ms) | 毫秒级,单个文件通常 <10ms |
scan_efficiency | 扫描效率百分比 = bytes_scanned / total_bytes * 100%。total_bytes 为文件未压缩总大小,bytes_scanned 为实际读取的字节数 | 0%~100%,越高说明扫描越"浪费"(读取了更多不需要的数据),越低说明列裁剪和谓词下推效果越好 |
文件扫描指标中包含一系列裁剪类指标:
files_ranges_prunedrow_groups_prunedlimit_pruned_row_groupspage_index_pages_prunedpage_index_rows_pruned它们的格式均为 pruned/total,其中 pruned 表示被裁剪掉的数量,matched 表示实际参与扫描或命中的数量,因此 total = pruned + matched。