Note
Go to the end to download the full example code.
Excel report produced by the torch exporter#
Every call to to_onnx with a
filename argument saves two artifacts next to the .onnx file:
the ONNX model itself, and
a companion
.xlsxworkbook that contains up to six sheets covering different aspects of the export process.
This example exports a small model, reads the workbook back, and visualises the content of every sheet so you can see what each page looks like.
The six sheets are:
statsOne row per optimisation rule application — pattern name, number of nodes added/removed, and time spent.
stats_aggThe same data aggregated by rule name and sorted by nodes removed (descending).
extraScalar key/value pairs recorded during the export: timing entries, counters, export-option flags, etc.
build_statsTiming and counter entries collected by the low-level
BuildStatsobject embedded in the model container (written only for large_model exports).node_statsPer-op-type breakdown: how many nodes of each type are in the exported model and the estimated FLOPs for each type.
symbolic_flopsPer-node symbolic FLOPs expressions computed by
BasicShapeBuilderwithInferenceMode.COST. When the model’s input shapes contain symbolic dimensions the values are symbolic arithmetic strings; for fully static shapes they are integers.
Imports#
import os
import matplotlib.pyplot as plt
import pandas as pd
import torch
from yobx.torch.interpreter import to_onnx
1. Define and export a model#
We use a small two-layer MLP so that the export produces a non-trivial set of ONNX nodes and a visible optimisation report.
class SmallMLP(torch.nn.Module):
"""Two-layer MLP: Linear → ReLU → Linear."""
def __init__(self, in_features: int = 16, hidden: int = 32, out_features: int = 8):
super().__init__()
self.fc1 = torch.nn.Linear(in_features, hidden)
self.fc2 = torch.nn.Linear(hidden, out_features)
def forward(self, x: torch.Tensor) -> torch.Tensor:
return self.fc2(torch.relu(self.fc1(x)))
model = SmallMLP()
x = torch.randn(4, 16)
onnx_path = "plot_export_report.onnx"
xlsx_path = os.path.splitext(onnx_path)[0] + ".xlsx"
# ``filename`` triggers both the ONNX save and the Excel report.
artifact = to_onnx(model, (x,), filename=onnx_path)
print(f"ONNX saved : {onnx_path}")
print(f"Report saved: {xlsx_path}")
print(f"Nodes in graph: {len(artifact.graph.node)}")
print(f"Report repr : {artifact.report!r}")
ONNX saved : plot_export_report.onnx
Report saved: plot_export_report.xlsx
Nodes in graph: 3
Report repr : ExportReport(n_stats=633, extra=['builder', 'optimization', 'stat_time_export_and_post_processing', 'stat_time_post_process_exported_program', 'stat_time_torch_export_export_oblivious', 'time_export_builder_process', 'time_export_graph_module', 'time_export_to_onnx'], has_build_stats=False, n_node_stats=2, n_symbolic_flops=3)
2. Read every sheet from the workbook#
pandas.read_excel() with sheet_name=None returns an
{sheet_name: DataFrame} mapping so we can inspect every page.
sheets: dict[str, pd.DataFrame] = pd.read_excel(xlsx_path, sheet_name=None)
print(f"\nSheets in workbook: {list(sheets)}")
for name, df in sheets.items():
print(f"\n--- {name} ({df.shape[0]} rows × {df.shape[1]} cols) ---")
print(df.to_string(index=False))
Sheets in workbook: ['stats', 'stats_agg', 'extra', 'node_stats', 'symbolic_flops']
--- stats (633 rows × 13 cols) ---
pattern removed added time_in value iteration instances match_index n_nodes exit_point changed scale algo
dynamic_dimension_naming 0 0 0.000036 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_A-dynamic_dimension_naming 0 0 0.000033 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_A-opt-sub 0 0 0.000035 NaN NaN NaN NaN NaN NaN NaN NaN NaN
remove_identity 2 1 0.000113 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_remove_identity-0 0 0 0.000032 NaN NaN NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000072 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_remove_unused-1 0 0 0.000030 NaN NaN NaN NaN NaN NaN NaN NaN NaN
constant_folding 2 0 0.000602 NaN NaN NaN NaN NaN NaN NaN NaN NaN
apply_constant_folding_new_inits 0 0 NaN 2.0 0.0 NaN NaN NaN NaN NaN NaN NaN
apply_constant_folding__Transpose 0 0 NaN 2.0 0.0 NaN NaN NaN NaN NaN NaN NaN
check_constant_folding-2 0 0 0.000033 NaN NaN NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000059 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_remove_unused-3 0 0 0.000024 NaN NaN NaN NaN NaN NaN NaN NaN NaN
patterns 0 0 0.018175 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_pattern_00 0 0 0.000044 NaN -1.0 NaN NaN NaN NaN NaN NaN NaN
match_BatchNormalizationPattern 0 0 0.000019 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_BatchNormalizationTrainingPattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastPattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastPattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatGatherPattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatReshapePattern 0 0 0.000012 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConvBiasNullPattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_PadConvPattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandPattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandUnsqueezeExpandPattern 0 0 0.000008 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GeluPattern 0 0 0.002184 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_IdentityPattern 0 0 0.000370 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LeakyReluPattern 0 0 0.002014 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulUnsqueezeUnsqueezePattern 0 0 0.000014 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapePattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedReshapeIsSqueezePattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedStaticExpandPattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedEditDistanceReshapePattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedIdentityPattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapedBasedReshapePattern 0 0 0.000008 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedSameChildrenPattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedShapeShapeAddPattern 0 0 0.000020 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeReshapePattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SameChildrenPattern 0 0 0.000022 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SameChildrenFromInputPattern 0 0 0.000094 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SoftmaxCrossEntropyLossCastPattern 0 0 0.002468 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeAddPattern 0 0 0.000031 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeBinaryUnsqueezePattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeUnsqueezePattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_StaticConcatReshapePattern 0 0 0.000011 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapExpandReshapePattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapExpandUnsqueezePattern 0 0 0.000008 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapUnaryPattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapUnsqueezeTransposePattern 0 0 0.000008 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeGatherPattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeReshapeTransposePattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeTransposePattern 0 0 0.000008 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeOrSqueezeReshapePattern 0 0 0.000009 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeReshapePattern 0 0 0.000008 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeUnsqueezePattern 0 0 0.000008 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionAttentionPattern 0 0 0.000011 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionAttentionGQAPattern 0 0 0.000010 NaN 0.0 0.0 0.0 NaN NaN NaN NaN NaN
check_pattern_A20 0 0 0.000038 NaN 0.0 NaN NaN NaN NaN NaN NaN NaN
remove_duplicated_shape 0 0 0.000005 NaN 0.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BD0 0 0 0.000022 NaN 0.0 NaN NaN NaN NaN NaN NaN NaN
remove_identity_nodes 0 0 0.000132 NaN 0.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BI0 0 0 0.000030 NaN 0.0 NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000096 NaN 0.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BUS0 0 0 0.000030 NaN 0.0 NaN NaN NaN NaN NaN NaN NaN
build_graph_for_pattern 0 0 0.000044 NaN 0.0 NaN NaN NaN NaN NaN NaN NaN
iteration_0 0 0 0.008137 NaN 0.0 NaN NaN 5.0 NaN NaN NaN NaN
match_BatchNormalizationPattern 0 0 0.000013 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_BatchNormalizationTrainingPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastLayerNormalizationCastPattern 0 0 0.000011 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastBinaryPattern 0 0 0.000042 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastOpCastPattern 0 0 0.000027 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ClipClipPattern 0 0 0.000011 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatEmptyPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatGatherPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatReshapePattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatTwiceUnaryPattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConstantToInitializerPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConvBiasNullPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_PadConvPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_DropoutPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandBroadcastPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandSwapPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandUnsqueezeExpandPattern 0 0 0.000007 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GathersSplitPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GeluPattern 0 0 0.000022 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_IdentityPattern 0 0 0.000289 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationPattern 0 0 0.000014 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationScalePattern 0 0 0.000014 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LeakyReluPattern 0 0 0.000021 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MaxReluPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulMulMulScalarPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulUnsqueezeUnsqueezePattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotNotPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotWherePattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceArgTopKPattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceReshapePattern 0 0 0.000012 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceSumNormalizePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeMatMulReshapePattern 0 0 0.000050 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_Reshape2Of3Pattern 0 0 0.000034 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeReshapeBinaryPattern 0 0 0.000024 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GemmTransposePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MatMulReshape2Of3Pattern 0 0 0.000034 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulMulMatMulPattern 0 0 0.000025 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedReshapeIsSqueezePattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedStaticExpandPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedConcatExpandPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedEditDistanceReshapePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedIdentityPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastPattern 0 0 0.000026 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastMatMulPattern 0 0 0.000022 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandCastWhereSwapPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandSwapPattern 0 0 0.000022 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedMatMulToMulPattern 0 0 0.000022 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapedBasedReshapePattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedSameChildrenPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedShapeShapeAddPattern 0 0 0.000013 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeReshapePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RotaryEmbeddingPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SameChildrenPattern 0 0 0.000020 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SameChildrenFromInputPattern 0 0 0.000019 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SequenceConstructAtPattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SplitToSequenceSequenceAtPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SliceSlicePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SlicesSplitPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SoftmaxCrossEntropyLossCastPattern 0 0 0.000022 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SplitConcatPattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeAddPattern 0 0 0.000018 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeBinaryUnsqueezePattern 0 0 0.000007 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeUnsqueezePattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_StaticConcatReshapePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_Sub1MulPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapExpandReshapePattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapExpandUnsqueezePattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapRangeAddScalarPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapUnaryPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapUnsqueezeTransposePattern 0 0 0.000007 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwitchOrderBinaryPattern 0 0 0.000022 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwitchReshapeActivationPattern 0 0 0.000017 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeEqualReshapePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeGatherPattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeMatMulPattern 0 0 0.000032 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeReshapeMatMulPattern 0 0 0.000022 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeReshapeTransposePattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeTransposePattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeEqualPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeOrSqueezeReshapePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeReshapePattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeUnsqueezePattern 0 0 0.000008 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_WhereAddPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RotaryConcatPartPattern 0 0 0.000014 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionAttentionPattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionAttentionGQAPattern 0 0 0.000011 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskPattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskMulAddPattern 0 0 0.000064 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionCosSinCachePattern 0 0 0.000014 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionHalfRotaryEmbeddingPattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RMSNormalizationPattern 0 0 0.000009 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RMSNormalizationMulPattern 0 0 0.000010 NaN 1.0 0.0 0.0 NaN NaN NaN NaN NaN
check_pattern_A20 0 0 0.000043 NaN 1.0 NaN NaN NaN NaN NaN NaN NaN
remove_duplicated_shape 0 0 0.000005 NaN 1.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BD0 0 0 0.000023 NaN 1.0 NaN NaN NaN NaN NaN NaN NaN
remove_identity_nodes 0 0 0.000082 NaN 1.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BI0 0 0 0.000023 NaN 1.0 NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000064 NaN 1.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BUS0 0 0 0.000022 NaN 1.0 NaN NaN NaN NaN NaN NaN NaN
build_graph_for_pattern 0 0 0.000047 NaN 1.0 NaN NaN NaN NaN NaN NaN NaN
iteration_1 0 0 0.002191 NaN 1.0 NaN NaN 5.0 NaN NaN NaN NaN
match_BatchNormalizationPattern 0 0 0.000013 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_BatchNormalizationTrainingPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastLayerNormalizationCastPattern 0 0 0.000009 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastBinaryPattern 0 0 0.000037 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastPattern 0 0 0.000009 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastOpCastPattern 0 0 0.000024 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ClipClipPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatEmptyPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatGatherPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatReshapePattern 0 0 0.000009 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatTwiceUnaryPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConstantToInitializerPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConvBiasNullPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_PadConvPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_DropoutPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandBroadcastPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandSwapPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandUnsqueezeExpandPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GathersSplitPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GeluPattern 0 0 0.000021 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_IdentityPattern 0 0 0.000137 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationPattern 0 0 0.000009 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationScalePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LeakyReluPattern 0 0 0.000019 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MaxReluPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulMulMulScalarPattern 0 0 0.000009 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulUnsqueezeUnsqueezePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotNotPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotWherePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceArgTopKPattern 0 0 0.000009 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceReshapePattern 0 0 0.000009 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceSumNormalizePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeMatMulReshapePattern 0 0 0.000017 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_Reshape2Of3Pattern 0 0 0.000026 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeReshapeBinaryPattern 0 0 0.000019 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GemmTransposePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MatMulReshape2Of3Pattern 0 0 0.000030 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulMulMatMulPattern 0 0 0.000019 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedReshapeIsSqueezePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedStaticExpandPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedConcatExpandPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedEditDistanceReshapePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedIdentityPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastPattern 0 0 0.000023 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastMatMulPattern 0 0 0.000020 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandCastWhereSwapPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandSwapPattern 0 0 0.000020 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedMatMulToMulPattern 0 0 0.000020 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapedBasedReshapePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedSameChildrenPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedShapeShapeAddPattern 0 0 0.000012 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeReshapePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RotaryEmbeddingPattern 0 0 0.000006 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SameChildrenPattern 0 0 0.000018 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SameChildrenFromInputPattern 0 0 0.000015 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SequenceConstructAtPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SplitToSequenceSequenceAtPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SliceSlicePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SlicesSplitPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SoftmaxCrossEntropyLossCastPattern 0 0 0.000018 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SplitConcatPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeAddPattern 0 0 0.000015 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeBinaryUnsqueezePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeUnsqueezePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_StaticConcatReshapePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_Sub1MulPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapExpandReshapePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapExpandUnsqueezePattern 0 0 0.000006 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapRangeAddScalarPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapUnaryPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapUnsqueezeTransposePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwitchOrderBinaryPattern 0 0 0.000019 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwitchReshapeActivationPattern 0 0 0.000014 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeEqualReshapePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeGatherPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeMatMulPattern 0 0 0.000026 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeReshapeMatMulPattern 0 0 0.000019 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeReshapeTransposePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeTransposePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeEqualPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeOrSqueezeReshapePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeReshapePattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeUnsqueezePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_WhereAddPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RotaryConcatPartPattern 0 0 0.000013 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionAttentionPattern 0 0 0.000009 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionAttentionGQAPattern 0 0 0.000009 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskMulAddPattern 0 0 0.000013 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionCosSinCachePattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionHalfRotaryEmbeddingPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RMSNormalizationPattern 0 0 0.000007 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RMSNormalizationMulPattern 0 0 0.000006 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
match_AttentionGQAPattern 0 0 0.000008 NaN 2.0 0.0 0.0 NaN NaN NaN NaN NaN
check_pattern_A20 0 0 0.000032 NaN 2.0 NaN NaN NaN NaN NaN NaN NaN
remove_duplicated_shape 0 0 0.000004 NaN 2.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BD0 0 0 0.000022 NaN 2.0 NaN NaN NaN NaN NaN NaN NaN
remove_identity_nodes 0 0 0.000064 NaN 2.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BI0 0 0 0.000021 NaN 2.0 NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000057 NaN 2.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BUS0 0 0 0.000066 NaN 2.0 NaN NaN NaN NaN NaN NaN NaN
build_graph_for_pattern 0 0 0.000046 NaN 2.0 NaN NaN NaN NaN NaN NaN NaN
iteration_2 0 0 0.001704 NaN 2.0 NaN NaN 5.0 NaN NaN NaN NaN
match_BatchNormalizationPattern 0 0 0.000013 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_BatchNormalizationTrainingPattern 0 0 0.000009 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastLayerNormalizationCastPattern 0 0 0.000009 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastBinaryPattern 0 0 0.000035 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastPattern 0 0 0.000008 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastOpCastPattern 0 0 0.000022 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ClipClipPattern 0 0 0.000008 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatEmptyPattern 0 0 0.000008 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatGatherPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatReshapePattern 0 0 0.000008 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatTwiceUnaryPattern 0 0 0.000008 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConstantToInitializerPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConvBiasNullPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_PadConvPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_DropoutPattern 0 0 0.000006 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandBroadcastPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandSwapPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandUnsqueezeExpandPattern 0 0 0.000042 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GathersSplitPattern 0 0 0.000015 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GeluPattern 0 0 0.000022 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_IdentityPattern 0 0 0.000115 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationPattern 0 0 0.000009 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationScalePattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LeakyReluPattern 0 0 0.000018 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MaxReluPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulMulMulScalarPattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulUnsqueezeUnsqueezePattern 0 0 0.000008 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotNotPattern 0 0 0.000009 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotWherePattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceArgTopKPattern 0 0 0.000008 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceReshapePattern 0 0 0.000008 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceSumNormalizePattern 0 0 0.000007 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapePattern 0 0 0.000008 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeMatMulReshapePattern 0 0 0.000017 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_Reshape2Of3Pattern 0 0 0.000027 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeReshapeBinaryPattern 0 0 0.000019 NaN 3.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MatMulAddPattern 0 0 0.000070 NaN 3.0 2.0 2.0 NaN NaN NaN NaN NaN
match_GemmTransposePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_MatMulReshape2Of3Pattern 0 0 0.000031 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_MulMulMatMulPattern 0 0 0.000020 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedReshapeIsSqueezePattern 0 0 0.000009 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedStaticExpandPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedConcatExpandPattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedEditDistanceReshapePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedIdentityPattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastPattern 0 0 0.000023 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastMatMulPattern 0 0 0.000021 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandCastWhereSwapPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandSwapPattern 0 0 0.000045 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedMatMulToMulPattern 0 0 0.000021 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapedBasedReshapePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedSameChildrenPattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedShapeShapeAddPattern 0 0 0.000012 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ReshapeReshapePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_RotaryEmbeddingPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SameChildrenPattern 0 0 0.000018 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SameChildrenFromInputPattern 0 0 0.000015 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SequenceConstructAtPattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SplitToSequenceSequenceAtPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SliceSlicePattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SlicesSplitPattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SoftmaxCrossEntropyLossCastPattern 0 0 0.000021 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SplitConcatPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SqueezeAddPattern 0 0 0.000016 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SqueezeBinaryUnsqueezePattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SqueezeUnsqueezePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_StaticConcatReshapePattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_Sub1MulPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapExpandReshapePattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapExpandUnsqueezePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapRangeAddScalarPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapUnaryPattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapUnsqueezeTransposePattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwitchOrderBinaryPattern 0 0 0.000019 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwitchReshapeActivationPattern 0 0 0.000015 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeEqualReshapePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeGatherPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeMatMulPattern 0 0 0.000025 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeReshapeMatMulPattern 0 0 0.000019 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeReshapeTransposePattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeTransposePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_UnsqueezeEqualPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_UnsqueezeOrSqueezeReshapePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_UnsqueezeReshapePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_UnsqueezeUnsqueezePattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_WhereAddPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_RotaryConcatPartPattern 0 0 0.000012 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionAttentionPattern 0 0 0.000010 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionAttentionGQAPattern 0 0 0.000010 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskPattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskMulAddPattern 0 0 0.000014 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionCosSinCachePattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionHalfRotaryEmbeddingPattern 0 0 0.000008 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_RMSNormalizationPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_RMSNormalizationMulPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
match_AttentionGQAPattern 0 0 0.000007 NaN 3.0 0.0 2.0 NaN NaN NaN NaN NaN
insert_and_remove_nodes 0 0 0.000125 NaN NaN NaN NaN NaN insert_at NaN NaN NaN
apply_MatMulAddPattern 2 1 0.000260 NaN 3.0 1.0 0.0 NaN NaN NaN NaN NaN
check_pattern_A10 0 0 0.000002 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
insert_and_remove_nodes 0 0 0.000071 NaN NaN NaN NaN NaN insert_at NaN NaN NaN
apply_MatMulAddPattern 2 1 0.000151 NaN 3.0 1.0 1.0 NaN NaN NaN NaN NaN
check_pattern_A10 0 0 0.000001 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_A20 0 0 0.000022 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
remove_duplicated_shape 0 0 0.000003 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BD0 0 0 0.000060 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
remove_identity_nodes 0 0 0.000060 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BI0 0 0 0.000019 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000046 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BUS0 0 0 0.000016 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
build_graph_for_pattern 0 0 0.000035 NaN 3.0 NaN NaN NaN NaN NaN NaN NaN
iteration_3 0 0 0.002193 NaN 3.0 NaN NaN 3.0 NaN NaN NaN NaN
match_BatchNormalizationPattern 0 0 0.000011 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_BatchNormalizationTrainingPattern 0 0 0.000007 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastLayerNormalizationCastPattern 0 0 0.000007 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastPattern 0 0 0.000006 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastBinaryPattern 0 0 0.000006 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastPattern 0 0 0.000006 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastOpCastPattern 0 0 0.000007 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ClipClipPattern 0 0 0.000006 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatEmptyPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatGatherPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatReshapePattern 0 0 0.000006 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatTwiceUnaryPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConstantToInitializerPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConvBiasNullPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_PadConvPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_DropoutPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandBroadcastPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandSwapPattern 0 0 0.000004 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandUnsqueezeExpandPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GathersSplitPattern 0 0 0.000006 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GeluPattern 0 0 0.000015 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_IdentityPattern 0 0 0.000007 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationScalePattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LeakyReluPattern 0 0 0.000012 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MaxReluPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulMulMulScalarPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulUnsqueezeUnsqueezePattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotNotPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotWherePattern 0 0 0.000004 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceArgTopKPattern 0 0 0.000006 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceReshapePattern 0 0 0.000006 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceSumNormalizePattern 0 0 0.000004 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapePattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeMatMulReshapePattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_Reshape2Of3Pattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeReshapeBinaryPattern 0 0 0.000005 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MatMulAddPattern 0 0 0.000032 NaN 4.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GemmTransposePattern 0 0 0.000168 NaN 4.0 2.0 2.0 NaN NaN NaN NaN NaN
match_MatMulReshape2Of3Pattern 0 0 0.000007 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_MulMulMatMulPattern 0 0 0.000006 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedReshapeIsSqueezePattern 0 0 0.000006 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedStaticExpandPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedConcatExpandPattern 0 0 0.000006 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedEditDistanceReshapePattern 0 0 0.000006 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedIdentityPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastPattern 0 0 0.000006 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastMatMulPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandCastWhereSwapPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandSwapPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedMatMulToMulPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapedBasedReshapePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedSameChildrenPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ShapeBasedShapeShapeAddPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_ReshapeReshapePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_RotaryEmbeddingPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SameChildrenPattern 0 0 0.000014 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SameChildrenFromInputPattern 0 0 0.000011 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SequenceConstructAtPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SplitToSequenceSequenceAtPattern 0 0 0.000004 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SliceSlicePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SlicesSplitPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SoftmaxCrossEntropyLossCastPattern 0 0 0.000014 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SplitConcatPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SqueezeAddPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SqueezeBinaryUnsqueezePattern 0 0 0.000004 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SqueezeUnsqueezePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_StaticConcatReshapePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_Sub1MulPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapExpandReshapePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapExpandUnsqueezePattern 0 0 0.000004 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapRangeAddScalarPattern 0 0 0.000004 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapUnaryPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwapUnsqueezeTransposePattern 0 0 0.000004 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwitchOrderBinaryPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_SwitchReshapeActivationPattern 0 0 0.000014 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeEqualReshapePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeGatherPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeMatMulPattern 0 0 0.000024 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeReshapeMatMulPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeReshapeTransposePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_TransposeTransposePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_UnsqueezeEqualPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_UnsqueezeOrSqueezeReshapePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_UnsqueezeReshapePattern 0 0 0.000006 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_UnsqueezeUnsqueezePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_WhereAddPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_RotaryConcatPartPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionAttentionPattern 0 0 0.000006 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionAttentionGQAPattern 0 0 0.000007 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskMulAddPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionCosSinCachePattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_FunctionHalfRotaryEmbeddingPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_RMSNormalizationPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_RMSNormalizationMulPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
match_AttentionGQAPattern 0 0 0.000005 NaN 4.0 0.0 2.0 NaN NaN NaN NaN NaN
insert_and_remove_nodes 0 0 0.000163 NaN NaN NaN NaN NaN insert_at NaN NaN NaN
apply_GemmTransposePattern 1 2 0.000368 NaN 4.0 1.0 0.0 NaN NaN NaN NaN NaN
check_pattern_A10 0 0 0.000001 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
insert_and_remove_nodes 0 0 0.000126 NaN NaN NaN NaN NaN insert_at NaN NaN NaN
apply_GemmTransposePattern 1 2 0.000255 NaN 4.0 1.0 1.0 NaN NaN NaN NaN NaN
check_pattern_A10 0 0 0.000001 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_A20 0 0 0.000031 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
remove_duplicated_shape 0 0 0.000004 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BD0 0 0 0.000021 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
remove_identity_nodes 0 0 0.000062 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BI0 0 0 0.000021 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000058 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BUS0 0 0 0.000067 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
build_graph_for_pattern 0 0 0.000049 NaN 4.0 NaN NaN NaN NaN NaN NaN NaN
iteration_4 0 0 0.001937 NaN 4.0 NaN NaN 5.0 NaN NaN NaN NaN
match_BatchNormalizationPattern 0 0 0.000013 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_BatchNormalizationTrainingPattern 0 0 0.000009 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastLayerNormalizationCastPattern 0 0 0.000009 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastBinaryPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastCastPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_CastOpCastPattern 0 0 0.000009 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ClipClipPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatEmptyPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatGatherPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatReshapePattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConcatTwiceUnaryPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConstantToInitializerPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ConvBiasNullPattern 0 0 0.000006 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_PadConvPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_DropoutPattern 0 0 0.000006 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandBroadcastPattern 0 0 0.000009 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandSwapPattern 0 0 0.000006 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ExpandUnsqueezeExpandPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GathersSplitPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GeluPattern 0 0 0.000019 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_IdentityPattern 0 0 0.000031 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LayerNormalizationScalePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_LeakyReluPattern 0 0 0.000017 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MaxReluPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulMulMulScalarPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulUnsqueezeUnsqueezePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotNotPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_NotWherePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceArgTopKPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceReshapePattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReduceSumNormalizePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapePattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeMatMulReshapePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_Reshape2Of3Pattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeReshapeBinaryPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MatMulAddPattern 0 0 0.000043 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_GemmTransposePattern 0 0 0.000040 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MatMulReshape2Of3Pattern 0 0 0.000009 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_MulMulMatMulPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedReshapeIsSqueezePattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedStaticExpandPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedConcatExpandPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedEditDistanceReshapePattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedIdentityPattern 0 0 0.000013 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandBroadcastMatMulPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandCastWhereSwapPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedExpandSwapPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedMatMulToMulPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapedBasedReshapePattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedSameChildrenPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ShapeBasedShapeShapeAddPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_ReshapeReshapePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RotaryEmbeddingPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SameChildrenPattern 0 0 0.000018 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SameChildrenFromInputPattern 0 0 0.000018 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SequenceConstructAtPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SplitToSequenceSequenceAtPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SliceSlicePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SlicesSplitPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SoftmaxCrossEntropyLossCastPattern 0 0 0.000026 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SplitConcatPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeAddPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeBinaryUnsqueezePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SqueezeUnsqueezePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_StaticConcatReshapePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_Sub1MulPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapExpandReshapePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapExpandUnsqueezePattern 0 0 0.000006 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapRangeAddScalarPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapUnaryPattern 0 0 0.000026 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwapUnsqueezeTransposePattern 0 0 0.000015 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwitchOrderBinaryPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_SwitchReshapeActivationPattern 0 0 0.000014 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeEqualReshapePattern 0 0 0.000035 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeGatherPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeMatMulPattern 0 0 0.000062 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeReshapeMatMulPattern 0 0 0.000009 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeReshapeTransposePattern 0 0 0.000014 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_TransposeTransposePattern 0 0 0.000014 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeEqualPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeOrSqueezeReshapePattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeReshapePattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_UnsqueezeUnsqueezePattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_WhereAddPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RotaryConcatPartPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionAttentionPattern 0 0 0.000009 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionAttentionGQAPattern 0 0 0.000011 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskPattern 0 0 0.000010 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionCausalMaskMulAddPattern 0 0 0.000008 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionCosSinCachePattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_FunctionHalfRotaryEmbeddingPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RMSNormalizationPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_RMSNormalizationMulPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
match_AttentionGQAPattern 0 0 0.000007 NaN 5.0 0.0 0.0 NaN NaN NaN NaN NaN
check_pattern_A20 0 0 0.000032 NaN 5.0 NaN NaN NaN NaN NaN NaN NaN
remove_duplicated_shape 0 0 0.000004 NaN 5.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BD0 0 0 0.000022 NaN 5.0 NaN NaN NaN NaN NaN NaN NaN
remove_identity_nodes 0 0 0.000157 NaN 5.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BI0 0 0 0.000032 NaN 5.0 NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000061 NaN 5.0 NaN NaN NaN NaN NaN NaN NaN
check_pattern_BUS0 0 0 0.000022 NaN 5.0 NaN NaN NaN NaN NaN NaN NaN
build_graph_for_pattern 0 0 0.000047 NaN 5.0 NaN NaN NaN NaN NaN NaN NaN
check_patterns-4 0 0 0.000034 NaN NaN NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000058 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_remove_unused-5 0 0 0.000025 NaN NaN NaN NaN NaN NaN NaN NaN NaN
remove_identity 0 0 0.000050 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_remove_identity-6 0 0 0.000023 NaN NaN NaN NaN NaN NaN NaN NaN NaN
constant_folding 2 0 0.000597 NaN NaN NaN NaN NaN NaN NaN NaN NaN
apply_constant_folding_new_inits 0 0 NaN 2.0 0.0 NaN NaN NaN NaN NaN NaN NaN
apply_constant_folding__Transpose 0 0 NaN 2.0 0.0 NaN NaN NaN NaN NaN NaN NaN
check_constant_folding-7 0 0 0.000030 NaN NaN NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000052 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_remove_unused-8 0 0 0.000019 NaN NaN NaN NaN NaN NaN NaN NaN NaN
remove_duplicated_initializer 0 0 0.000010 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_remove_duplicated_initializer-9 0 0 0.000018 NaN NaN NaN NaN NaN NaN NaN NaN NaN
remove_identity 0 0 0.000042 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_remove_identity-10 0 0 0.000016 NaN NaN NaN NaN NaN NaN NaN NaN NaN
remove_unused 0 0 0.000037 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_remove_unused-11 0 0 0.000015 NaN NaN NaN NaN NaN NaN NaN NaN NaN
order 0 0 0.000088 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_orderA 0 0 0.000019 NaN NaN NaN NaN NaN NaN NaN NaN NaN
check_orderL 0 0 0.000016 NaN NaN NaN NaN NaN NaN NaN NaN NaN
shape_order 0 0 0.000057 NaN NaN NaN NaN NaN NaN 0.0 0.0 NaN
order 0 0 NaN NaN NaN NaN NaN NaN NaN NaN NaN 2.0
check_order-12 0 0 0.000016 NaN NaN NaN NaN NaN NaN NaN NaN NaN
optimization 5 0 0.020486 NaN NaN NaN NaN NaN NaN NaN NaN NaN
--- stats_agg (143 rows × 4 cols) ---
pattern added removed time_in
optimization 0 5 0.020486
constant_folding 0 4 0.001199
apply_MatMulAddPattern 2 4 0.000411
apply_GemmTransposePattern 4 2 0.000623
remove_identity 1 2 0.000205
apply_constant_folding_new_inits 0 0 0.000000
apply_constant_folding__Transpose 0 0 0.000000
check_constant_folding-2 0 0 0.000033
check_constant_folding-7 0 0 0.000030
check_order-12 0 0 0.000016
check_orderA 0 0 0.000019
check_orderL 0 0 0.000016
build_graph_for_pattern 0 0 0.000268
check_A-dynamic_dimension_naming 0 0 0.000033
check_A-opt-sub 0 0 0.000035
check_pattern_A20 0 0 0.000197
check_pattern_A10 0 0 0.000005
check_pattern_00 0 0 0.000044
check_pattern_BD0 0 0 0.000170
check_remove_duplicated_initializer-9 0 0 0.000018
check_remove_identity-0 0 0 0.000032
check_pattern_BUS0 0 0 0.000222
check_pattern_BI0 0 0 0.000144
check_remove_identity-6 0 0 0.000023
check_remove_unused-1 0 0 0.000030
check_remove_unused-3 0 0 0.000024
check_remove_unused-11 0 0 0.000015
check_remove_unused-5 0 0 0.000025
check_remove_unused-8 0 0 0.000019
check_remove_identity-10 0 0 0.000016
check_patterns-4 0 0 0.000034
iteration_0 0 0 0.008137
iteration_1 0 0 0.002191
iteration_2 0 0 0.001704
iteration_3 0 0 0.002193
iteration_4 0 0 0.001937
match_AttentionGQAPattern 0 0 0.000027
match_BatchNormalizationPattern 0 0 0.000082
match_BatchNormalizationTrainingPattern 0 0 0.000052
match_CastCastBinaryPattern 0 0 0.000127
match_CastCastPattern 0 0 0.000048
match_CastLayerNormalizationCastPattern 0 0 0.000045
match_CastOpCastPattern 0 0 0.000090
match_CastPattern 0 0 0.000047
match_ClipClipPattern 0 0 0.000041
dynamic_dimension_naming 0 0 0.000036
insert_and_remove_nodes 0 0 0.000485
match_ConcatReshapePattern 0 0 0.000053
match_ConcatTwiceUnaryPattern 0 0 0.000038
match_ConstantToInitializerPattern 0 0 0.000034
match_ConvBiasNullPattern 0 0 0.000043
match_DropoutPattern 0 0 0.000031
match_ExpandBroadcastPattern 0 0 0.000038
match_ExpandPattern 0 0 0.000042
match_ExpandSwapPattern 0 0 0.000032
match_ExpandUnsqueezeExpandPattern 0 0 0.000074
match_FunctionAttentionGQAPattern 0 0 0.000059
match_FunctionAttentionPattern 0 0 0.000056
match_FunctionCausalMaskMulAddPattern 0 0 0.000105
match_FunctionCausalMaskPattern 0 0 0.000041
match_FunctionCosSinCachePattern 0 0 0.000041
match_FunctionHalfRotaryEmbeddingPattern 0 0 0.000037
match_GathersSplitPattern 0 0 0.000044
match_GeluPattern 0 0 0.002283
match_GemmTransposePattern 0 0 0.000234
match_IdentityPattern 0 0 0.000949
match_LayerNormalizationPattern 0 0 0.000044
match_LayerNormalizationScalePattern 0 0 0.000040
match_LeakyReluPattern 0 0 0.002101
match_MatMulAddPattern 0 0 0.000145
match_MatMulReshape2Of3Pattern 0 0 0.000112
match_MaxReluPattern 0 0 0.000034
match_MulMulMatMulPattern 0 0 0.000079
match_MulMulMulScalarPattern 0 0 0.000037
match_MulUnsqueezeUnsqueezePattern 0 0 0.000048
match_NotNotPattern 0 0 0.000037
match_NotWherePattern 0 0 0.000033
match_ConcatEmptyPattern 0 0 0.000037
match_ConcatGatherPattern 0 0 0.000045
match_RMSNormalizationMulPattern 0 0 0.000035
match_PadConvPattern 0 0 0.000044
match_RMSNormalizationPattern 0 0 0.000036
match_ReduceArgTopKPattern 0 0 0.000040
match_Reshape2Of3Pattern 0 0 0.000100
match_ReshapeMatMulReshapePattern 0 0 0.000096
match_ReduceReshapePattern 0 0 0.000044
match_ReduceSumNormalizePattern 0 0 0.000034
match_ReshapeReshapePattern 0 0 0.000046
match_RotaryConcatPartPattern 0 0 0.000051
match_RotaryEmbeddingPattern 0 0 0.000033
match_SameChildrenFromInputPattern 0 0 0.000172
match_SameChildrenPattern 0 0 0.000110
match_SequenceConstructAtPattern 0 0 0.000039
match_ReshapePattern 0 0 0.000048
match_ReshapeReshapeBinaryPattern 0 0 0.000074
match_ShapeBasedExpandBroadcastMatMulPattern 0 0 0.000076
match_ShapeBasedExpandBroadcastPattern 0 0 0.000087
match_ShapeBasedExpandCastWhereSwapPattern 0 0 0.000036
match_ShapeBasedExpandSwapPattern 0 0 0.000099
match_ShapeBasedIdentityPattern 0 0 0.000052
match_ShapeBasedMatMulToMulPattern 0 0 0.000074
match_ShapeBasedReshapeIsSqueezePattern 0 0 0.000051
match_ShapeBasedSameChildrenPattern 0 0 0.000046
match_ShapeBasedShapeShapeAddPattern 0 0 0.000069
match_ShapeBasedStaticExpandPattern 0 0 0.000045
match_ShapedBasedReshapePattern 0 0 0.000044
match_SliceSlicePattern 0 0 0.000034
match_SlicesSplitPattern 0 0 0.000036
match_SoftmaxCrossEntropyLossCastPattern 0 0 0.002569
match_ShapeBasedConcatExpandPattern 0 0 0.000039
match_ShapeBasedEditDistanceReshapePattern 0 0 0.000049
match_SplitToSequenceSequenceAtPattern 0 0 0.000033
match_SplitConcatPattern 0 0 0.000036
match_SqueezeAddPattern 0 0 0.000091
match_SqueezeBinaryUnsqueezePattern 0 0 0.000043
match_Sub1MulPattern 0 0 0.000036
match_SwapExpandReshapePattern 0 0 0.000042
match_SqueezeUnsqueezePattern 0 0 0.000045
match_StaticConcatReshapePattern 0 0 0.000047
match_SwapUnaryPattern 0 0 0.000063
match_SwapUnsqueezeTransposePattern 0 0 0.000049
match_SwitchOrderBinaryPattern 0 0 0.000073
match_SwitchReshapeActivationPattern 0 0 0.000073
match_TransposeEqualReshapePattern 0 0 0.000064
match_TransposeGatherPattern 0 0 0.000042
match_SwapExpandUnsqueezePattern 0 0 0.000041
match_SwapRangeAddScalarPattern 0 0 0.000035
match_TransposeReshapeMatMulPattern 0 0 0.000074
match_TransposeMatMulPattern 0 0 0.000170
match_UnsqueezeEqualPattern 0 0 0.000034
match_TransposeReshapeTransposePattern 0 0 0.000051
match_UnsqueezeOrSqueezeReshapePattern 0 0 0.000048
match_UnsqueezeReshapePattern 0 0 0.000047
match_UnsqueezeUnsqueezePattern 0 0 0.000044
match_TransposeTransposePattern 0 0 0.000051
match_WhereAddPattern 0 0 0.000036
order 0 0 0.000088
remove_duplicated_initializer 0 0 0.000010
patterns 0 0 0.018175
remove_duplicated_shape 0 0 0.000025
remove_identity_nodes 0 0 0.000557
remove_unused 0 0 0.000660
shape_order 0 0 0.000057
--- extra (8 rows × 2 cols) ---
key value
builder {'aten': {<OpOverload(op='aten.linear', overload='default')>: 2, <OpOverload(op='aten.relu', overload='default')>: 1}}
time_export_graph_module 0.437064
stat_time_export_and_post_processing 0.081856
stat_time_post_process_exported_program 0.000372
stat_time_torch_export_export_oblivious 0.081347
time_export_builder_process 0.00817
optimization ExportReport(n_stats=633, extra=['builder', 'optimization', 'stat_time_export_and_post_processing', 'stat_time_post_process_exported_program', 'stat_time_torch_export_export_oblivious', 'time_export_builder_process', 'time_export_graph_module', 'time_export_to_onnx'], has_build_stats=False, n_node_stats=2, n_symbolic_flops=3)
time_export_to_onnx 0.023139
--- node_stats (2 rows × 3 cols) ---
op_type count flops
Gemm 2 6304
Relu 1 128
--- symbolic_flops (3 rows × 3 cols) ---
op_type node_name symbolic_flops
Gemm GemmTransposePattern--MatMulAddPattern--Opset2 4224
Relu relu 128
Gemm GemmTransposePattern--MatMulAddPattern--Opset32 2080
3. Plot the sheet content#
We render each sheet as a matplotlib table so sphinx-gallery captures
the output. Sheets that are absent (e.g. build_stats for a
standard-size model) are silently skipped.
ordered_sheets = ["extra", "stats", "stats_agg", "node_stats", "symbolic_flops", "build_stats"]
present = [s for s in ordered_sheets if s in sheets]
n = len(present)
fig, axes = plt.subplots(n, 1, figsize=(10, 3 * n))
if n == 1:
axes = [axes]
for ax, sheet_name in zip(axes, present):
df = sheets[sheet_name]
ax.axis("off")
ax.set_title(sheet_name, fontsize=11, fontweight="bold", pad=6)
if df.empty:
ax.text(0.5, 0.5, "(empty)", ha="center", va="center", transform=ax.transAxes)
continue
# Truncate to at most 10 rows for readability
display_df = df.head(10)
tbl = ax.table(
cellText=display_df.values.tolist(),
colLabels=list(display_df.columns),
cellLoc="center",
loc="center",
)
tbl.auto_set_font_size(False)
tbl.set_fontsize(7)
tbl.auto_set_column_width(col=list(range(len(display_df.columns))))
if len(df) > 10:
ax.text(
0.5,
0.01,
f"… {len(df) - 10} more rows not shown",
ha="center",
va="bottom",
fontsize=7,
transform=ax.transAxes,
)
fig.suptitle("Excel report sheets produced by to_onnx()", fontsize=12)
plt.tight_layout()
plt.show()
~/github/yet-another-onnx-builder/docs/examples/torch/plot_export_report.py:147: UserWarning: Tight layout not applied. The left and right margins cannot be made large enough to accommodate all Axes decorations.
plt.tight_layout()
Total running time of the script: (0 minutes 4.091 seconds)
Related examples
Applying patches to a model and displaying the diff
Applying patches to a model and displaying the diff
