+
    G-j…- ã            
       óV  € ^ RI t ^ RIt^ RIt^ RIt ^ RIt^ RIHtHtH	t	 ^ RI
Ht ]P                  ! ]P                  4      ]P                  ! R4      8¼  g   Q h]P                  ! ]4      tRR ltR tR tR	 tR
 tR tR tR tR tR tRR ltR tR tR t ! R R4      tR t ]R8X  Edh   ] ! 4       t!]PE                  R]!PF                  ,           4       ]!PH                  '       d#   ]PE                  R]!PH                  ,           4       ]PE                  R4       ]PK                  ]PL                  ! ]!PF                  4      ]!PN                  ]!PP                  ]!PR                  ]!PT                  4      t+]!PH                  '       d�   ]+'       d…   ]!PX                  '       dC   ]PZ                  ! ]+]!PH                  R]!P\                  ]!P^                  ]!P`                  RR7       M]Pb                  ! ]+]!PH                  4       ]PE                  R4       R# R# R# R#   ] d    ]! R4      Rhi ; i) é    NzOsympy is required for symbolic shape inference. Install with: pip install sympy)ÚhelperÚnumpy_helperÚshape_inference)Úversionz1.8.0c                 ó´   € V P                    Uu. uF  q3P                  V8X  g   K  VNK  	  ppV'       d   \        P                  ! V^ ,          4      # V# u upi ©r   )Ú	attributeÚnamer   Úget_attribute_value)ÚnodeÚ	attr_nameÚdefault_valueÚattrÚfounds   &&&  Úw/Volumes/fast/ai/experiments/nudenet-smoke/.venv/lib/python3.14/site-packages/onnxruntime/tools/symbolic_shape_infer.pyÚget_attributer      sI   € Ø"ŸnšnÓG™n�d·	±	¸YÑ0F�TˆT™n€EÐGßÜ×)Ò)¨%°­(Ó3Ð3ØÐùò Hs
   �A¦Ac                 ó~   € \        V P                  R 4      4      \        J d   \        W P                  R 4      4      # R# ©ÚvalueN)ÚtypeÚ
WhichOneofÚstrÚgetattr©Údims   &r   Úget_dim_from_protor      s2   € Ü48¸¿¹ÈÓ9PÓ4QÔUXÓ4XŒ7�3Ÿ™ wÓ/Ó0ÐbÐ^bÐbó    c                 ó@   € V P                  R 4      pVR9   g   Q hVR8H  # )r   Úsequence_type)Útensor_typer   )r   )Ú
type_protoÚcls_types   & r   Úis_sequencer#   #   s,   € Ø×$Ñ$ WÓ-€HØÐ7Ô7Ð7Ð7Ø�Ñ&Ð&r   c                 óê   € \        V 4      '       d   Q hV P                  P                  R 4      '       d:   V P                  P                  P                   Uu. uF  p\        V4      NK  	  up# R# u upi )ÚshapeN)r#   r    ÚHasFieldr%   r   r   )r!   Úds   & r   Úget_shape_from_type_protor(   )   sb   € Ü˜:×&Ò&Ð&Ð&Ø×Ñ×&Ñ& w×/Ò/Ø/9×/EÑ/E×/KÑ/K×/OÒ/OÓPÑ/O¨!Ô" 1Ö%Ñ/OÑPÐPáùò Qs   ÁA0c                 ó¤   € \        V 4      '       d+   V P                  P                  P                  P                  # V P                  P                  # ©N)r#   r   Ú	elem_typer    )r!   s   &r   Úget_elem_type_from_type_protor,   1   s=   € Ü�:×ÒØ×'Ñ'×1Ñ1×=Ñ=×GÑGÐGà×%Ñ%×/Ñ/Ð/r   c                 ób  € V P                   P                  R 4      pVf   R# \        V P                   4      '       d`   V P                   P                  P                  P                  R 4      R8X  d*   \        V P                   P                  P                  4      # R# \        V P                   4      # )r   Nr    )r   r   r#   r   r+   r(   )Úvir"   s   & r   Úget_shape_from_value_infor/   8   s~   € Ø�w‰w×!Ñ! 'Ó*€HØÒÙÜ�2—7‘7×ÒØ�7‰7× Ñ ×*Ñ*×5Ñ5°gÓ>À-ÔOÜ,¨R¯W©W×-BÑ-B×-LÑ-LÓMÐMáä(¨¯©Ó1Ð1r   c                 ó<   € \         P                  ! 4       pWn        V# r*   )ÚonnxÚValueInfoProtor
   )r
   r.   s   & r   Úmake_named_value_infor3   E   s   € Ü	×	Ò	Ó	€BØ„GØ€Ir   c                 ó„   € V  Uu. uF/  qf   R M&\        V4      '       d   \        V4      M
\        V4      NK1  	  up# u upi r*   )Ú
is_literalÚintr   )Úsympy_shapeÚis   & r   Úget_shape_from_sympy_shaper9   K   s5   € ÙR]Ó^ÑR]ÈQ’I‰D¬j¸¯mªm¤C¨¤FÄÀQÃÒHÑR]Ñ^Ð^ùÒ^s   …5=c                 óÒ   € \        V 4      \        \        P                  \        P                  \
        P                  39   ;'       g!    \        V R 4      ;'       d    V P                  # )Ú	is_number)	r   r6   ÚnpÚint64Úint32ÚsympyÚIntegerÚhasattrr;   r   s   &r   r5   r5   O   sE   € Ü�‹9œœbŸh™h¬¯©´%·-±-Ð@Ñ@×qÐqÄWÈSÐR]ÓE^×EpÐEpÐcf×cpÑcpÐqr   c                 óB   € W8  d   W) 8¼  g   Q hV ^ 8¼  d   V # W,           # r   © )ÚaxisÚranks   &&r   Úhandle_negative_axisrF   S   s&   € ØŒ;˜4 5œ=Ð(Ð(Ø˜1”9ˆ4Ð- $¥+Ð-r   c                 ó´   € T;'       g    . ROp\        V4      \        8w  d   V.pV P                   F"  pVP                  V9   g   K  VP                  u # 	  R# )Ú N)rH   r1   zai.onnx)r   ÚlistÚopset_importÚdomainr   )ÚmprK   Úopsets   && r   Ú	get_opsetrN   X   sL   € Ø×.Ð.Ò.€FÜˆFƒ|”tÔØ�ˆØ—”ˆØ�<‰<˜6Ö!Ø—=‘=Ò ñ !ñ r   c                 ó¼   € \        V 4      \        J d   \        V 4      ^8X  g   Q hV ^ ,          # \        V 4      \        P                  J d   V P                  4       # V # ©é   )r   rI   Úlenr<   ÚndarrayÚitem©Úxs   &r   Ú	as_scalarrW   c   sF   € ÜˆAƒw”$ƒÜ�1‹v˜Œ{Ðˆ{Ø��tˆÜ	ˆa‹”B—J‘JÓ	Ø�v‰v‹xˆàˆr   c                 óž   € \        V 4      \        J d   V # \        V 4      \        P                  J d   \        V 4      # V'       d   V f   R # V .# r*   )r   rI   r<   rS   )rV   Ú	keep_nones   &&r   Úas_listrZ   m   s<   € ÜˆAƒw”$ƒØˆÜ	ˆa‹”B—J‘JÓ	Ü�A‹wˆß	�q’yÙàˆsˆ
r   c                 ó‚   € \        V 4      \        J d*   \        P                  ! ^4      pV  F  pW,          pK  	  V# T pV# rP   )r   rI   r?   r@   )rV   r   Úvs   &  r   Úsympy_reduce_productr]   x   s?   € ÜˆAƒw”$ƒÜ—’˜aÓ ˆÛˆAØ•IŠEñ ð €Lð ˆØ€Lr   c                   óF  a € ] tR t^‚t o RR ltR€R ltR€R ltR tR tR t	R t
R tR	 tR
 tR tR tR tR tR�R ltR‚R ltR tR tR tR tRƒR ltR„R ltR€R ltR…R ltR†R ltR tR tR tR t R t!R  t"R! t#R" t$R# t%R$ t&R% t'R& t(R' t)R( t*R) t+R* t,R+ t-R, t.R- t/R. t0R/ t1R0 t2R1 t3R2 t4R3 t5R4 t6R5 t7R6 t8R7 t9R8 t:R9 t;R: t<R; t=R< t>R= t?R> t@R? tAR@ tBRA tCRB tDRC tERD tFRE tGRF tHRG tIRH tJRI tKRJ tLRK tMRL tNRM tORN tPRO tQRP tRRQ tSRR tTRS tURT tVRU tWRV tXRW tYRX tZRY t[RZ t\R[ t]R\ t^R] t_R^ t`R_ taR` tbRa tcRb tdRc teRd tfRe tgRf thRg tiRh tjRi tkRj tlRk tmRl tnRm toRn tpRo tqRp trRq tsRr ttRs tuRt tvRu twRv txRw tyRƒRx ltzRy t{Rz t|R†R{ lt}R| t~]R‡R} l4       t€R~t�V t‚R# )ˆÚSymbolicShapeInferencec                óJ  € / R V P                   bRV P                  bRV P                  bRV P                  bRV P                  bRV P
                  bRV P                  bRV P                  bRV P                  bR	V P                  bR
V P                  bRV P                  bRV P                  bRV P                  bRV P                   bRV P                  bRV P                  b/ RV P                   bRV P                   bRV P                  bRV P                   bRV P"                  bRV P                  bRV P$                  bRV P&                  bRV P(                  bRV P*                  bRV P                  bRV P                   bRV P                  bRV P                  bRV P                   bR V P                  bR!V P                   bC/ R"V P,                  bR#V P.                  bR$V P0                  bR%V P2                  bR&V P4                  bR'V P                  bR(V P6                  bR)V P8                  bR*V P:                  bR+V P<                  bR,V P>                  bR-V P                  bR.V P@                  bR/V PB                  bR0V PD                  bR1V PF                  bR2V PH                  bC/ R3V PJ                  bR4V PL                  bR5V PN                  bR6V PN                  bR7V PN                  bR8V PP                  bR9V PR                  bR:V PT                  bR;V P                   bR<V PV                  bR=V PX                  bR>V PZ                  bR?V P\                  bR@V P                   bRAV P^                  bRBV P                   bRCV P`                  bC/ RDV Pb                  bREV Pd                  bRFV Pf                  bRGV Ph                  bRHV Pj                  bRIV Pl                  bRJV Pn                  bRKV Pp                  bRLV Pr                  bRMV P                  bRNV Pt                  bROV Pv                  bRPV Px                  bRQV Pz                  bRRV Pz                  bRSV P|                  bRTV P~                  bC/ RUV P€                  bRVV P‚                  bRWV P„                  bRXV P†                  bRYV Pˆ                  bRZV PŠ                  bR[V PŒ                  bR\V PŽ                  bR]V P�                  bR^V P�                  bR_V P’                  bR`V Pp                  bRaV P”                  bRbV P–                  bRcV P˜                  bRdV Pš                  bReV P~                  bCRfV Pœ                  RgV Pž                  RhV Pž                  RiV P                   RjV P¢                  /CV nR        / RkV P                  bRlV P¦                  bRmV P¨                  bRnV Pª                  bRoV P¬                  bRpV P¬                  bRqV P®                  bRrV P°                  bRsV P²                  bRtV Pª                  bRuV Pª                  bRvV PZ                  bRwV P´                  bRxV P¶                  bRyV P¶                  bRzV P¶                  bR{V P¶                  bV n\        R|V n]        / V n^        / V n_        / V n`        W na        W0nb        W@nc        Wnd        ^ V ne        WPnf        R}# )~ÚAddÚ	AllReduceÚArrayFeatureExtractorÚAveragePoolÚBatchNormalizationÚCastÚCategoryMapperÚCompressÚConcatÚConcatFromSequenceÚConstantÚConstantOfShapeÚConvÚCumSumÚDivÚEinsumÚExpandÚEqualÚFloorÚGatherÚGatherElementsÚGatherNDÚIdentityÚIfÚLoopÚMatMulÚMatMulInteger16ÚMaxPoolÚMaxÚMemcpyFromHostÚMemcpyToHostÚMinÚMoEÚMulÚNonMaxSuppressionÚNonZeroÚOneHotÚPadÚRangeÚ
ReciprocalÚ	ReduceSumÚ
ReduceMeanÚ
ReduceProdÚReshapeÚResizeÚRoundÚScanÚScatterElementsÚ
SequenceAtÚSequenceInsertÚShapeÚSizeÚSliceÚSoftmaxCrossEntropyLossÚSoftmaxCrossEntropyLossInternalÚ!NegativeLogLikelihoodLossInternalÚSplitÚSplitToSequenceÚSqueezeÚSubÚTileÚTopKÚ	TransposeÚ	UnsqueezeÚWhereÚZipMapÚNegÚ	AttentionÚBiasAddÚBiasGeluÚBiasSplitGeluÚDecoderMaskedMultiHeadAttentionÚDequantizeLinearÚDynamicTimeWarpingÚEmbedLayerNormalizationÚFastGeluÚGatedRelativePositionBiasÚGatherBlockQuantizedÚGeluÚGemmFastGeluÚ
GemmFloat8Ú	GroupNormÚGroupNormalizationÚGroupQueryAttentionÚLayerNormalizationÚLongformerAttentionÚMatMulNBitsÚMultiHeadAttentionÚNhwcConvÚPackedAttentionÚPackedMultiHeadAttentionÚPagedAttentionÚPythonOpÚ
QLinearAddÚ
QLinearMulÚQuantizeLinearÚ	QuickGeluÚRelativePositionBiasÚRemovePaddingÚRestorePaddingÚRotaryEmbeddingÚSimplifiedLayerNormalizationÚSkipGroupNormÚSkipLayerNormalizationÚ SkipSimplifiedLayerNormalizationÚSparseAttentionÚUnfoldTensorÚ	embeddingÚ
bitwise_orÚdiagonalÚmax_pool2d_with_indicesÚmaxÚminÚmultinomialÚunfoldÚargmaxÚ
avg_pool2dÚ_adaptive_avg_pool2dÚnumpy_TÚnative_group_normÚupsample_nearest1dÚupsample_nearest2dÚupsample_nearest3dÚupsample_bicubic2dTN)gÚ_infer_symbolic_compute_opsÚ_pass_on_shape_and_typeÚ_infer_ArrayFeatureExtractorÚ_infer_PoolÚ_infer_BatchNormalizationÚ_infer_CastÚ_infer_CategoryMapperÚ_infer_CompressÚ_infer_ConcatÚ_infer_ConcatFromSequenceÚ_infer_ConstantÚ_infer_ConstantOfShapeÚ_infer_ConvÚ_infer_EinsumÚ_infer_ExpandÚ_infer_GatherÚ_infer_GatherElementsÚ_infer_GatherNDÚ	_infer_IfÚ_infer_LoopÚ_infer_MatMulÚ_infer_MatMulIntegerÚ_infer_NonMaxSuppressionÚ_infer_NonZeroÚ_infer_OneHotÚ
_infer_PadÚ_infer_RangeÚ_infer_ReduceSumÚ_infer_ReduceMeanÚ_infer_ReduceProdÚ_infer_ReshapeÚ_infer_ResizeÚ_infer_ScanÚ_infer_ScatterElementsÚ_infer_SequenceAtÚ_infer_SequenceInsertÚ_infer_ShapeÚ_infer_SizeÚ_infer_SliceÚ_infer_SoftmaxCrossEntropyLossÚ_infer_SplitÚ_infer_SplitToSequenceÚ_infer_SqueezeÚ_infer_TileÚ_infer_TopKÚ_infer_TransposeÚ_infer_UnsqueezeÚ_infer_ZipMapÚ_infer_AttentionÚ_infer_BiasAddÚ_infer_BiasGeluÚ_infer_BiasSplitGeluÚ&_infer_DecoderMaskedMultiHeadAttentionÚ_infer_DequantizeLinearÚ_infer_DynamicTimeWarpingÚ_infer_EmbedLayerNormalizationÚ_infer_FastGeluÚ _infer_GatedRelativePositionBiasÚ_infer_GeluÚ_infer_GemmFastGeluÚ_infer_GemmFloat8Ú_infer_GroupNormÚ_infer_GroupQueryAttentionÚ_infer_LayerNormalizationÚ_infer_LongformerAttentionÚ_infer_MatMulNBitsÚ_infer_MultiHeadAttentionÚ_infer_NhwcConvÚ_infer_PackedAttentionÚ_infer_PackedMultiHeadAttentionÚ_infer_PagedAttentionÚ_infer_PythonOpÚ_infer_QLinearBinaryÚ_infer_QuantizeLinearÚ_infer_RelativePositionBiasÚ_infer_RemovePaddingÚ_infer_RestorePaddingÚ_infer_RotaryEmbeddingÚ_infer_SkipGroupNormÚ_infer_SkipLayerNormalizationÚ_infer_SparseAttentionÚ_infer_UnfoldTensorÚdispatcher_Ú_infer_aten_bitwise_orÚ_infer_aten_diagonalÚ_infer_aten_pool2dÚ_infer_aten_minmaxÚ_infer_aten_multinomialÚ_infer_aten_unfoldÚ_infer_aten_argmaxÚ_infer_aten_group_normÚ_infer_aten_upsampleÚaten_op_dispatcher_Úrun_Úsuggested_merge_Úsymbolic_dims_Úinput_symbols_Úauto_merge_Úguess_output_rank_Úverbose_Úint_max_Úsubgraph_id_Úprefix_)ÚselfÚint_maxÚ
auto_mergeÚguess_output_rankÚverboseÚprefixs   &&&&&&r   Ú__init__ÚSymbolicShapeInference.__init__ƒ   sã	  € ðm
Ø�4×3Ñ3ðm
à˜×5Ñ5ðm
ð $ T×%FÑ%Fðm
ð ˜4×+Ñ+ð	m
ð
 ! $×"@Ñ"@ðm
ð �D×$Ñ$ðm
ð ˜d×8Ñ8ðm
ð ˜×,Ñ,ðm
ð �d×(Ñ(ðm
ð ! $×"@Ñ"@ðm
ð ˜×,Ñ,ðm
ð ˜t×:Ñ:ðm
ð �D×$Ñ$ðm
ð �d×2Ñ2ðm
ð �4×3Ñ3ðm
ð  �d×(Ñ(ð!m
ð" �d×(Ñ(ñ#m
ð$ �T×5Ñ5ð%m
ð& �T×5Ñ5ð'm
ð( �d×(Ñ(ð)m
ð* ˜d×8Ñ8ð+m
ð, ˜×,Ñ,ð-m
ð. ˜×4Ñ4ð/m
ð0 �$—.‘.ð1m
ð2 �D×$Ñ$ð3m
ð4 �d×(Ñ(ð5m
ð6 ˜t×8Ñ8ð7m
ð8 �t×'Ñ'ð9m
ð: �4×3Ñ3ð;m
ð< ˜d×:Ñ:ð=m
ð> ˜D×8Ñ8ð?m
ð@ �4×3Ñ3ðAm
ðB �4×/Ñ/ðCm
ðD �4×3Ñ3òEm
ðF   ×!>Ñ!>ðGm
ðH �t×*Ñ*ðIm
ðJ �d×(Ñ(ðKm
ðL �4—?‘?ðMm
ðN �T×&Ñ&ðOm
ðP ˜$×6Ñ6ðQm
ðR ˜×.Ñ.ðSm
ðT ˜$×0Ñ0ðUm
ðV ˜$×0Ñ0ðWm
ðX �t×*Ñ*ðYm
ðZ �d×(Ñ(ð[m
ð\ �T×1Ñ1ð]m
ð^ �D×$Ñ$ð_m
ð` ˜t×:Ñ:ðam
ðb ˜$×0Ñ0ðcm
ðd ˜d×8Ñ8ðem
ðf �T×&Ñ&ògm
ðh �D×$Ñ$ðim
ðj �T×&Ñ&ðkm
ðl & t×'JÑ'Jðmm
ðn .¨t×/RÑ/Rðom
ðp 0°×1TÑ1Tðqm
ðr �T×&Ñ&ðsm
ðt ˜t×:Ñ:ðum
ðv �t×*Ñ*ðwm
ðx �4×3Ñ3ðym
ðz �D×$Ñ$ð{m
ð| �D×$Ñ$ð}m
ð~ ˜×.Ñ.ðm
ð@ ˜×.Ñ.ðAm
ðB �T×5Ñ5ðCm
ðD �d×(Ñ(ðEm
ðF �4×3Ñ3ðGm
ðJ ˜×.Ñ.òKm
ðL �t×*Ñ*ðMm
ðN ˜×,Ñ,ðOm
ðP ˜T×6Ñ6ðQm
ðR .¨t×/ZÑ/ZðSm
ðT  × <Ñ <ðUm
ðV ! $×"@Ñ"@ðWm
ðX & t×'JÑ'JðYm
ðZ ˜×,Ñ,ð[m
ð\ (¨×)NÑ)Nð]m
ð^ # D×$6Ñ$6ð_m
ð` �D×$Ñ$ðam
ðb ˜D×4Ñ4ðcm
ðd ˜$×0Ñ0ðem
ðf ˜×.Ñ.ðgm
ðh ! $×"7Ñ"7ðim
ðj " 4×#BÑ#Bðkm
ðl ! $×"@Ñ"@òmm
ðn " 4×#BÑ#Bðom
ðp ˜4×2Ñ2ðqm
ðr ! $×"@Ñ"@ðsm
ðt ˜×,Ñ,ðum
ðv ˜t×:Ñ:ðwm
ðx '¨×(LÑ(Lðym
ðz ˜d×8Ñ8ð{m
ð| ˜×,Ñ,ð}m
ð~ ˜$×3Ñ3ðm
ð@ ˜$×3Ñ3ðAm
ðB ˜d×8Ñ8ðCm
ðD ˜×-Ñ-ðEm
ðF # D×$DÑ$DðGm
ðH ˜T×6Ñ6ðIm
ðJ ˜d×8Ñ8ðKm
ðL ˜t×:Ñ:ðMm
ðN +¨D×,JÑ,JñOm
ðP ˜T×6Ñ6Ø$ d×&HÑ&HØ.°×0RÑ0RØ˜t×:Ñ:Ø˜D×4Ñ4ñYm
ˆÔð\$
Ø˜×+Ñ+ð$
à˜$×5Ñ5ð$
ð ˜×1Ñ1ð$
ð & t×'>Ñ'>ð	$
ð
 �4×*Ñ*ð$
ð �4×*Ñ*ð$
ð ˜4×7Ñ7ð$
ð �d×-Ñ-ð$
ð �d×-Ñ-ð$
ð ˜$×1Ñ1ð$
ð # D×$;Ñ$;ð$
ð �t×,Ñ,ð$
ð   ×!<Ñ!<ð$
ð ! $×";Ñ";ð$
ð ! $×";Ñ";ð$
ð  ! $×";Ñ";ð!$
ð" ! $×";Ñ";ð#$
ˆÔ ð& ˆŒ	Ø "ˆÔØ ˆÔØ ˆÔØ%ÔØ"3ÔØŒØŒØˆÔØŽr   c                ó*  a € \         ;QJ d    V 3R  lV 4       F  '       d   K   RM	  RM! V 3R  lV 4       4      '       g   Q h\        V4      pS P                  P                  4        F/  w  r4W19   g   K  VP	                  V4       VP                  V4       K1  	  RpV F  p\        V4      '       g   K  Tp M	  Vf   V F  pVS P                  9   g   K  Tp M	  Vf<   V F5  p\        S P                  V,          4      \        P                  J g   K3  Tp M	  Vf�   S P                  ^ 8”  d&   \        P                  RRP                  V4      4       \!        V4      pV Uu. uF  p\#        V4      NK  	  ppWxP%                  \'        V4      4      ,          pVP	                  V4       V F­  pWe8X  d   K  \        V4      '       d-   \        V4      '       d   \)        V4      \)        V4      8X  g   Q h\        V4      '       d   \)        V4      MTS P                  V&   S P                  P                  4        F  w  r4WF8X  g   K  VS P                  V&   K  	  K¯  	  V'       d'   S P*                  '       d   S P-                  4        R# R# R# u upi )c              3   óš   <"  € T F@  p\        V4      \        J ;'       d    VSP                  9   ;'       g    \        V4      x € KB  	  R # 5ir*   )r   r   r<  r5   )Ú.0ÚsrD  s   & €r   Ú	<genexpr>Ú>SymbolicShapeInference._add_suggested_merge.<locals>.<genexpr>  s>   øé € ÐcÑ[bÐVW”D˜“Gœs�N×?Ð? q¨D×,?Ñ,?Ñ'?×QÐQÄJÈqÃMÔQÓ[bùs   ƒA A·AFTNz9Potential unsafe merge between symbolic expressions: (%s)Ú,)ÚallÚsetr;  ÚitemsÚremoveÚaddr5   r=  r   r<  r?   ÚSymbolr@  ÚloggerÚwarningÚjoinrI   rR   ÚindexrÑ   r6   r>  Ú_apply_suggested_merge)	rD  ÚsymbolsÚapplyÚkr\   Úmap_torO  Úsymbols_listÚlenss	   f&&      r   Ú_add_suggested_mergeÚ+SymbolicShapeInference._add_suggested_merge  s  ø€ ß‹sÔcÑ[bÓc�s�sŠsÔcÑ[bÓc×cÒcÐcÐcÜ�g“,ˆØ×)Ñ)×/Ñ/Ö1‰DˆAØŽ|Ø—‘˜qÔ!Ø—‘˜A–ñ 2ð ˆãˆAÜ˜!�}Œ}Ø�Ùñ ð
 Š>Û�Ø˜×+Ñ+Ö+Ø�FÙñ ð Š>Û�Ü˜×+Ñ+¨AÕ.Ó/´5·<±<Õ?Ø�FÙñ ð
 Š>Ø�}‰}˜qÔ Ü—‘ÐZÐ\_×\dÑ\dÐelÓ\mÔnÜ ›=ˆLÙ$0Ó1¡L˜q”C˜–F¡LˆDÐ1Ø!§*¡*¬S°«YÓ"7Õ8ˆFØ�N‰N˜6Ô"ãˆAØŒ{ÙÜ˜&×!Ò!¤j°§m¢mÜ˜6“{¤c¨!£fÔ,Ð,Ð,Ü6@À×6HÒ6H¤s¨6¤{ÈfˆD×!Ñ! !Ñ$Ø×-Ñ-×3Ñ3Ö5‘�Ø–6Ø/5�D×)Ñ)¨!Ó,ó 6ñ ÷ �T×%×%Ð%Ø×'Ñ'Ö)ñ &‰5ùò 2s   Å&Jc                ó&  € V P                   '       g   R # \        V P                  P                  P                  4      V'       d   . M(\        V P                  P                  P
                  4      ,            F—  pVP                  P                  P                  P                   Ff  pVP                  V P                   9   g   K   V P                   VP                  ,          p\        V4      '       d   \        V4      Vn        K`  WCn
        Kh  	  K™  	  R # r*   )r;  rI   Úout_mp_ÚgraphÚinputÚ
value_infor   r    r%   r   Ú	dim_paramr5   r6   Ú	dim_value)rD  Úgraph_input_onlyr8   r'   r\   s   &&   r   r]  Ú-SymbolicShapeInference._apply_suggested_merge=  sµ   € Ø×$×$Ð$ÙÜ�d—l‘l×(Ñ(×.Ñ.Ó/×9I±2ÌtÐTX×T`ÑT`×TfÑTf×TqÑTqÓOr×sÐsˆAØ—V‘V×'Ñ'×-Ñ-×1Ô1�Ø—;‘; $×"7Ñ"7Ö7Ø×-Ñ-¨a¯k©kÕ:�AÜ! !—}’}Ü&)¨!£f˜žà&'žó 2ó tr   c                óX  € \         P                  ! 4       V n        V P                  P                  V4       \	        V P                  P
                  P                  4       Uu/ uF  q"P                  VbK  	  upV n        V P                  P
                  P                   Uu/ uF  q"P                  VbK  	  upV n
        \	        V P                  P
                  P                  4       Uu/ uF  q"P                  VbK  	  upV n        V P                  P                  V P                  P
                  P                   Uu/ uFM  pVP                  \        P                  ! VP                  VP                  \	        VP                   4      4      bKO  	  up4       R # u upi u upi u upi u upi r*   )r1   Ú
ModelProtorg  ÚCopyFromrI   rh  ri  r
   Úgraph_inputs_ÚinitializerÚinitializers_Ú	known_vi_Úupdater   Úmake_tensor_value_infoÚ	data_typeÚdims)rD  Úin_mpr8   s   && r   Ú_preprocessÚ"SymbolicShapeInference._preprocessI  s3  € Ü—’Ó(ˆŒØ�‰×Ñ˜eÔ$Ü15°d·l±l×6HÑ6H×6NÑ6NÔ1OÓPÑ1O¨AŸf™f ašiÑ1OÑPˆÔØ15·±×1CÑ1C×1OÒ1OÓPÑ1O¨AŸf™f ašiÑ1OÑPˆÔÜ-1°$·,±,×2DÑ2D×2JÑ2JÔ-KÓLÑ-K¨Ÿ&™& !š)Ñ-KÑLˆŒØ�‰×Ñð Ÿ™×+Ñ+×7Ò7óá7�Að —‘œ×5Ò5°a·f±f¸a¿k¹kÌ4ÐPQ×PVÑPVË<ÓXÒXÙ7ñö	
ùò QùÚPùÚLùòs   Á!FÂ FÃ(F"Ä<AF'c                ór  aa€ \         ;QJ d    R  S 4       F  '       d   K   RM	  RM! R  S 4       4      '       Eg   V P                  '       Ed   \        \        S4      4      pV Uu. uF  p\	        V4      NK  	  pp\        V4      ^8:  g   Q h\        V4      ^8X  dr   VP                  ^4      pV P                  ^ 8”  d5   \        P                  RVRV W%^,           R ,            RW%,           24       V P                  VRR7       W%,          # V P                  ^ 8”  d*   \        P                  RVR,           RV^ ,           24       S^ ,          # R# \         ;QJ d    V3R	 lS 4       F  '       d   K   RM	  RM! V3R	 lS 4       4      '       d
   S^ ,          # S Uu. uF  q0P                  P                  W34      NK  	  upo\         ;QJ d    V3R
 lS 4       F  '       d   K   RM	  RM! V3R
 lS 4       4      '       d$   S^ ,          V P                  9   g   Q hS^ ,          # R# u upi u upi )c              3   óD   "  € T F  p\        V4      \        J x € K  	  R # 5ir*   )r   r   ©rN  r'   s   & r   rP  Ú8SymbolicShapeInference._merge_symbols.<locals>.<genexpr>W  s   é € Ð0©4 a”4˜“7œc•>«4ùs   ‚ FTzdim Nz has been merged with value ©Úallow_broadcastºrQ   NNz has been merged with dim c              3   ó:   <"  € T F  qS^ ,          8H  x € K  	  R# 5i©r   NrC   ©rN  r'   ry  s   & €r   rP  r€  j  s   øé € Ð*¡T �D˜•GŽ|£Tùó   ƒc              3   ó:   <"  € T F  qS^ ,          8H  x € K  	  R# 5ir…  rC   )rN  r'   Úmergeds   & €r   rP  r€  m  s   øé € Ð.¡v !�F˜1•IŽ~£vùr‡  )rS  r>  rI   rT  r5   Úsumr\  r@  rY  ÚdebugÚ_check_merged_dimsr;  Úgetr<  )rD  ry  Úunique_dimsr'   Úis_intÚint_dimr‰  s   &f    @r   Ú_merge_symbolsÚ%SymbolicShapeInference._merge_symbolsV  sË  ù€ ß‹sÑ0©4Ó0�s�sŠsÑ0©4Ó0×0Ó0Ø××ÑÜ"¤3 t£9›o�Ù1<Ó=±¨Aœ* Qž-±�Ð=Ü˜6“{ aÔ'Ð'Ð'Ü�v“; !Ô#Ø$Ÿl™l¨1›o�GØ—}‘} qÔ(ÜŸ™Ø" ;¨x°Ð#8¸;ÐQRÅ{À}Ð;UÕ#UÐ"VÐVrÐs~õ  tHð  sIð  Jôð ×+Ñ+¨KÈÐ+ÔOØ&Õ/Ð/à—}‘} qÔ(ÜŸ™ t¨K¸­OÐ+<Ð<VÐWbÐcdÕWeÐVfÐ%gÔhØ �7�Náß‹3Ô*¡TÓ*�3�3Š3Ô*¡TÓ*×*Ò*Ø˜•7ˆNÙ;?Ó@¹4°a×'Ñ'×+Ñ+¨AÖ1¹4Ñ@ˆß‹3Ô.¡vÓ.�3�3Š3Ô.¡vÓ.×.Ò.Ø˜!•9 × 3Ñ 3Ô3Ð3Ð3Ø˜!•9Ðáùò/ >ùò$ As   Á)H/Æ$#H4c                ó   € . p\        V4      p\        V4      p\        WE4      p\        V4       FÛ  pWt8  d   W^,
          V,
          ,          M^pWu8  d   W%^,
          V,
          ,          M^p	V^8X  g   W‰8X  d   T	p
M‡V	^8X  d   Tp
M}V P                  W‰.4      p
V
'       gd   V P                  '       d   V P                  W‰.RR7       M<\        P                  R\        V4      ,           R,           \        V	4      ,           4       V
.VOpKÝ  	  V# )rQ   T©r_  zunsupported broadcast between Ú )	rR   rÐ   Úranger‘  r>  rd  rY  rZ  r   )rD  Úshape1Úshape2Ú	new_shapeÚrank1Úrank2Únew_rankr8   Údim1Údim2Únew_dims   &&&        r   Ú_broadcast_shapesÚ(SymbolicShapeInference._broadcast_shapest  sî   € Øˆ	Ü�F“ˆÜ�F“ˆÜ�uÓ$ˆÜ�x–ˆAØ,-¬I�6 !�) a�-Ö(¸1ˆDØ,-¬I�6 !�) a�-Ö(¸1ˆDØ�qŒy˜DœLØ‘Ø˜”Ø‘à×-Ñ-¨t¨lÓ;�ßð ×'×'Ð'Ø×1Ñ1°4°,ÀdÐ1ÕKäŸ™Ð'GÌ#ÈdË)Õ'SÐVYÕ'YÔ\_Ð`dÓ\eÕ'eÔfØ Ð- 9Ð-ŠIñ# !ð$ Ðr   c                óô   € VP                   V,          pW0P                  9   d   V P                  V,          p\        V4      # W0P                  9   g   Q h\	        V P                  V,          P
                  4      # r*   )ri  ru  r/   rt  rI   ry  ©rD  r   Úidxr
   r.   s   &&&  r   Ú
_get_shapeÚ!SymbolicShapeInference._get_shape�  s`   € Ø�z‰z˜#�ˆØ—>‘>Ô!Ø—‘ Õ%ˆBÜ,¨RÓ0Ð0à×-Ñ-Ô-Ð-Ð-Ü˜×*Ñ*¨4Õ0×5Ñ5Ó6Ð6r   c                ó:  € V\        VP                  4      ^,
          8”  d   R# VP                  V,          pW0P                  9   d   V P                  V,          p\        V4      # W0P                  9   d'   \        V P                  V,          P                  4      # R# ©rQ   N)rR   ri  ru  r/   rt  rI   ry  r£  s   &&&  r   Ú_try_get_shapeÚ%SymbolicShapeInference._try_get_shape–  su   € Ø”�T—Z‘Z“ 1Õ$Ô$ÙØ�z‰z˜#�ˆØ—>‘>Ô!Ø—‘ Õ%ˆBÜ,¨RÓ0Ð0Ø×%Ñ%Ô%Ü˜×*Ñ*¨4Õ0×5Ñ5Ó6Ð6Ùr   c                ó6   € \        V P                  W4      4      # r*   )rR   r¥  )rD  r   r¤  s   &&&r   Ú_get_shape_rankÚ&SymbolicShapeInference._get_shape_rank¡  s   € Ü�4—?‘? 4Ó-Ó.Ð.r   c           	     ó,  € . pV P                  W4       F|  p\        V4      \        J dN   TP                  W@P                  9   d   V P                  V,          M\
        P                  ! VR R R7      4       Kc  RVJg   Q hVP                  V4       K~  	  V# )T©ÚintegerÚnonnegativeN)r¥  r   r   Úappendr<  r?   rX  )rD  r   r¤  r7   r'   s   &&&  r   Ú_get_sympy_shapeÚ'SymbolicShapeInference._get_sympy_shape¤  sƒ   € ØˆØ—‘ Ö+ˆAÜ�A‹wœ#‹~Ø×"Ñ"à×/Ñ/Ô/ð ×'Ñ'¨Ö*äŸš a°À4ÔHöð  1“}Ð$�}Ø×"Ñ" 1Ö%ñ ,ð Ðr   c                ó   € VP                   V,          pW0P                  9   g   W0P                  9   g   Q hW0P                  9   d   V P                  V,          # \        P                  ! V P                  V,          4      # r*   )ri  Úsympy_data_rt  r   Úto_array©rD  r   r¤  r
   s   &&& r   Ú
_get_valueÚ!SymbolicShapeInference._get_value²  se   € Ø�z‰z˜#�ˆØ×'Ñ'Ô'¨4×3EÑ3EÔ+EÐEÐEØ)-×1AÑ1AÔ)Aˆt×Ñ Õ%ÐvÄ|×G\ÒG\Ð]a×]oÑ]oÐptÕ]uÓGvÐvr   c                óÆ   € V\        VP                  4      8¼  d   R # VP                  V,          pW0P                  9   g   W0P                  9   d   V P	                  W4      # R # r*   )rR   ri  r¶  rt  r¹  r¸  s   &&& r   Ú_try_get_valueÚ%SymbolicShapeInference._try_get_value·  sK   € Ø”#�d—j‘j“/Ô!ÙØ�z‰z˜#�ˆØ×#Ñ#Ô# t×/AÑ/AÔ'AØ—?‘? 4Ó-Ð-Ùr   c                ó´  € \        V4       FÈ  w  r#\        V4      '       d   K  \        V4      \        8w  g   K.  \        V4      pW@P                  9   dM   \        V P                  V,          4      '       d   Km  V P
                  V P                  V,          ,          W&   K•  \        V4      V P
                  9  g   K±  W0P
                  \        V4      &   KÊ  	  R # r*   )Ú	enumerater5   r   r   r;  r<  )rD  Únew_sympy_shaper8   rŸ  Ústr_dims   &&   r   Ú_update_computed_dimsÚ,SymbolicShapeInference._update_computed_dims¿  sœ   € Ü# OÖ4‰JˆAÜ˜g×&Ô&¬4°«=¼CÖ+?Ü˜g›,�Ø×3Ñ3Ô3Ü! $×"7Ñ"7¸Õ"@×AÒAÙ Ø)-×)<Ñ)<¸T×=RÑ=RÐSZÕ=[Õ)\�OÓ&ô ˜7“|¨4×+>Ñ+>Ö>Ø<C×+Ñ+¬C°«LÓ9ó 5r   c                ó�  € VP                   . R NRNRNRNRNRNRNRNRNR	NR
NRNRNRNRNRNRNRNRNRNRNRNRNRNRNRNRNRNRNRNRNRNR NR!NR"NR#NR$NR%NR&N9   pV'       Eg„   . p\        V P                  4      ^	8¼  db   VP                   R+9   dQ   VP                   Uu. uF:  pW@P                  9   g   K  W@P
                  9  g   K'  V P                  V,          NK<  	  ppVP                   R,9   Ed9   VP                  ^ ,          V P                  9   Ed   V P                  VP                  ^ ,          ,          p\        \        VP                  4      4      p\        \        VP                  4      4       Uu. uF  qpP                  W4      NK  	  pp\        YaP                   R-9   d   ^M^ ,
          4       Fp  p	V U
u. uF<  p
\        V
4      V	,           V8¼  g   K  V
\        V
4      V,
          V	,           ,          NK>  	  pp
\        V4      ^8”  g   K]  V P                  VR'R(7       Kr  	  \        P                  ! V.R)VP                   Uu. uF  qw'       g   K  V P                  V,          NK!  	  upVP                   Uu. uF  p\!        V4      NK  	  upV4      pV P"                  P$                  P'                  V4       \(        P*                  ! V P"                  4      V n        \        \        VP                  4      4       F¡  pVP                  V,          pV'       g   K   V P                  P$                  P,                  P/                  4       pV'       g8   VP'                  V P"                  P$                  P                  V,          4       MWån        WPP                  V&   K£  	  R*# u upi u upi u up
i u upi u upi ).rx   ry   r�   rš   r¢   r¤   r¥   r¦   r§   r©   rª   r«   r¬   r®   r¯   r°   r²   r³   r´   rµ   r¶   r¸   r¹   rº   r¼   r½   rÀ   rÁ   rÂ   rÃ   rÄ   rÅ   rÆ   rÈ   rÉ   rÊ   rÇ   r¾   r¿   Tr�  ÚtmpN)r    ©	ra   rœ   r‚   ro   rz   ÚMatMulIntegerr{   r¡   ÚSum©rz   rÇ  r{   )Úop_typerN   rg  ri  rt  rr  Úoutputru  rR   r(   r   r–  r¥  rŒ  r   Ú
make_graphr3   Útmp_mp_rh  rq  r   Úinfer_shapesrj  rW  r
   )rD  r   Ú
skip_inferÚinitializersr
   r.   Úout_rankr8   Ú	in_shapesr'   rO  Úin_dimsÚ	tmp_graphÚi_oÚos   &&             r   Ú_onnx_infer_single_nodeÚ.SymbolicShapeInference._onnx_infer_single_nodeÌ  sS  € à—\‘\ð (&
Øð(&
àð(&
ð ð(&
ð ð	(&
ð
 ð(&
ð ð(&
ð ð(&
ð ð(&
ð ð(&
ð ð(&
ð !ð(&
ð &ð(&
ð ð(&
ð #ð(&
ð ð(&
ð  ð!(&
ð" ð#(&
ð$ !ð%(&
ð& "ð'(&
ð( !ð)(&
ð* "ð+(&
ð, !ð-(&
ð. ð/(&
ð0 ð1(&
ð2 ð3(&
ð4 ð5(&
ð6 ð7(&
ð8 ð9(&
ð: #ð;(&
ð< ð=(&
ð> ð?(&
ð@ ðA(&
ðB +ðC(&
ðD %ðE(&
ðF /ðG(&
ðH ðI(&
ðJ ðK(&
ðL ðM(&
ðN ðO(&
ñ (
ˆ
÷T ˆzð ˆLÜ˜$Ÿ,™,Ó'¨1Ô,°$·,±,À-Ô2Oð !%§
¢
ó á *˜Ø× 2Ñ 2Ñ2ô -à7;×CUÑCUÑ7Uô -�D×&Ñ& t×,Ð,Ù *ð ð  ð �|‰|ð 
 õ 
ð —;‘;˜q•> T§^¡^Õ3ØŸ™¨¯©°A­Õ7�BÜ"Ô#<¸R¿W¹WÓ#EÓF�HÜCHÌÈTÏZÉZËÔCYÓ ZÑCY¸a§¡°Ö!9ÑCY�IÐ ZÜ"Ø ¯©Ð9gÔ)g¡AÐmnÕoö˜ñ FOÓ"iÁYÀÔRUÐVWÓRXÐ[\ÕR\Ð`hÑRhÔ#; 1¤S¨£V¨hÕ%6¸Õ%:×#;Ð#;ÁY˜Ð"iÜ˜w›<¨!Ö+Ø ×3Ñ3°GÈTÐ3ÖRñô ×)Ò)Ø�ØØ,0¯JªJÓ<©J q»!Ô"�—‘ ×"Ð"©JÑ<Ø37·;²;Ó?±;¨aÔ& qÖ)±;Ñ?ØóˆIð �L‰L×Ñ×'Ñ'¨	Ô2ä*×7Ò7¸¿¹ÓEˆDŒLäœ˜TŸ[™[Ó)Ö*ˆCØ—‘˜CÕ ˆAß‰qØ—\‘\×'Ñ'×2Ñ2×6Ñ6Ó8�ß!Ø—K‘K §¡× 2Ñ 2× 9Ñ 9¸#Õ >Õ?à”GØ$&—‘˜qÓ!ó +ùòS ùò( ![ùò #jùò =ùÚ?s6   Â"N/Â9N/ÃN/Å;N4ÇN9Ç$N9É	N>ÉN>ÊOc                ó€
  € V P                   ^8”  dD   \        P                  RVP                   RVP                  ^ ,           RVP
                   24       \        VP                  4      \        VP                  4      ,            Uu0 uF  qUP                  kK  	  ppV P                   Uu0 uF  qwV9  g   K  VkK  	  pp\        P                  ! \        VP                  4      R\        VP                  4      V Uu. uF  qPP                  V,          NK  	  up,           VP                   Uu. uF  p\        VP                  4      NK  	  up4      p	V	P                  P                  V P                  P                   P                   Uu. uF  qUP                  V9   g   K  VNK  	  up4       V	P                  P                  VP                  4       V P"                  P                   P%                  V	4       \'        V P(                  V P*                  V P,                  V P                   V P.                  R,           \1        V P2                  4      ,           R7      p
V'       d   V ;P2                  ^,          un        V
P5                  V P"                  4       V P6                  P9                  4       V
n        V
P:                  '       d,   V
P=                  V P>                  P9                  4       4       K=  V
PA                  4        V'       da   VPC                  R4       VP                  P                  V
P                  P                   P                  R\E        VP                  4       4       VPC                  R	4       VP                  P                  V
P                  P                   P                  4       VPC                  R
4       VPF                  P                  V
P                  P                   PF                  4       VPC                  R4       VP                  P                  V
P                  P                   P                  4       V
P                  P                   P                   Uu. uF  p\I        V4      NK  	  ppV UUu0 uF>  qÝ'       g   K  V F,  p\K        V4      \0        J g   K  WàPL                  9  g   K*  VkK.  	  K@  	  ppp/ pV F+  pWêPL                  9   g   Q hV
PL                  V,          VV&   K-  	  V PL                  PO                  V4       V
# u upi u upi u upi u upi u upi u upi u uppi )é   zInferencing subgraph of node z with output(z...): rÅ  Ú_)rI  ri  NrË  rj  r   )(r@  rY  r‹  r
   rË  rÊ  rI   rs  ri  ru  r   rÌ  r   r3   Úextendrg  rh  rÍ  rq  r_   rA  r>  r?  rC  r   rB  r{  r;  Úcopyr:  Ú_infer_implr¶  Ú_update_output_from_viÚ
ClearFieldrR   rj  r/   r   r<  rv  )rD  r   ÚsubgraphÚuse_node_inputÚinc_subgraph_idr8   Úsubgraph_inputsr
   Úsubgraph_implicit_inputrÔ  Úsymbolic_shape_inferencerÖ  Úsubgraph_shapesrO  r'   Úsubgraph_new_symbolic_dimsÚnew_dimss   &&&&&            r   Ú_onnx_infer_subgraphÚ+SymbolicShapeInference._onnx_infer_subgraph3  s  € Ø�=‰=˜1ÔÜ�L‰LÐ8¸¿¹¸À=ÐQU×Q\ÑQ\Ð]^ÕQ_ÐP`Ð`fÐgk×gsÑgsÐftÐuÔvô
 ,0°×0DÑ0DÓ+EÌÈXÏ^É^ÓH\Ö+\Ó]Ñ+\ aŸ6œ6Ñ+\ˆÐ]Ø48·N²NÓ"b±N¨DÐRaÑFa§4 4±NÐÐ"bÜ×%Ò%Ü�—‘ÓØÜ�—‘Ó Ñ?VÓ#WÑ?V¸!§N¡N°1×$5Ð$5Ñ?VÑ#WÕWØ4<·O²OÓD±O¨qÔ" 1§6¡6Ö*±OÑDó	
ˆ	ð 	×Ñ×$Ñ$°·±×1CÑ1C×1OÒ1OÓ%uÑ1O¨A×SYÑSYÐ]tÑSt§a aÑ1OÑ%uÔvØ×Ñ×$Ñ$ X×%9Ñ%9Ô:Ø�‰×Ñ×#Ñ# IÔ.ä#9Ø�M‰MØ×ÑØ×#Ñ#Ø�M‰MØ—<‘< #Õ%¬¨D×,=Ñ,=Ó(>Õ>ô$
Ð ÷ Ø×Ò Õ"Õà ×,Ñ,¨T¯\©\Ô:Ø48×4IÑ4I×4NÑ4NÓ4PÐ Ô1Ø&×+×+Ð+Ø$×0Ñ0°×1AÑ1A×1FÑ1FÓ1HÖIØ ×7Ñ7Ô9ßà×Ñ Ô(Ø�N‰N×!Ñ!Ð":×"BÑ"B×"HÑ"H×"NÑ"NÐO`ÔQTÐUY×U_ÑU_ÓQ`Ð"aÔbØ×Ñ˜HÔ%Ø�‰×ÑÐ7×?Ñ?×EÑE×LÑLÔMØ×Ñ˜LÔ)Ø×Ñ×"Ñ"Ð#;×#CÑ#C×#IÑ#I×#TÑ#TÔUØ×Ñ˜FÔ#Ø�‰×ÑÐ5×=Ñ=×CÑC×HÑHÔIàAY×AaÑAa×AgÑAg×AnÒAnÓoÑAn¸AÔ4°QÖ7ÑAnˆÐoá&ô&
Ù&�!«!ŒA³Q°¼$¸q»'ÄS¸.ŒAÈQ×ViÑViÑMi�AˆA±Q‰A‘ð 	#ñ &
ð ˆÛ+ˆAØ×?Ñ?Ô?Ð?Ð?Ø2×AÑAÀ!ÕDˆH�Q‹Kñ ,ð 	×Ñ×"Ñ" 8Ô,Ø'Ð'ùò_ ^ùÚ"bùò $XùÚDùâ%uùò< pùó&
sH   ÂTÂ*T!Â7T!Ã<T&Ä-T+Æ	T0Æ T0Ñ*T5Ò	T:ÒT:Ò-T:Ò?
T:c                óô  € R  p\        \        VP                  4      4       Uu. uF  qPP                  W4      NK  	  pp\        ;QJ d    R V 4       F  '       d   K   RM	  RM! R V 4       4      '       d¹   \        V4       F©  w  rW\        V4      \        P                  Jd   K$  \        VP                  4      ^8”  d   RpMd\        VP                  4      ^ 8X  d   V! VP                  4       V4      pM2\        VP                  4      ^8X  g   Q hV U	u. uF
  q”! W“4      NK  	  pp	W†V&   K«  	  V Uu. uF&  p\        V\        4      '       d   \        V4      M^ NK(  	  p
p\        V
4      pV^8¼  du   V'       dm   \        V4       F]  w  rWVf   K  \        V\        4      '       d1   \        V4      V8  d   W{,          We&   K=  \        V4      V8X  g   Q hKQ  V.V,          We&   K_  	  V# u upi u up	i u upi )c                 óH   € V'       d   V ^,          ^ 8w  d   V # \        V 4      # rP   )r6   )r   Úallow_float_valuess   &&r   Úint_or_floatÚESymbolicShapeInference._get_int_or_float_values.<locals>.int_or_floatl  s   € ç! e¨a¥i°1¤nØ�Ü�u“:Ðr   c              3   ó(   "  € T F  qR Jx € K
  	  R # 5ir*   rC   ©rN  r\   s   & r   rP  ÚBSymbolicShapeInference._get_int_or_float_values.<locals>.<genexpr>s  ó   é € Ð-¡f ˜�}£fùó   ‚FTN)r–  rR   ri  r¼  rS  r¿  r   r<   rS   r%   rT   Ú
isinstancerI   rÐ   )rD  r   Ú	broadcastrî  rï  r8   Úvaluesr\   Únew_vÚvvÚ
values_lenÚmax_lens   &&&&        r   Ú_get_int_or_float_valuesÚ/SymbolicShapeInference._get_int_or_float_valuesk  s—  € ò	ô 9>¼cÀ$Ç*Á*»oÔ8NÓOÑ8N°1×%Ñ% dÖ.Ñ8NˆÐOß‹3Ñ-¡fÓ-�3�3Š3Ñ-¡fÓ-×-Ò-ä! &Ö)‘�Ü˜“7¤"§*¡*Ó,ÙÜ�q—w‘w“< !Ô#Ø ‘EÜ˜Ÿ™“\ QÔ&Ù(¨¯©«Ð3EÓF‘Eä˜qŸw™w›<¨1Ô,Ð,Ð,ÙLMÓNÉAÀb˜\¨"ÖAÉA�EÐNØ!�q“	ñ *ñ EKÓKÁF¸q¤
¨1¬d× 3Ò 3”c˜!”f¸Ò:ÁFˆ
ÐKÜ�j“/ˆØ�aŒ<ŸIä! &Ö)‘�Ø’9ÙÜ˜a¤×&Ò&Ü˜1“v Ô'Ø$%¥K˜›	ä" 1›v¨Ô0Ð0Ò0à!"  g¥�F“Iñ *ð ˆùò9 Pùò OùâKs   ¤G+ÄG0Ä5,G5c                ól  € \        VP                  4      ^8X  g   Q hVP                  R9   d   V P                  VRRR7      pMV P                  VRR7      p\        ;QJ d    R V 4       F  '       d   K   RM	  RM! R V 4       4      '       d›   V Uu. uF  p\        V\        4      NK  	  pp\        V4      pV'       dA   \        VRR/  Uu. uF
  qr! V4      NK  	  upV P                  VP                  ^ ,          &   R# V! V4      V P                  VP                  ^ ,          &   R# R# u upi u upi )	rQ   T)r÷  rî  )r÷  c              3   ó(   "  € T F  qR Jx € K
  	  R # 5ir*   rC   rò  s   & r   rP  Ú@SymbolicShapeInference._compute_on_sympy_data.<locals>.<genexpr>›  rô  rõ  FÚstrictN)r‚   ro   )
rR   rË  rÊ  rý  rS  rö  rI   ÚanyÚzipr¶  )rD  r   Úop_funcrø  r\   Úis_listrZ   Úvss   &&&     r   Ú_compute_on_sympy_dataÚ-SymbolicShapeInference._compute_on_sympy_data�  sþ   € Ü�4—;‘;Ó 1Ô$Ð$Ð$ð
 �<‰<˜>Ô)Ø×2Ñ2°4À4Ð\`Ð2Óa‰Fà×2Ñ2°4À4Ð2ÓHˆFç‹3Ñ-¡fÓ-�3�3Š3Ñ-¡fÓ-×-Ò-Ù4:Ó;±F¨q”z !¤TÖ*±FˆGÐ;Ü˜'“lˆGßÜJMÈvÐJdÐ^cÒJdÓ3eÑJdÀB°G¸B¶KÑJdÑ3e�× Ñ  §¡¨Q¥Ó0á3:¸6³?�× Ñ  §¡¨Q¥Ó0ñ .ùÚ;ùò 4fs   ÂD,ÃD1c                ó†   € \        VP                  4      ^8X  g   VP                  R9   g   Q hV P                  VR 4       R# )rQ   c                 ó   € V ^ ,          # r   rC   rU   s   &r   Ú<lambda>Ú<SymbolicShapeInference._pass_on_sympy_data.<locals>.<lambda>©  s   € °A°a¶Dr   N)rŒ   r    r›   )rR   ri  rÊ  r  ©rD  r   s   &&r   Ú_pass_on_sympy_dataÚ*SymbolicShapeInference._pass_on_sympy_data£  s>   € Ü�4—:‘:‹ !Ô# t§|¡|ð 8
ô (
ð 	
ð 
ð
 	×#Ñ# D©.Ö9r   c           
     óH  € V P                   VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          \        V P                   VP                  ^ ,          ,          P                  4      V P                  V^ 4      4      4       R# r…  )	ru  rË  rq  r   rw  r,   ri  r   r¥  )rD  r   r.   s   && r   rÞ   Ú.SymbolicShapeInference._pass_on_shape_and_type«  sj   € Ø�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ü-¨d¯n©n¸T¿Z¹ZÈ½]Õ.K×.PÑ.PÓQØ—‘  aÓ(óö	
r   c                ó  € V R V 2pW0P                   9   dJ   V P                   V,          p\        V4      '       d"   \        P                  ! \	        V4      4      pV# TpV# \        P
                  ! VRRR7      pWPP                  V&   V# )Ú_dTr¯  )r;  r5   r?   r@   r6   rX  r<  )rD  rI  r   rŸ  r\   Únew_symbolic_dims   &&&   r   Ú_new_symbolic_dimÚ(SymbolicShapeInference._new_symbolic_dimµ  sŒ   € Ø�H˜B˜s˜eÐ$ˆØ×+Ñ+Ô+Ø×%Ñ% gÕ.ˆAÜ8BÀ1¿ºœuŸ}š}¬S°«VÓ4Ðð  Ðð	 LMÐð  Ðô  %Ÿ|š|¨G¸TÈtÔTÐØ+;×Ñ Ñ(ØÐr   c           	     óÐ   € V P                  VP                   V P                   R \        V P                  P
                  P                  4      P                  V4       RV R 2V4      # )rÛ  Ú_o)r  rÊ  rC  rI   rg  rh  r   r\  )rD  r   Úout_idxr   s   &&&&r   Ú_new_symbolic_dim_from_outputÚ4SymbolicShapeInference._new_symbolic_dim_from_output¿  s`   € Ø×%Ñ%Ø�|‰|ˆn˜TŸ\™\˜N¨!¬D°·±×1CÑ1C×1HÑ1HÓ,I×,OÑ,OÐPTÓ,UÐ+VÐVXÐY`ÐXaÐabÐcØó
ð 	
r   c                ó`   € \        V4       Uu. uF  q@P                  W#V4      NK  	  up# u upi r*   )r–  r  )rD  rE   r   r  r8   s   &&&& r   Ú_new_symbolic_shapeÚ*SymbolicShapeInference._new_symbolic_shapeÅ  s*   € ÜNSÐTXÌkÓZÉkÈ×2Ñ2°4À!ÖDÉkÑZÐZùÒZs   Ž+c           
     ó8	  € V P                  V^ 4      p\        VP                  4      ^8”  dT   V P                  V^4      p\        V4      ^,
          pV'       d   WE) ^,
          R MWE) R pV^ ,          Y2'       d   ^M^&   MRp\        VR4      p\        V4      p\        V4      V^,           8X  g   Q hV'       d   W5) ^,
          R MW5) R pV Uu. uF  p\	        V4      '       * NK  	  p	p\        V	4      '       gË   \        V P                  VP                  ^ ,          ,          4      p
\        V
4      ^ 8”  dŽ   \        V4      \        V
4      8X  g   Q hV'       d=   W¥) ^,
          R  Uu. uF  p\        P                  ! V4      NK  	  upW5) ^,
          R% V# W¥) R  Uu. uF  p\        P                  ! V4      NK  	  upW5) R% V# \        VR^.V,          4      p\        VR^.V,          4      p\        WlRR7       UUu. uF  w  rëV^,
          V,          ^,           NK  	  ppp\        VR4      pVfÓ   ^ .^V,          ,          p\        VRR	4      P                  R
4      pVR8w  dŠ   VR8w  dƒ    \        W5) R VRR7       UUu. uF  w  pp\        P                  ! VV4      NK  	  ppp\        WýVRR7       UUUu. uF*  w  ppp\        ^ V^ 8X  d
   VV,
          MVV,
          4      NK,  	  ppppM]VR8X  d   . pMS^ .V,          pMH\        V4      ^V,          8X  g   Q h\        VRV VVR RR7       UUu. uF  w  ppVV,           NK  	  ppp\        VR^ 4      p\!        V4       F½  pY5) V,           V'       d   RM^ ,           ,          p\        V4      ^ 8”  d   VVV,          ,           pV'       d2   \        P"                  ! VWø,          ,
          WØ,          ,          4      pMVWø,          ,
          WØ,          ,          pV^,           Y5) V,           V'       d   RM^ ,           &   K¿  	  V# u upi u upi u upi u uppi u uppi u upppi   \         d>    \        YýRR7       UUu. uF  w  pp\        ^ TT,
          4      NK  	  Mu uppi ppp ELDi ; iu uppi )r   NÚkernel_shapeÚ	dilationsÚstridesF©r  ÚpadsÚauto_pads   NOTSETúutf-8ÚVALIDÚNOTSETÚ	ceil_modeéÿÿÿÿ)r³  rR   ri  r   r5   r  r/   ru  rË  r?   r@   r  ÚdecodeÚModrÐ   Ú	TypeErrorr–  Úceiling)rD  r   Úchannels_lastr7   ÚW_shaperE   r!  Úspatial_shaper8   Úis_symbolic_dimsr%   r'   r"  r#  r`  Úeffective_kernel_shaper%  r&  rO  ÚresidualÚrÚ
total_padsÚp1Úp2r*  Úeffective_input_sizeÚstrided_kernel_positionss   &&&                        r   Ú_compute_conv_pool_shapeÚ/SymbolicShapeInference._compute_conv_pool_shapeÈ  sR  € Ø×+Ñ+¨D°!Ó4ˆÜˆt�z‰z‹?˜QÔØ×+Ñ+¨D°!Ó4ˆGÜ�w“< !Õ#ˆDß6C˜7 5¨1¥9¨rÑ2ÈÐQVÐQWÈˆLØ5<¸QµZˆKž]™°Ò2àˆGÜ(¨¨~Ó>ˆLÜ�|Ó$ˆDä�;Ó 4¨!¥8Ô+Ð+Ð+÷ 8E˜ E¨A¥I°Ñ3È+ÐV[ÐV\ÐJ]ˆÙ7DÓE±}°!¤
¨1£×-±}ÐÐEäÐ#×$Ò$Ü-¨d¯n©n¸T¿[¹[È½^Õ.LÓMˆEÜ�5‹z˜AŒ~Ü˜;Ó'¬3¨u«:Ô5Ð5Ð5ß ØMRÐSXÐ[\ÕS\Ð_aÑMbÓ2cÑMbÈ´5·=²=ÀÖ3CÑMbÑ2c�K ¨¥	¨BÐ/ð #Ð"ð FKÈ5È6Á]Ó*SÁ]À¬5¯=ª=¸Ö+;Á]Ñ*S�K  Ð'Ø"Ð"ä! $¨°a°S¸4µZÓ@ˆ	Ü  i°!°°tµÓ<ˆÜ>AÀ,ÐbgÕ>hÔ!iÑ>h±d°a 1 q¥5¨A¥+°§/ /Ñ>hÐÑ!iÜ˜T 6Ó*ˆØŠ<Ø�3˜!˜d�(Õ#ˆDÜ$ T¨:°yÓA×HÑHÈÓQˆHØ˜7Ô" x°8Ô';ð	Ü<?ÀÈEÈFÐ@SÐU\ÐejÕ<kÔlÑ<k±D°A°q¤§	¢	¨!¨Q¦Ñ<k�HÑlô (+Ð+AÈHÐ]bÕ'cõ"á'c™G˜A˜q !ô ˜A¨!¨q¬&  A¦°q¸1µuÖ>Ù'cð ò "�Jð ˜WÔ$Ø‘
à˜S 4�Z‘
ä�t“9  D¥Ô(Ð(Ð(Ü03°D¸¸$°KÀÀdÀeÀÐUZÕ0[Ô\Ñ0[¡f b¨"˜"˜rŸ'˜'Ñ0[ˆJÑ\ä! $¨°QÓ7ˆ	Ü�t–ˆAØ#.¨u°q­yÇ-¹BÐUVÕ/WÕ#XÐ Ü�:‹ Ô"Ø';¸jÈ½mÕ'KÐ$ßÜ+0¯=ª=Ø)Ð,BÕ,EÕEÈÍÕSó,Ñ(ð -AÐCYÕC\Õ,\ÐahÕakÕ+kÐ(ØD\Ð_`ÕD`ˆK˜ �	¯=¡R¸aÕ@ÓAñ ð Ðùòe Fùò 3dùâ*Sùó
 "jùó  mùô"øô !ô ä47Ð8NÐ`eÕ4fô"Ù4f©D¨A¨qœ˜A  A¥žÒ4fùó"�Jñ "’Jðüó ]sZ   ÃP)Å)P.ÆP3Ç?"P8É0Q Ê#P>Ê'Q Ê<0QË,Q Ì6RÐ>Q ÑRÑ&RÒ
RÒRc                ó6  a€ V'       d6   S Uu. uF(  p\        V4      '       d   \        V4      ^8:  d   K&  VNK*  	  upo\        ;QJ d    V3R lS 4       F  '       d   K   RM	  RM! V3R lS 4       4      '       g   V P                  SRR7       R# R# u upi )rQ   c              3   ó:   <"  € T F  qS^ ,          8H  x € K  	  R# 5ir…  rC   r†  s   & €r   rP  Ú<SymbolicShapeInference._check_merged_dims.<locals>.<genexpr>  ó   øé € Ð.© A˜˜Q�–<«ùr‡  FTr”  N)r5   r6   rS  rd  )rD  ry  r‚  r'   s   &f& r   rŒ  Ú)SymbolicShapeInference._check_merged_dims  sm   ø€ ßÙ#ÓK™t˜!¬J°q¯MªM¼cÀ!»fÈ¹k—A�A™tÑKˆDß‹sÔ.©Ó.�s�sŠsÔ.©Ó.×.Ò.Ø×%Ñ% d°$Ð%Ö7ñ /ùò Ls
   Ž#B¶BNc                óú  € V P                  V^ 4      pV P                  V^4      p\        V4      p\        V4      p^ p^ pV^ 8”  d   V^ 8”  g   Q hV^8X  d   V^8X  d   . p	MYV^8X  d   Rp. VRV OVR,          Np	M?V^8X  d	   RpVRV p	M0RpRp. V P                  VRR VRR 4      OVR,          NVR,          Np	V P                  W7,          WH,          .RR7       VfC   V P                  VP
                  ^ ,          ,          P                  P                  P                  pV P                  VP                  ^ ,          ,          p
V
P                  \        P                  ! VP                  ^ ,          W)4      4       R# )r   NFr�  éþÿÿÿr+  )r¥  rR   r   rŒ  ru  ri  r   r    r+   rË  rq  r   rw  )rD  r   Úoutput_dtypeÚ	lhs_shapeÚ	rhs_shapeÚlhs_rankÚrhs_rankÚlhs_reduce_dimÚrhs_reduce_dimr™  r.   s   &&&        r   Ú_compute_matmul_shapeÚ,SymbolicShapeInference._compute_matmul_shape  sq  € Ø—O‘O D¨!Ó,ˆ	Ø—O‘O D¨!Ó,ˆ	Ü�y“>ˆÜ�y“>ˆØˆØˆØ˜!Œ| ¨1¤Ð,Ð,Ø�qŒ=˜X¨œ]Ø‰IØ˜Œ]ØˆNØD˜) O ^Ð4ÐD°iÀµmÐD‰IØ˜Œ]ØˆNØ! / >Ð2‰IàˆNØˆNØo˜$×0Ñ0°¸3¸B°ÀÈ3ÈBÀÓPÐoÐR[Ð\^ÕR_ÐoÐajÐkmÕanÐoˆIà×ÑØÕ&¨	Õ(AÐBØ!ð 	 ô 	
ð ÒàŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À,ÓZÖ[r   c           
     ó   € \        V4      '       d!   VP                  P                  P                  MVP                  p\        V4      '       d!   VP                  P                  P                  MVP                  pVP                  VP                  8w  dµ   VP                  '       d   VP                  MVP
                  p\        RV R\        P                  P                  P                  P                  VP                  4       R\        P                  P                  P                  P                  VP                  4       24      hVP                  R4      '       dÝ   \        \        VP                  P                   VP                  P                   RR7      4       F—  w  r‰V	^ ,          V	^,          8w  g   K  \        P"                  P%                  4       p
\        V4      '       g!   \'        V P)                  WV4      4      V
n        VP                  P                   V,          P-                  V
4       K™  	  R# VP-                  V4       R# )zX
update dst_tensor_type to be compatible with src_tensor_type when dimension mismatches
z	For node z:, dst_tensor_type.elem_type != src_tensor_type.elem_type: z vs r%   Fr$  N)r#   r   r+   r    r
   rÊ  Ú
ValueErrorr1   Úonnx_pbÚTensorProtoÚDataTypeÚNamer&   r¿  r  r%   r   ÚTensorShapeProtoÚ	Dimensionr   r  rk  rq  )rD  r   r  Údst_typeÚsrc_typeÚdst_tensor_typeÚsrc_tensor_typeÚnode_idÚdiÚdsrŸ  s   &&&&&      r   Ú_fuse_tensor_typeÚ(SymbolicShapeInference._fuse_tensor_type1  s¿  € ô
 =HÈ×<QÒ<QˆH×"Ñ"×,Ñ,×8Ò8ÐW_×WkÑWkð 	ô =HÈ×<QÒ<QˆH×"Ñ"×,Ñ,×8Ò8ÐW_×WkÑWkð 	ð ×$Ñ$¨×(AÑ(AÔAØ#'§9§9 9�d—i’i°$·,±,ˆGÜØ˜G˜9Ð$^Ü—<‘<×+Ñ+×4Ñ4×9Ñ9¸/×:SÑ:SÓTÐUÐUYÜ—<‘<×+Ñ+×4Ñ4×9Ñ9¸/×:SÑ:SÓTÐUðWóð ð
 ×#Ñ# G×,Ò,Ü#¤C¨×(=Ñ(=×(AÑ(AÀ?×CXÑCX×C\ÑC\ÐejÔ$kÖl‘�Ø�a•5˜B˜q�E–>ô #×3Ñ3×=Ñ=Ó?�GÜ& x×0Ò0Ü,/°×0RÑ0RÐSWÐbdÓ0eÓ,f˜Ô)Ø#×)Ñ)×-Ñ-¨bÕ1×:Ñ:¸7ÖCó mð ×$Ñ$ _Ö5r   c           	     óš  € V P                  V^ 4      pV P                  V^4      pV P                  VP                  ^ ,          ,          pVP                  \        P
                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  VRR V,           4      4       R# ©r   Nr+  ©
r¥  ru  rË  rq  r   rw  ri  r   r    r+   )rD  r   Ú
data_shapeÚindices_shaper.   s   &&   r   rß   Ú3SymbolicShapeInference._infer_ArrayFeatureExtractorN  s‘   € Ø—_‘_ T¨1Ó-ˆ
ØŸ™¨¨aÓ0ˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHØ˜3˜B� -Õ/óö	
r   c                ó¾   a € R R RR RR RR RV 3R	 lR
V 3R lRR RR RR RR /
pVP                   V9   g   Q hS P                  WVP                   ,          4       R# )ra   c                 ó0   € V ^ ,          V ^,          ,           # r   rC   ©Úls   &r   r  ÚDSymbolicShapeInference._infer_symbolic_compute_ops.<locals>.<lambda>\  ó   € ˜Q˜q�T A a¥Dž[r   ro   c                 óÆ   € \        V ^ ,          V ^,          ,          \        4      '       d!   \        V ^ ,          V ^,          ,          4      # V ^ ,          V ^,          ,          # r   ©rö  Úfloatr6   rg  s   &r   r  ri  ]  sE   € Ü%/°°!µ¸¸!½µ¼e×%DÒ%D”�A�a•D˜A˜a�D•LÓ!ÐVÈ!ÈAÍ$ÐRSÐTUÕRVÍ,ÐVr   rr   c                 ó(   € V ^ ,          V ^,          8H  # r   rC   rg  s   &r   r  ri  `  s   € ˜q �t q¨¥tš|r   rs   c                 ó<   € \         P                  ! V ^ ,          4      # r   )r?   Úfloorrg  s   &r   r  ri  a  s   € œuŸ{š{¨1¨Q­4Ô0r   r}   c                 óZ  <€ \        V ^ ,          4      '       d,   \        V ^ ,          4      SP                  ) 8  d
   V ^,          # \        V ^,          4      '       d,   \        V ^,          4      SP                  ) 8  d
   V ^ ,          # \        P                  ! V ^ ,          V ^,          4      # r   )r5   r6   rA  r?   r}   ©rh  rD  s   &€r   r  ri  b  sŠ   ø€ ä˜a �d×#Ò#¬¨A¨a­D«	°T·]±]°NÔ(Bð �!•ð jä(¨¨1­×.Ò.´3°q¸µt³9ÀÇÁ¸~Ô3M�a˜•dðjäSX×S\ÒS\Ð]^Ð_`Õ]aÐcdÐefÕcgÓShðjr   r€   c                 óV  <€ \        V ^ ,          4      '       d+   \        V ^ ,          4      SP                  8”  d
   V ^,          # \        V ^,          4      '       d+   \        V ^,          4      SP                  8”  d
   V ^ ,          # \        P                  ! V ^ ,          V ^,          4      # r   )r5   r6   rA  r?   r€   rr  s   &€r   r  ri  g  s†   ø€ ä˜a �d×#Ò#¬¨A¨a­D«	°D·M±MÔ(Að �!•ð iä(¨¨1­×.Ò.´3°q¸µt³9¸t¿}¹}Ô3L�a˜•dðiäRW×R[ÒR[Ð\]Ð^_Õ\`ÐbcÐdeÕbfÓRgðir   r‚   c                 óÆ   € \        V ^ ,          V ^,          ,          \        4      '       d!   \        V ^ ,          V ^,          ,          4      # V ^ ,          V ^,          ,          # r   rl  rg  s   &r   r  ri  l  sH   € ´¸A¸a½DÀ1ÀQÅ4½KÌ×1OÒ1OœS  1¥¨¨!­¥Ó-Ð`ÐUVÐWXÕUYÐ\]Ð^_Õ\`ÕU`Ð`r   rœ   c                 ó0   € V ^ ,          V ^,          ,
          # r   rC   rg  s   &r   r  ri  m  rj  r   r¡   c                 óD   € V ^ ,          '       d
   V ^,          # V ^,          # r   rC   rg  s   &r   r  ri  n  s   €  q¨§t¤t˜q �tÐ5°°1µÐ5r   r£   c                 ó   € V ^ ,          ) # r   rC   rg  s   &r   r  ri  o  s
   € ˜a �d™Ur   N)rÊ  r  )rD  r   Úfuncss   f& r   rÝ   Ú2SymbolicShapeInference._infer_symbolic_compute_opsZ  s|   ø€ àÑ(Øñ ð Ñ+ØÑ0Øô ð
 ô ð
 Ñ`ØÑ(ØÑ5Ø‘?ð)
ˆð, �|‰|˜uÔ$Ð$Ð$Ø×#Ñ# D°·±Õ*=Ö>r   c                ó(   € V P                  V4       R # r*   )r  r  s   &&r   râ   Ú"SymbolicShapeInference._infer_Castt  s   € Ø× Ñ  Ö&r   c           
     ó  € V P                   VP                  ^ ,          ,          P                  P                  P                  pV\
        P                  P                  8X  d   \
        P                  P                  pM\
        P                  P                  pV P                   VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          W0P                  V^ 4      4      4       R# r…  )ru  ri  r   r    r+   r1   rQ  ÚSTRINGÚINT64rË  rq  r   rw  r¥  )rD  r   Ú
input_typeÚoutput_typer.   s   &&   r   rã   Ú,SymbolicShapeInference._infer_CategoryMapperw  s¤   € Ø—^‘^ D§J¡J¨q¥MÕ2×7Ñ7×CÑC×MÑMˆ
Øœ×)Ñ)×0Ñ0Ô0Ü×*Ñ*×0Ñ0‰Kä×*Ñ*×1Ñ1ˆKØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À+ÏÉÐ_cÐefÓOgÓhÖir   c                óð  € V P                  V^ 4      p\        V P                  V4      4      p\        VR4      pVf   V.pMTpW5\	        V\        V4      4      &   V P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  V4      4       R# )r   rD   N)r¥  r   r  r   rF   rR   ru  rË  rq  r   rw  ri  r   r    r+   )rD  r   Úinput_shapeÚcompress_lenrD   Úoutput_shaper.   s   &&     r   rä   Ú&SymbolicShapeInference._infer_Compress€  s½   € Ø—o‘o d¨AÓ.ˆä˜4×=Ñ=¸dÓCÓDˆÜ˜T 6Ó*ˆØŠ<à(˜>‰Là&ˆLØIUÔ-¨d´C¸Ó4DÓEÑFØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHØóö	
r   c           	     ó¤  a a€ \         ;QJ d)    V 3R  lVP                   4       F  '       g   K   RM	  RM! V 3R  lVP                   4       4      '       Ed*   S P                  V4      p\        ;QJ d    R V 4       F  '       d   K   RM	  RM! R V 4       4      '       dß   \	        VR4      ^ 8X  g   Q h. S P
                  VP                  ^ ,          &   \        \        VP                  4      4       F‰  pW#,          p\        V\        4      '       d6   S P
                  VP                  ^ ,          ,          P                  V4       KV  S P
                  VP                  ^ ,          ,          P                  V4       K‹  	  S P                  V^ 4      p\        \	        VR4      \        V4      4      p\        ^\        VP                  4      4       F5  pS P                  W4      pV'       g   K  WV,          W†,          ,           WV&   K7  	  S P                  V4       \        \        V4      4       Fó  p	W–8X  d   K  \        \        VP                  4      4       Uu. uF4  pS P!                  W4      '       g   K  S P!                  W4      V	,          NK6  	  upo\        ;QJ d    V3R lS 4       F  '       d   K   RM	  RM! V3R lS 4       4      '       d   Kª  S P#                  S4      p
\%        V
4      \&        J d"   V
'       d   S P(                  V
,          MRWY&   Kï  W¥V	&   Kõ  	  S P*                  VP                  ^ ,          ,          pVP-                  \.        P0                  ! VP                  ^ ,          S P*                  VP                  ^ ,          ,          P$                  P2                  P4                  \7        V4      4      4       R# u upi )c              3   ón   <"  € T F*  qSP                   9   ;'       g    VSP                  9   x € K,  	  R # 5ir*   )r¶  rt  ©rN  r8   rD  s   & €r   rP  Ú7SymbolicShapeInference._infer_Concat.<locals>.<genexpr>•  s0   øé € ÐTÉÀA�D×$Ñ$Ñ$×?Ð?¨¨T×-?Ñ-?Ñ(?Ô?Ëùs   ƒ5�5TFc              3   ó(   "  € T F  qR Jx € K
  	  R # 5ir*   rC   rò  s   & r   rP  rŠ  —  s   é € Ð1©& Q˜D•=«&ùrõ  rD   c              3   ó:   <"  € T F  qS^ ,          8H  x € K  	  R# 5ir…  rC   r†  s   & €r   rP  rŠ  ­  rA  r‡  N)r  ri  rý  rS  r   r¶  rË  r–  rR   rö  rI   rÜ  r²  r³  rF   rÂ  r¥  r‘  r   r   r<  ru  rq  r   rw  r    r+   r9   )rD  r   rø  r8   r   r7   rD   Úi_idxrƒ  r'   r‰  r.   ry  s   f&          @r   rå   Ú$SymbolicShapeInference._infer_Concat”  s¤  ù€ ß‹3ÔTÈÏÊÓT�3�3Š3ÔTÈÏÊÓT×TÓTØ×2Ñ2°4Ó8ˆFß‹sÑ1©&Ó1�s�sŠsÑ1©&Ó1×1Ò1Ü$ T¨6Ó2°aÔ7Ð7Ð7Ø35�× Ñ  §¡¨Q¥Ñ0Üœs 4§:¡:›Ö/�AØ"�I�EÜ! %¬×.Ò.Ø×(Ñ(¨¯©°Q­Õ8×?Ñ?ÀÖFà×(Ñ(¨¯©°Q­Õ8×?Ñ?ÀÖFñ 0ð ×+Ñ+¨D°!Ó4ˆÜ#¤M°$¸Ó$?ÄÀ[ÓAQÓRˆÜ˜1œc $§*¡*›oÖ.ˆEØ×/Ñ/°Ó<ˆKß‰{Ø$/Õ$5¸Õ8IÕ$I�Ó!ñ /ð 	×"Ñ" ;Ô/ä”s˜;Ó'Ö(ˆAØŒyÙÜAFÄsÈ4Ï:É:ÃÔAWÓxÑAW¸Ð[_×[jÑ[jÐko×[wÔ3�D—O‘O DÓ0°×3Ð3ÑAWÑxˆDß‹sÔ.©Ó.�s�sŠsÔ.©Ó.×.Ò.ÙØ×(Ñ(¨Ó.ˆFÜ�F‹|œsÓ"ß@F ×!4Ñ!4°VÖ!<ÈD�“à!'˜A“ñ )ð �^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHÜ*¨;Ó7óö	
ùò ys   ÉOÉ8Oc                ór  € V P                  V^ 4      p\        VR4      '       d   ^M^ p\        \        VR4      \        V4      V,           4      p\	        V P                  V^ V4      4      pTpV'       d   . VRV OVNW$R OpMWVV&   V P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  P                  P                  V4      4       R# )r   Únew_axisrD   N)r¥  r   rF   rR   r   r  ru  rË  rq  r   rw  ri  r   r   r+   r    )rD  r   Ú	seq_shaper�  rD   Ú
concat_dimr™  r.   s   &&      r   ræ   Ú0SymbolicShapeInference._infer_ConcatFromSequence½  sú   € Ø—O‘O D¨!Ó,ˆ	Ü% d¨J×7Ò7‘1¸QˆÜ#¤M°$¸Ó$?ÄÀYÃÐRZÕAZÓ[ˆÜ˜×;Ñ;¸DÀ!ÀTÓJÓKˆ
Øˆ	ßØJ˜) E TÐ*ÐJ¨JÐJ¸À5Ð9IÐJ‰Ià(�d‰OØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×@Ñ@×JÑJ×VÑV×`Ñ`Øóö	
r   c                ó†   € \        VR 4      p\        P                  ! V4      V P                  VP                  ^ ,          &   R# r   )r   r   r·  r¶  rË  )rD  r   Úts   && r   rç   Ú&SymbolicShapeInference._infer_ConstantÐ  s1   € Ü˜$ Ó(ˆÜ+7×+@Ò+@ÀÓ+Cˆ×Ñ˜Ÿ™ Q�Ó(r   c           	     óè  € V P                  V4      ^ ,          pV P                  VP                  ^ ,          ,          pVEe$   \        V4      \        8w  d   V.pV P                  V4       VP                  P                  P                  \        P                  P                  8X  d¾   \        ;QJ d    R V 4       F  '       d   K   RM	  RM! R V 4       4      '       d„   \        P                  ! V Uu. uF  p\        V4      NK  	  up\        P                  R7      \         P"                  ! \%        VR^ 4      4      ,          V P&                  VP                  ^ ,          &   M)V P)                  V P+                  V^ 4      ^ ,          V4      pVP-                  \.        P0                  ! VP                  ^ ,          VP                  P                  P                  \3        V4      4      4       R# u upi )r   Nc              3   ó8   "  € T F  p\        V4      x € K  	  R # 5ir*   )r5   )rN  rV   s   & r   rP  Ú@SymbolicShapeInference._infer_ConstantOfShape.<locals>.<genexpr>Ü  s   é € ÐNrÑfqÐabÌzÐZ[Ï}È}Ófqùs   ‚FT)Údtyper   )rý  ru  rË  r   rI   rÂ  r    r+   r1   rQ  r~  rS  r<   Úonesr6   r=   r   r·  r   r¶  r  r¥  rq  r   rw  r9   )rD  r   r7   r.   rV   s   &&   r   rè   Ú-SymbolicShapeInference._infer_ConstantOfShapeÔ  s`  € Ø×3Ñ3°DÓ9¸!Õ<ˆØ�^‰^˜DŸK™K¨�NÕ+ˆØÓ"Ü�KÓ ¤DÔ(Ø*˜m�Ø×&Ñ& {Ô3à�w‰w×"Ñ"×,Ñ,´×0@Ñ0@×0FÑ0FÔFÏ3Ë3ÑNrÑfqÓNrÏ3Ï3Ê3ÑNrÑfqÓNr×KrÒKrÜ35·7²7Ù%0Ó1¡[ ”S˜–V¡[Ñ1¼¿¹ô4ä ×)Ò)¬-¸¸gÀqÓ*IÓJõ4K�× Ñ  §¡¨Q¥Ñ0øð ×2Ñ2°4·?±?À4ÈÓ3KÈAÕ3NÐPTÓUˆKà
�‰Ü×)Ò)Ø—‘˜A•Ø—‘×#Ñ#×-Ñ-Ü*¨;Ó7óö	
ùò 2s   Ã5G/c           	     óP  € V P                  V4      pV P                  V4       V P                  VP                  ^ ,          ,          pVP	                  \
        P                  ! VP                  ^ ,          VP                  P                  P                  \        V4      4      4       R# r…  )r<  rÂ  ru  rË  rq  r   rw  r   r    r+   r9   ©rD  r   r7   r.   s   &&  r   ré   Ú"SymbolicShapeInference._infer_Conví  sv   € Ø×3Ñ3°DÓ9ˆØ×"Ñ" ;Ô/Ø�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘×#Ñ#×-Ñ-Ü*¨;Ó7óö	
r   c           	     ó˜  € V P                  VR R7      pV P                  V4       V P                  VP                  ^ ,          ,          pVP	                  \
        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  \        V4      4      4       R# )T)r0  N)r<  rÂ  ru  rË  rq  r   rw  ri  r   r    r+   r9   rž  s   &&  r   r   Ú&SymbolicShapeInference._infer_NhwcConvù  sŽ   € Ø×3Ñ3°DÈÐ3ÓMˆØ×"Ñ" ;Ô/Ø�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHÜ*¨;Ó7óö	
r   c                ód  € V P                   VP                  ^,          ,          P                  P                  P                  pV P                  V^ 4      pV P                   VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          W#4      4       R# r¨  )
ru  ri  r   r    r+   r¥  rË  rq  r   rw  ©rD  r   rE  r…  r.   s   &&   r   r  Ú.SymbolicShapeInference._infer_DequantizeLinear  ss   € à—~‘~ d§j¡j°¥mÕ4×9Ñ9×EÑE×OÑOˆð —‘ t¨QÓ/ˆà�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À,Ó]Ö^r   c                óþ  € \         P                  P                  p\        VP                  4      ^8”  d\   VP                  ^,          '       dC   V P
                  VP                  ^,          ,          P                  P                  P                  pV P                  V^ 4      pV P
                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          W#4      4       R# ©rÚ  N)r1   rQ  ÚUINT8rR   ri  ru  r   r    r+   r¥  rË  rq  r   rw  r£  s   &&   r   r&  Ú,SymbolicShapeInference._infer_QuantizeLinear  s¢   € ô ×'Ñ'×-Ñ-ˆÜˆt�z‰z‹?˜QÔ 4§:¡:¨a§=¤=ØŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLð —‘ t¨QÓ/ˆà�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À,Ó]Ö^r   c                óª  € V P                   VP                  ^ ,          ,          P                  P                  P                  pV P                  V^ 4      pV P                  V^4      pV P                  W44      pV P                   VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          W%4      4       R# r…  )ru  ri  r   r    r+   r¥  r   rË  rq  r   rw  )rD  r   rE  Úinput_1_shapeÚinput_2_shaper™  r.   s   &&     r   r%  Ú+SymbolicShapeInference._infer_QLinearBinary  s•   € à—~‘~ d§j¡j°¥mÕ4×9Ñ9×EÑE×OÑOˆð Ÿ™¨¨aÓ0ˆØŸ™¨¨aÓ0ˆð ×*Ñ*¨=ÓHˆ	à�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À,ÓZÖ[r   c                óò  € \        VR 4      pVP                  RR4      pVP                  R4      pVR8w  d   VRV MTp^ p^ p^ p/ pVP                  R4      p	V	 FÍ  p
V
P                  R4      pV P	                  W4      p\        V4      pVR8w  d*   V^ 8X  d   V\        V
4      ,
          ^,           pV^,           p\        ^V^,           4       FM  pW®) ,          pV^.8w  g   K  WÎ) ,          pWø9  d   VW�&   K*  \        V4      \        P                  Jg   KI  VW�&   KO  	  V^,           pKÏ  	  . p^ RI
Hp V! 4       pVR8w  dy   W#^,           R pVP                  R4      pVR8w  d+   \        V4       F  pVP                  XV,          4       K  	  V F$  pV^.8w  g   K  VP                  VV,          4       K&  	  M¡\        V4       F  pVP                  XV,          4       K  	  V F6  pV^,8w  g   K  V^.8w  g   K  VV9   d   VV,          ^,           VV&   K1  ^VV&   K8  	  VP                  4        F'  w  ppV^8X  g   K  VP                  VV,          4       K)  	  V P                  VP                  ^ ,          ,          P                  P                   P"                  pV P                  VP$                  ^ ,          ,          pVP'                  \(        P*                  ! VP$                  ^ ,          VV4      4       R# )	Úequationó    r   s   ->Nó   ,s   ...)ÚOrderedDictr+  )r   ÚreplaceÚfindÚsplitr¥  rR   r–  r   r?   rX  Úcollectionsr±  r²  rU  ru  ri  r    r+   rË  rq  r   rw  )rD  r   r®  Ú	mid_indexÚleft_equationÚnum_operandsÚnum_ellipsisÚnum_ellipsis_indicesÚletter_to_dimÚtermsÚtermÚellipsis_indexr%   rE   r8   Úletterr   rÀ  r±  Únum_letter_occurrencesÚright_equationÚright_ellipsis_indexÚcÚkeyr   rE  r.   s   &&                         r   rê   Ú$SymbolicShapeInference._infer_Einsum*  s¦  € ä   zÓ2ˆØ×#Ñ# D¨#Ó.ˆØ—M‘M %Ó(ˆ	Ø09¸R´˜  )Ñ,ÀXˆàˆØˆØ Ðàˆà×#Ñ# DÓ)ˆÛˆDØ!ŸY™Y vÓ.ˆNØ—O‘O DÓ7ˆEÜ�u“:ˆDØ Ô#Ø 1Ô$Ø+/´#°d³)Õ+;¸aÕ+?Ð(Ø+¨aÕ/�Ü˜1˜d Q�hÖ'�Ø˜b��Ø˜R–<Ø �)�CØÔ2Ø03˜Ó-Ü˜c›¬%¯,©,Õ6Ø03˜Ó-ñ (ð (¨!Õ+ŠLñ! ð$ ˆÝ+á!,£ÐØ˜Œ?Ø%°!¥m oÐ6ˆNØ#1×#6Ñ#6°vÓ#>Ð Ø# rÔ)ÜÐ3Ö4�AØ#×*Ñ*¨5°­8Ö4ñ 5ã#�Ø˜–7Ø#×*Ñ*¨=¸Õ+;Ö<ò $ô Ð/Ö0�Ø×&Ñ& u¨Q¥xÖ0ñ 1ã"�Ø˜–7˜q BžwØÐ2Ô2Ø4JÈ1Õ4MÐPQÕ4QÐ.¨qÓ1à45Ð.¨qÓ1ñ #ð 5×:Ñ:Ö<‘
��UØ˜A–:Ø#×*Ñ*¨=¸Õ+=Ö>ñ =ð —~‘~ d§j¡j°¥mÕ4×9Ñ9×EÑE×OÑOˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À,ÐP_Ó`Öar   c                ó   € \        V P                  V^4      RR7      pVeÝ   V P                  V4       V P                  V^ 4      pV P	                  V\        V4      4      pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  V4      4       R# R# )rQ   T©rY   N)rZ   r¼  rÂ  r¥  r   r9   ru  rË  rq  r   rw  ri  r   r    r+   )rD  r   Úexpand_to_shaper%   r™  r.   s   &&    r   rë   Ú$SymbolicShapeInference._infer_Expandh  sÁ   € Ü! $×"5Ñ"5°d¸AÓ">È$ÔOˆØÒ&à×&Ñ& Ô7Ø—O‘O D¨!Ó,ˆEØ×.Ñ.¨uÔ6PÐQ`Ó6aÓbˆIØ—‘ §¡¨A¥Õ/ˆBØ�K‰KÜ×-Ò-Ø—K‘K •NØ—N‘N 4§:¡:¨a¥=Õ1×6Ñ6×BÑB×LÑLØóöñ 'r   c           
     óð  € V P                  V^ 4      p\        \        VR^ 4      \        V4      4      pV P                  V^4      pV P                  VP
                  ^ ,          ,          pVP                  R8X  dD   V P                  VP                  ^ ,          ,          P                  P                  P                  pMlVP                  R8X  dD   V P                  VP                  ^,          ,          P                  P                  P                  pM\        RVP                   24      hVP                  \        P                  ! VP
                  ^ ,          VVRV V,           W#^,           R ,           4      4       VP                  ^ ,          V P                  9   EdT   \        V4      ^8X  EdA   \        VR^ 4      ^ 8X  Ed,   V P!                  V^4      pVEe   V P                  VP                  ^ ,          ,          p\        V4      \"        J d«   \        V4      \$        P&                  J d\   \        VP(                  4      ^8X  dB   V U	u. uF  q˜\+        V	4      ,          NK  	  up	V P                  VP
                  ^ ,          &   R# V\+        V4      ,          V P                  VP
                  ^ ,          &   R# V^ 8X  g
   VR8X  g   Q hW€P                  VP
                  ^ ,          &   R# R# R# R# R# u up	i )r   rD   rt   r®   zUnsupported Gather op_type: Nr+  )r¥  rF   r   rR   ru  rË  rÊ  ri  r   r    r+   rO  rq  r   rw  r¶  r¼  rI   r<   rS   r%   r6   )
rD  r   rb  rD   rc  r.   r+   r¤  Údatar8   s
   &&        r   rì   Ú$SymbolicShapeInference._infer_Gatherx  s9  € Ø—_‘_ T¨1Ó-ˆ
Ü#¤M°$¸ÀÓ$BÄCÈ
ÃOÓTˆØŸ™¨¨aÓ0ˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ�<‰<˜8Ô#ØŸ™ t§z¡z°!¥}Õ5×:Ñ:×FÑF×PÑP‰IØ�\‰\Ð3Ô3àŸ™ t§z¡z°!¥}Õ5×:Ñ:×FÑF×PÑP‰IäÐ;¸D¿L¹L¸>ÐJÓKÐKØ
�‰Ü×)Ò)Ø—‘˜A•ØØ˜5˜DÐ! MÕ1°JÀa½x¸zÐ4JÕJóô	
ð �:‰:�a�=˜D×,Ñ,Õ,´°Z³ÀAÕ1EÌ-ÐX\Ð^dÐfgÓJhÐlmÕJmØ×%Ñ% d¨AÓ.ˆCØ‹Ø×'Ñ'¨¯
©
°1­Õ6�Ü˜“:¤Ó%Ü˜C“y¤B§J¡JÓ.´3°s·y±y³>ÀQÔ3FÙRUÓ;VÑRUÈQÄÀQÃ¿L¸LÑRUÑ;V˜×(Ñ(¨¯©°Q­Ó8à;?ÄÀCÃ½>˜×(Ñ(¨¯©°Q­Ó8à !œ8 s¨b¤yÐ0Ð0Ø7;×$Ñ$ T§[¡[°¥^Ó4ñ ñ KnÑ1EÑ,ùò <Ws   ÉK3c                ób  € V P                  V^4      pV P                  VP                  ^ ,          ,          pVP                  \        P
                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  V4      4       R# r¨  ra  )rD  r   rc  r.   s   &&  r   rí   Ú,SymbolicShapeInference._infer_GatherElements™  sv   € ØŸ™¨¨aÓ0ˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHØóö	
r   c                ó  € V P                  V^ 4      p\        V4      pV P                  V^4      p\        V4       VR,          p\        V4      '       d   WS8:  g   Q hVRR W%R ,           pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  V4      4       R# r`  )r¥  rR   r5   ru  rË  rq  r   rw  ri  r   r    r+   )rD  r   rb  Ú	data_rankrc  Úlast_index_dimensionr™  r.   s   &&      r   rî   Ú&SymbolicShapeInference._infer_GatherND¤  sÑ   € Ø—_‘_ T¨1Ó-ˆ
Ü˜
“Oˆ	ØŸ™¨¨aÓ0ˆÜˆMÔØ,¨RÕ0ÐÜÐ.×/Ò/Ð4HÔ4UÐUÐUØ! # 2Ð&¨Ð4IÐ)JÕJˆ	Ø�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHØóö	
r   c           	     ó  € \        VR 4      \        VR4      .pV P                  V^ 4      pVeP   \        V4      ^ 8”  d!   V^,          P                  V^ ,          4       MV^ ,          P                  V^,          4       \	        V4       EFr  w  rEV P                  WRR7      p\        \        VP                  4      4       EF6  pV P                  VP                  V,          ,          pV^ 8X  d<   VP                  VP                  V,          4       VP                  V,          Vn
        M8V P                  WVP                  VP                  V,          P                  4       Vf   K¨  T\        V4      ^ 8”  d   ^ M^8X  g   KÃ  VP                  V,          P                  VP                  9   g   Kñ  VP                  VP                  V,          P                  ,          V P                  VP                  &   EK9  	  EKu  	  R# )Úthen_branchÚelse_branchNF)râ  )r   r¼  rW   rq  r¿  rê  r–  rR   rË  ru  r
   r]  r   r¶  )	rD  r   Ú	subgraphsÚcondÚi_subrá  Úsubgraph_inferÚi_outr.   s	   &&       r   rï   Ú SymbolicShapeInference._infer_Ifµ  s‚  € ô ˜$ Ó.Ü˜$ Ó.ð
ˆ	ð ×"Ñ" 4¨Ó+ˆØÒÜ˜‹ Ô"Ø˜!•×%Ñ% i°¥lÕ3à˜!•×%Ñ% i°¥lÔ3ä(¨×3‰OˆEØ!×6Ñ6°tÐV[Ð6Ó\ˆNÜœs 4§;¡;Ó/×0�Ø—^‘^ D§K¡K°Õ$6Õ7�Ø˜A”:Ø—K‘K §¡°Õ 6Ô7Ø"Ÿk™k¨%Õ0�B•Gà×*Ñ*¨4¸¿¹ÀÇÁÐQVÕAW×A\ÑA\Ô]ð Ô#¨´yÀ³ÈÔ7J±!ÐPQÖ(RØ—‘ uÕ-×2Ñ2°n×6PÑ6PÖPØ4B×4NÑ4NÈxÏÉÐ_dÕOe×OjÑOjÕ4k˜×(Ñ(¨¯©Ô1ô 1ó  4r   c           	     ód	  € \        VR 4      p\        VP                  4      \        VP                  4      8X  g   Q h\        VP                  4      ^,
          p\        VP                  4       FJ  w  rEVP                  pVP                  V P                  VP                  V,          ,          4       Wen        KL  	  V P                  W4       Rp\        ^V^,           4       EFÔ  pVP                  V,          p	\        V	4      p
\        V	P                  4      '       d}   V
'       ds   RV
9   dj   VP                  V^,           ,          P                  P                  P                  P                  V	P                  P                  P                  4       RpKµ  K·  K¹  VP                  V^,           ,          p\        V4      p\        \        WºRR7      4       FÜ  w  rÍV^ ,          V^,          8w  g   K  \         P"                  P%                  4       p\'        V P)                  WV4      4      Vn        VP                  P,                  P.                  P0                  V,          P                  V4       V	P                  P,                  P.                  P0                  V,          P                  V4       RpKÞ  	  EK×  	  V'       d\   V P2                  ^8”  d8   \4        P7                  RVP                   RVP                  ^ ,           R24       V P                  WRR7       \'        V P)                  V4      4      p\        \        VP                  4      4       EFV  pV P                  VP                  V,          ,          pVP                  VP                  V^,           ,          4       WC8¼  dè   \        VP                  4      '       d   Q hVP                  V^,           ,          P                  P,                  P.                  P0                  pVP                  P,                  P.                  P9                  R	4       VP                  P,                  P.                  P0                  pVVP;                  4       n        VP=                  \?        V4      4       VP                  V,          Vn        EKY  	  R# )
ÚbodyFNTr$  zRerun Loop: Ú(z3...), because of sequence in loop carried variables)rã  r   ) r   rR   ri  r¿  r
   rq  ru  rê  r–  rË  r/   r#   r   r   r+   r  r1   rT  rU  r   r  rk  r    r%   r   r@  rY  r‹  rà  rW  rÜ  rI   )rD  r   rá  Únum_loop_carriedr8   ÚsiÚsi_nameÚneed_second_inferrÚ  ÚsoÚso_shapeÚsi_shaper[  ry  rŸ  Úloop_iter_dimr.   Úsubgraph_vi_dimÚvi_dims   &&                 r   rð   Ú"SymbolicShapeInference._infer_LoopÑ  s\  € Ü   vÓ.ˆÜ�8—>‘>Ó"¤c¨$¯*©*£oÔ5Ð5Ð5Ü˜tŸz™z›?¨QÕ.Ðô ˜xŸ~™~Ö.‰EˆAØ—g‘gˆGØ�K‰K˜Ÿ™ t§z¡z°!¥}Õ5Ô6ØŽGñ /ð
 	×!Ñ! $Ô1ð
 "ÐÜ˜1Ð.°Õ2×3ˆEØ—‘ Õ'ˆBÜ0°Ó4ˆHÜ˜2Ÿ7™7×#Ò#ß ¨Ô 0ð —N‘N 5¨1¥9Õ-×2Ñ2×@Ñ@×JÑJ×SÑSÐTV×T[ÑT[×TiÑTi×TsÑTsÔtØ(,Ò%ñ !1‘8ð —^‘^ E¨A¥IÕ.�Ü4°RÓ8�Ü )¬#¨hÈÔ*OÖ P‘H�BØ˜A•w $ q¥'Ö)Ü"&×"7Ñ"7×"AÑ"AÓ"C˜Ü,/°×0RÑ0RÐSWÐ`bÓ0cÓ,d˜Ô)ØŸ™×+Ñ+×1Ñ1×5Ñ5°bÕ9×BÑBÀ7ÔKØŸ™×+Ñ+×1Ñ1×5Ñ5°bÕ9×BÑBÀ7ÔKØ,0Ò)ô !Qñ 4÷* Ø�}‰}˜qÔ Ü—‘Ø" 4§9¡9 +¨Q¨t¯{©{¸1­~Ð.>Ð>qÐrôð ×%Ñ% dÀeÐ%ÔLô ˜D×>Ñ>¸tÓDÓEˆÜ”s˜4Ÿ;™;Ó'×(ˆAØ—‘ §¡¨A¥Õ/ˆBØ�K‰K˜Ÿ™¨¨A­Õ.Ô/ØÔ$Ü& r§w¡w×/Ò/Ð/Ð/Ø"*§/¡/°!°aµ%Õ"8×"=Ñ"=×"IÑ"I×"OÑ"O×"SÑ"S�Ø—‘×#Ñ#×)Ñ)×4Ñ4°UÔ;ØŸ™×,Ñ,×2Ñ2×6Ñ6�Ø)6�—
‘
“Ô&Ø—‘œd ?Ó3Ô4Ø—k‘k !•nˆB�Gó )r   c                ó(   € V P                  V4       R # r*   ©rL  r  s   &&r   rñ   Ú$SymbolicShapeInference._infer_MatMul  ó   € Ø×"Ñ" 4Ö(r   c                óZ   € V P                  V\        P                  P                  4       R # r*   )rL  r1   rQ  ÚINT32r  s   &&r   rò   Ú+SymbolicShapeInference._infer_MatMulInteger  s   € Ø×"Ñ" 4¬×)9Ñ)9×)?Ñ)?Ö@r   c                óJ  € V P                  V^ 4      p\        VR4      \        VR4      .p\        V4      pV^ 8”  g   Q hV^8X  d   VR,          pMVRR VR,          ,           pV P                  VR,          V^ ,          .RR7       V P                  VP
                  ^ ,          ,          P                  P                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          We4      4       R# )r   ÚKÚNrƒ  NFr�  r+  )r¥  r   rR   rŒ  ru  ri  r   r    r+   rË  rq  r   rw  )rD  r   rF  rG  rH  r™  rE  r.   s   &&      r   r  Ú)SymbolicShapeInference._infer_MatMulNBits  sê   € Ø—O‘O D¨!Ó,ˆ	Ü" 4¨Ó-¬}¸TÀ3Ó/GÐHˆ	Ü�y“>ˆØ˜!Œ|Ðˆ|Ø�qŒ=Ø! "�‰Ià! # 2˜¨°2­Õ6ˆIà×ÑØ�r�]˜I a�LÐ)Ø!ð 	 ô 	
ð
 —~‘~ d§j¡j°¥mÕ4×9Ñ9×EÑE×OÑOˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À,ÓZÖ[r   c                ó&  € \        V P                  V4      4      pV P                  VP                  ^ ,          ,          pVP	                  \
        P                  ! VP                  ^ ,          \        P                  P                  V^.4      4       R# r…  )
r   r  ru  rË  rq  r   rw  r1   rQ  r~  )rD  r   Úselectedr.   s   &&  r   ró   Ú/SymbolicShapeInference._infer_NonMaxSuppression%  sc   € Ü�t×9Ñ9¸$Ó?Ó@ˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.Ä$×BRÑBR×BXÑBXÐ[cÐefÐZgÓhÖir   c                óX  € V P                  V^ 4      p\        V P                  V^ ^4      4      pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          VP                  P                  P                  W#.4      4       R# r…  )r¬  r   r  ru  rË  rq  r   rw  r   r    r+   )rD  r   Ú
input_rankÚnz_lenr.   s   &&   r   rô   Ú%SymbolicShapeInference._infer_NonZero*  sz   € Ø×)Ñ)¨$°Ó2ˆ
ä�T×7Ñ7¸¸aÀÓCÓDˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À"Ç'Á'×BUÑBU×B_ÑB_ÐblÐauÓvÖwr   c                óH  € V P                  V^ 4      pV P                  V^4      p\        VRR4      p\        V\	        V4      ^,           4      p\        . VRV O\        V4      '       g   V P                  V4      MTNW$R O4      pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          V P                  VP                  ^,          ,          P                  P                  P                   V4      4       R# )r   rD   Nr+  )r³  r¼  r   rF   rR   r9   r5   r  ru  rË  rq  r   rw  ri  r   r    r+   )rD  r   r7   ÚdepthrD   r™  r.   s   &&     r   rõ   Ú$SymbolicShapeInference._infer_OneHot1  sý   € Ø×+Ñ+¨D°!Ó4ˆØ×#Ñ# D¨!Ó,ˆÜ˜T 6¨2Ó.ˆÜ# D¬#¨kÓ*:¸QÕ*>Ó?ˆÜ.ðØ˜U˜dÐ#ðä@JÈ5×@QÒ@Q�×2Ñ2°4Ô8ÐW\ðð ˜UÐ#ðó
ˆ	ð �^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHØóö	
r   c           	     óú  € \        V P                  4      ^
8:  d   \        VR4      pMV P                  V^4      pV P	                  V^ 4      p\        V4      pVeb   \        V4      ^V,          8X  g   Q h\        W2RV W$R RR7       UUUu. uF  w  rVpWV,           V,           NK  	  ppppV P                  V4       MV P                  WA4      pV P                  VP                  ^ ,          ,          P                  P                  P                  p	V P                  VP                  ^ ,          ,          p
V
P                  \         P"                  ! VP                  ^ ,          V	\%        V4      4      4       R# u upppi )é
   r%  NFr$  )rN   rg  r   r¼  r³  rR   r  rÂ  r  ru  ri  r   r    r+   rË  rq  r   rw  r9   )rD  r   r%  r7   rE   r'   Úpad_upÚpad_downrÀ  Ú	output_tpr.   s   &&         r   rö   Ú!SymbolicShapeInference._infer_PadF  s@  € Ü�T—\‘\Ó" bÔ(Ü   vÓ.‰Dà×&Ñ& t¨QÓ/ˆDà×+Ñ+¨D°!Ó4ˆÜ�;ÓˆàÒÜ�t“9  D¥Ô(Ð(Ð(ô ,/¨{ÀÀ$¸KÈÈeÈÐ]bÕ+cõá+cÑ'�A˜xð •
˜X×%Ð%Ù+cð ò ð ×&Ñ& Õ7ð #×6Ñ6°tÓBˆOØ—N‘N 4§:¡:¨a¥=Õ1×6Ñ6×BÑB×LÑLˆ	à�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)¨$¯+©+°a­.¸)ÔE_Ð`oÓEpÓqö	
ùôs   ÂE6c           
     óF  € V P                  V4      pV P                  V4       VP                   Fn  pV'       g   K  V P                  V,          pVP	                  \
        P                  ! VVP                  P                  P                  \        V4      4      4       Kp  	  R # r*   )r<  rÂ  rË  ru  rq  r   rw  r   r    r+   r9   )rD  r   r7   rÖ  r.   s   &&   r   rà   Ú"SymbolicShapeInference._infer_Pool`  sz   € Ø×3Ñ3°DÓ9ˆØ×"Ñ" ;Ô/Ø—”ˆAßÙØ—‘ Õ"ˆBØ�K‰KÜ×-Ò-ØØ—G‘G×'Ñ'×1Ñ1Ü.¨{Ó;óöó	 r   c                ó¬  € V P                  V^ 4      pV P                  V^4      pV P                  W#4      pV P                  VP                  ^ ,          ,          pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          VP                  P                  P                  V4      4       R# r…  )r¥  r   ru  ri  rË  rq  r   rw  r   r    r+   )rD  r   Úshape0r—  r™  Út0r.   s   &&     r   r0  Ú-SymbolicShapeInference._infer_aten_bitwise_oro  s’   € Ø—‘  qÓ)ˆØ—‘  qÓ)ˆØ×*Ñ*¨6Ó:ˆ	Ø�^‰^˜DŸJ™J q�MÕ*ˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À"Ç'Á'×BUÑBU×B_ÑB_ÐajÓkÖlr   c           	     óð  € V P                  V^ 4      p\        V4      pV P                  V^4      pV P                  V^4      pV P                  V^4      pVe	   Ve   Vf   Q h\        WS4      p\        Wc4      p. p\	        V4       F   w  r‰W…V39  g   K  VP                  V	4       K"  	  W%,          p
W&,          pV^ 8¼  d4   \        P                  ! ^ \        P                  ! W«V,
          4      4      pM2\        P                  ! ^ \        P                  ! W¤,           V4      4      pVP                  V4       VP                  ^ ,          '       d¨   V P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                   P"                  \%        V4      4      4       R# R# r…  )r³  rR   r¼  rF   r¿  r²  r?   r}   r€   rË  ru  rq  r   rw  ri  r   r    r+   r9   )rD  r   r7   rE   Úoffsetr�  rž  r™  r   Úvalr—  r˜  Ú
diag_shaper.   s   &&            r   r1  Ú+SymbolicShapeInference._infer_aten_diagonalw  sˆ  € Ø×+Ñ+¨D°!Ó4ˆÜ�;ÓˆØ×$Ñ$ T¨1Ó-ˆØ×"Ñ" 4¨Ó+ˆØ×"Ñ" 4¨Ó+ˆàÒ! dÒ&6¸4Ò;KÐKÐKÜ# DÓ/ˆÜ# DÓ/ˆàˆ	Ü! +Ö.‰HˆCØ ˜,Ö&Ø× Ñ  Ö%ñ /ð Õ"ˆØÕ"ˆØ�QŒ;ÜŸš 1¤e§i¢i°À½Ó&HÓI‰JäŸš 1¤e§i¢i°µÀÓ&HÓIˆJØ×Ñ˜Ô$à�;‰;�q�>Œ>Ø—‘ §¡¨A¥Õ/ˆBØ�K‰KÜ×-Ò-Ø—K‘K •NØ—N‘N 4§:¡:¨a¥=Õ1×6Ñ6×BÑB×LÑLÜ.¨yÓ9óöñ r   c           	     óà  € V P                  V^ 4      p\        V4      pVR9   g   Q hV P                  V^4      pV^,
          pV'       d   TM\        V P	                  V^ V4      4      p. VRR OVNpV P
                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          \        P                  P                  \        V4      4      4       R# )r   N©rQ   rÚ  r+  )r³  rR   r¼  r   r  ru  rË  rq  r   rw  r1   rQ  r~  r9   )	rD  r   r7   rE   Únum_samplesr[  Úlast_dimr…  r.   s	   &&       r   r4  Ú.SymbolicShapeInference._infer_aten_multinomial™  sÍ   € Ø×+Ñ+¨D°!Ó4ˆÜ�;ÓˆØ�vŒ~Ðˆ~Ø×)Ñ)¨$°Ó2ˆØ�A�Xˆß"-‘;´3°t×7YÑ7YÐZ^Ð`aÐceÓ7fÓ3gˆØ4˜ S bÐ)Ð4¨8Ð4ˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ü× Ñ ×&Ñ&Ü*¨<Ó8óö	
r   c           
     ó^  € V P                  V^ 4      p\        V4      ^8X  g   Q hR Uu. uF  q0P                  V^ V4      NK  	  upVRR% V P                  V4       \	        VP
                  4       F´  w  r4V'       g   K  V P                  V,          pV^8X  d   \        P                  P                  MAV P                  VP                  ^ ,          ,          P                  P                  P                  pVP                  \        P                   ! WF\#        V4      4      4       K¶  	  R# u upi )r   N©rÚ  é   rD  )r³  rR   r  rÂ  r¿  rË  ru  r1   rQ  r~  ri  r   r    r+   rq  r   rw  r9   )rD  r   r7   r8   rÖ  r.   r+   s   &&     r   r2  Ú)SymbolicShapeInference._infer_aten_pool2dª  së   € Ø×+Ñ+¨D°!Ó4ˆÜ�;Ó 1Ô$Ð$Ð$ÙTZÓ[ÑTZÈq×>Ñ>¸tÀQÈÖJÑTZÑ[ˆ�B�CÐØ×"Ñ" ;Ô/Ü˜dŸk™kÖ*‰DˆAßÙØ—‘ Õ"ˆBØ23°q´&œ×(Ñ(×.Ò.¸d¿n¹nÈTÏZÉZÐXYÍ]Õ>[×>`Ñ>`×>lÑ>l×>vÑ>vˆIØ�K‰Kœ×5Ò5°aÔD^Ð_jÓDkÓlÖmó +ùò \s   ©D*c                ó  € V P                   VP                  ^ ,          ,          p\        VP                  4      ^8X  d{   VP	                  \
        P                  ! VP                  ^ ,          V P                   VP                  ^ ,          ,          P                  P                  P                  . 4      4       R# \        VP                  4      ^8X  g   Q hV P                  V^4      pVf   Q hV P                  V^4      pVf7   V P                  V^ 4      pT P                  V'       d   TMV^,
          V4      pMPV P                  V^ 4      p\        V\        V4      4      pVRV pV'       d   V^.,          pWgV^,           R ,          p\        V4      pVP	                  \
        P                  ! VP                  ^ ,          V P                   VP                  ^ ,          ,          P                  P                  P                  V4      4       V P                   VP                  ^,          ,          pVP	                  \
        P                  ! VP                  ^,          \         P"                  P$                  V4      4       R# r…  )ru  rË  rR   ri  rq  r   rw  r   r    r+   r¼  r¬  r  r³  rF   r9   r1   rQ  r~  )	rD  r   r.   Úkeepdimr   rE   r…  r%   Úvi1s	   &&       r   r3  Ú)SymbolicShapeInference._infer_aten_minmax¶  sÞ  € Ø�^‰^˜DŸK™K¨�NÕ+ˆÜˆt�z‰z‹?˜aÔØ�K‰KÜ×-Ò-Ø—K‘K •N D§N¡N°4·:±:¸aµ=Õ$A×$FÑ$F×$RÑ$R×$\Ñ$\Ð^`óöô �t—z‘z“? aÔ'Ð'Ð'Ø×)Ñ)¨$°Ó2ˆGØÒ&Ð&Ð&Ø×%Ñ% d¨AÓ.ˆCØŠ{Ø×+Ñ+¨D°!Ó4�Ø#×7Ñ7Ç¹ÈTÐTUÍXÐW[Ó\‘à×-Ñ-¨d°AÓ6�Ü*¨3´°E³
Ó;�Ø$ T c˜{�ßØ  Q CÕ'�LØ c¨A¥g iÐ 0Õ0�ä5°lÓCˆLØ�K‰KÜ×-Ò-Ø—K‘K •N D§N¡N°4·:±:¸aµ=Õ$A×$FÑ$F×$RÑ$R×$\Ñ$\Ð^jóôð
 —.‘. §¡¨Q¥Õ0ˆCØ�L‰Lœ×6Ò6°t·{±{À1µ~Ät×GWÑGW×G]ÑG]Ð_kÓlÖmr   c           	     ó  € V P                  V^ 4      pV P                  V^4      pV P                  V^4      pV P                  V^4      pVeL   VeH   VeD   V\        V4      8  g   Q hW#,          V,
          V,          ^,           W#&   VP                  V4       M$\        V4      pV P	                  V^,           V4      pV P                  V4       VP                  ^ ,          '       d¨   V P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  \        V4      4      4       R# R# r…  )r³  r¼  rR   r²  r  rÂ  rË  ru  rq  r   rw  ri  r   r    r+   r9   )rD  r   r7   Ú	dimensionÚsizeÚsteprE   r.   s   &&      r   r5  Ú)SymbolicShapeInference._infer_aten_unfold×  s>  € Ø×+Ñ+¨D°!Ó4ˆØ×'Ñ'¨¨aÓ0ˆ	Ø×"Ñ" 4¨Ó+ˆØ×"Ñ" 4¨Ó+ˆØÒ  TÒ%5¸$Ò:JØœs ;Ó/Ô/Ð/Ð/Ø&1Õ&<¸tÕ&CÈÕ%LÈqÕ%PˆKÑ"Ø×Ñ˜tÕ$ä�{Ó#ˆDØ×2Ñ2°4¸!µ8¸TÓBˆKØ×"Ñ" ;Ô/Ø�;‰;�q�>Œ>Ø—‘ §¡¨A¥Õ/ˆBØ�K‰KÜ×-Ò-Ø—K‘K •NØ—N‘N 4§:¡:¨a¥=Õ1×6Ñ6×BÑB×LÑLÜ.¨{Ó;óöñ r   c                óÆ  € R pVP                   ^,          '       g   . pM­V P                  V^4      pV P                  V^4      pVe†   V P                  V^ 4      pVe&   \        V\	        V4      4      pV'       d   ^WS&   M1WS M.\	        V4      pT P                  V'       d   TMV^,
          V4      pV P                  V4       \        V4      pVP                  ^ ,          '       d}   Vew   V P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          \        P                  P                  V4      4       R # R # R # r*   )ri  r¼  r³  rF   rR   r  rÂ  r9   rË  ru  rq  r   rw  r1   rQ  r~  )rD  r   r™  r   r  r7   rE   r.   s   &&      r   r6  Ú)SymbolicShapeInference._infer_aten_argmaxî  s  € Øˆ	Ø�z‰z˜!�}Œ}à‰Ià×%Ñ% d¨AÓ.ˆCØ×)Ñ)¨$°Ó2ˆGØÒ"Ø"×3Ñ3°D¸!Ó<�Ø’?Ü.¨s´C¸Ó4DÓE�CßØ+,˜Ò(à'Ñ,ä˜{Ó+�DØ"&×":Ñ":Ç7¹4ÐPTÐWXÕPXÐZ^Ó"_�KØ×*Ñ*¨;Ô7Ü6°{ÓC�	Ø�;‰;�q�>Œ>˜iÒ3Ø—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÄd×FVÑFV×F\ÑF\Ð^gÓhÖiñ 4‰>r   c                óÄ  € V P                  V4       V P                  V^ 4      pVe   \        V4      ^ 8w  d
   V^ ,          MRpV P                  V^4      pV P                  VP
                  ^ ,          ,          P                  P                  P                  pR FÃ  pVP                  V,          '       g   K  V P                  VP                  V,          ,          pTP                  \        P                  ! VP                  V,          TVe   TM\        V P                  W^ 4      4      Ve   \        V4      M\        V P                  W^4      4      .4      4       KÅ  	  R# )r   Nr  )Ú_propagate_shape_and_typer¥  rR   r¼  ru  ri  r   r    r+   rË  rq  r   rw  r   r  rW   )rD  r   rƒ  ró  ÚgrouprE  r8   r.   s   &&      r   r7  Ú-SymbolicShapeInference._infer_aten_group_norm  s  € Ø×&Ñ& tÔ,Ø—o‘o d¨AÓ.ˆØ)Ò5¼#¸kÓ:JÈaÔ:OˆK˜ŽNÐUYˆØ×#Ñ# D¨!Ó,ˆØ—~‘~ d§j¡j°¥mÕ4×9Ñ9×EÑE×OÑOˆÛˆAØ�{‰{˜1�~Ž~Ø—^‘^ D§K¡K°¥NÕ3�Ø—‘Ü×1Ò1ØŸ™ A�Ø$à!"¢™A´C¸×8ZÑ8ZÐ[_ÐdeÓ8fÓ4gð $)Ò#4ô !*¨%Ô 0ä%(¨×)KÑ)KÈDÐUVÓ)WÓ%Xðóöó r   c                ó   € R pV P                  V^ 4      pVe®   VR,          pV P                  V^4      pVeG   Y$ Uu. uF2  p\        V4      \        P                  J d   VP                  4       MTNK4  	  up,          pMH\        V4      pT\        ^V4       Uu. uF  p\        V P                  V^ V4      4      NK!  	  up,          pVP                  ^ ,          '       d¦   Ve    V P                  VP                  ^ ,          ,          P                  P                  P                  pV P                  VP                  ^ ,          ,          p	V	P                  \         P"                  ! VP                  ^ ,          W‚4      4       R # R # R # u upi u upi )N:NrÚ  N)r¥  r¼  r   r<   r=   rT   rR   r–  r   r  rË  ru  ri  r    r+   rq  r   rw  )
rD  r   r™  rƒ  Úoutput_sizeÚdim_sizerE   r8   rE  r.   s
   &&        r   r8  Ú+SymbolicShapeInference._infer_aten_upsample  s>  € Øˆ	Ø—o‘o d¨AÓ.ˆØÒ"Ø# B�ˆIØ×-Ñ-¨d°AÓ6ˆKØÒ&ØÐjuÓvÑjuÐ^f´°h³Ä2Ç8Á8Ó1K˜hŸm™mœoÐQYÒYÑjuÑvÕv‘	ä˜;Ó'�ØÔ[`ÐabÐdhÔ[iÓjÑ[iÐVWœc $×"DÑ"DÀTÈ1ÈaÓ"PÖQÑ[iÑjÕj�	Ø�;‰;�q�>Œ>˜iÒ3ØŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLØ—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÀlÓ^Ö_ñ 4‰>ùò	 wùò ks   ¼8FÂ%Fc                óÐ   € V P                  V4       R FN  pV\        VP                  4      8  g   K  VP                  V,          '       g   K:  V P                  V^VR7       KP  	  R# )rQ   ©Úinput_indexÚoutput_indexN)rQ   rÚ  r  é   ©r%  rR   rË  )rD  r   r8   s   && r   rá   Ú0SymbolicShapeInference._infer_BatchNormalization/  sO   € Ø×&Ñ& tÔ,ó ˆAØ”3�t—{‘{Ó#Ö#¨¯©°A¯®à×.Ñ.¨tÀÐQRÐ.ÖSó r   c           	     ó  € V P                   VP                  ^ ,          ,          pV P                  V4      p\        ;QJ d    R V 4       F  '       d   K   RM	  RM! R V 4       4      '       dq   \	        V^ ,          4      p\	        V^,          4      p\	        V^,          4      p\
        P                  ! \
        P                  ! WT,
          V,          4      ^ 4      .pMV P                  V4      .pV P                  V4       VP                  \        P                  ! VP                  ^ ,          V P                   VP                  ^ ,          ,          P                  P                  P                   \#        V4      4      4       R# )r   c              3   ó(   "  € T F  qR Jx € K
  	  R # 5ir*   rC   )rN  r8   s   & r   rP  Ú6SymbolicShapeInference._infer_Range.<locals>.<genexpr>;  s   é € Ð1¡j ˜�}£jùrõ  FTN)ru  rË  rý  rS  rW   r?   r}   r/  r  rÂ  rq  r   rw  ri  r   r    r+   r9   )rD  r   r.   Ú
input_dataÚstartÚlimitÚdeltarÀ  s   &&      r   r÷   Ú#SymbolicShapeInference._infer_Range8  s  € Ø�^‰^˜DŸK™K¨�NÕ+ˆØ×2Ñ2°4Ó8ˆ
ß‹3Ñ1¡jÓ1�3�3Š3Ñ1¡jÓ1×1Ò1Ü˜j¨�mÓ,ˆEÜ˜j¨�mÓ,ˆEÜ˜j¨�mÓ,ˆEÜ$Ÿyšy¬¯ª¸½ÈÕ7NÓ)OÐQRÓSÐT‰Oà#×AÑAÀ$ÓGÐHˆOØ×"Ñ" ?Ô3Ø
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHÜ*¨?Ó;óö	
r   c                ó\  € \        VR ^4      p\        V P                  4      ^8¼  Edÿ   \        VP                  4      ^8”  Edâ   V P                  V^4      pV P                  VP                  ^ ,          ,          pVf®   V'       g   Q hVP                  \        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  \        V P                  V P!                  V^ 4      V4      4      4      4       R# V P#                  V^ 4      p. pV Uu. uF  p\%        V\        V4      4      NK  	  pp\'        V4       F9  w  r‰Wƒ9   d   V'       d   VP)                  ^4       K&  K(  VP)                  V	4       K;  	  VP                  \        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  V4      4       R# R# R# u upi )ÚkeepdimsN)r   rN   rg  rR   ri  r¼  ru  rË  rq  r   rw  r   r    r+   r9   r  r¬  r¥  rF   r¿  r²  )
rD  r   Ú	keep_dimsÚaxesr.   r%   r…  Úar8   r'   s
   &&        r   rø   Ú'SymbolicShapeInference._infer_ReduceSumK  s§  € Ü! $¨
°AÓ6ˆ	Ü�T—\‘\Ó" bÕ(¬S°·±«_¸qÕ-@à×&Ñ& t¨QÓ/ˆDØ—‘ §¡¨A¥Õ/ˆBØŠ|ß Ð �yØ—‘Ü×1Ò1ØŸ™ A�ØŸ™ t§z¡z°!¥}Õ5×:Ñ:×FÑF×PÑPÜ2°4×3KÑ3KÈD×L`ÑL`ÐaeÐghÓLiÐkoÓ3pÓqóöð Ÿ™¨¨aÓ0�Ø!�ÙEIÓJÁTÀÔ,¨Q´°E³
Ö;ÁT�ÐJÜ% eÖ,‘D�AØ”yß$Ø(×/Ñ/°Ö2ñ %ð %×+Ñ+¨AÖ.ñ -ð —‘Ü×1Ò1ØŸ™ A�ØŸ™ t§z¡z°!¥}Õ5×:Ñ:×FÑF×PÑPØ$óöñ/ .AÑ(ùò  Ks   ÅH)c                ó`   € \        V P                  4      ^8¼  d   V P                  V4       R# R# )é   N)rN   rg  rø   r  s   &&r   rù   Ú(SymbolicShapeInference._infer_ReduceMeanl  s&   € Ü�T—\‘\Ó" bÔ(à×!Ñ! $Ö'ñ )r   c                óì   € \        VR 4      p\        VR^4      pV^ 8X  dT   V^ .8X  dJ   V P                  V4      ^ ,          pVe,   \        V4      V P                  VP                  ^ ,          &   R# R# R# R# )r>  r<  N)r   rý  r]   r¶  rË  )rD  r   r>  r=  rË  s   &&   r   rú   Ú(SymbolicShapeInference._infer_ReduceProdq  so   € Ü˜T 6Ó*ˆÜ! $¨
°AÓ6ˆ	Ø˜Œ>˜d q cœkØ×0Ñ0°Ó6°qÕ9ˆDØÒÜ3GÈÓ3M�× Ñ  §¡¨Q¥Ó0ñ  ñ *‰>r   c                óþ  € V P                  V^4      pV P                  V^4      pVe   Vf   R# V P                  V^ 4      ^,          p^V\        V4      \        V4      .pV P                  VP                  ^ ,          ,          P
                  P                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          We4      4       R# r¨  )r¼  r³  r   ru  ri  r   r    r+   rË  rq  r   rw  )rD  r   Úseq_lenÚreal_seq_lenÚ	num_headsr™  rE  r.   s   &&      r   r'  Ú2SymbolicShapeInference._infer_RelativePositionBiasy  sÀ   € Ø×%Ñ% d¨AÓ.ˆØ×*Ñ*¨4°Ó3ˆØŠ?˜lÒ2ÙØ×)Ñ)¨$°Ó2°1Õ5ˆ	à˜	¤3 w£<´°\Ó1BÐCˆ	à—~‘~ d§j¡j°¥mÕ4×9Ñ9×EÑE×OÑOˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À,ÓZÖ[r   c                óÄ  € V P                  V^4      pV P                  VP                  ^ ,          ,          pVf±   V P                  V^4      p\	        V4      ^8X  g   Q hV^ ,          p\        V4      '       g   Q hVP                  \        P                  ! VP                  ^ ,          VP                  P                  P                  \        V P                  WQ4      4      4      4       EMdV P                  V^ 4      p^pV F  pWx,          pK  	  . p	Rp
^p\        V4       F�  w  rÈ\        V4      \         P"                  J d   V	P%                  V4       M?V^ 8X  d(   V	P%                  Wl,          4       W¶V,          ,          pMV	P%                  V4       VR8X  d   Tp
K~  V^ 8w  g   K‡  W¸,          pK‘  	  V	P'                  R4      ^8  g   Q hRV	9   d   W{,          pWÙV
&   V P)                  V	4       VP                  \        P                  ! VP                  ^ ,          VP                  P                  P                  \        V	4      4      4       V P+                  V4       R# )rQ   Nr+  )r¼  ru  rË  r¥  rR   r5   rq  r   rw  r   r    r+   r9   r  r³  r¿  r?   rX  r²  ÚcountrÂ  r  )rD  r   Úshape_valuer.   Úshape_shapeÚ
shape_rankÚinput_sympy_shapeÚtotalr'   rÀ  Údeferred_dim_idxÚnon_deferred_sizer8   rŸ  s   &&            r   rû   Ú%SymbolicShapeInference._infer_Reshape†  s  € Ø×)Ñ)¨$°Ó2ˆØ�^‰^˜DŸK™K¨�NÕ+ˆØÒØŸ/™/¨$°Ó2ˆKÜ�{Ó# qÔ(Ð(Ð(Ø$ Q�ˆJÜ˜j×)Ò)Ð)Ð)Ø�K‰KÜ×-Ò-Ø—K‘K •NØ—G‘G×'Ñ'×1Ñ1Ü.¨t×/GÑ/GÈ
Ó/YÓZóöð !%× 5Ñ 5°d¸AÓ >ÐØˆEÛ&�Ø�	’ñ 'à ˆOØ!ÐØ !ÐÜ! +Ö.‘�Ü˜“7œeŸl™lÓ*Ø#×*Ñ*¨1Õ-Ø˜!”VØ#×*Ñ*Ð+<Õ+?Ô@Ø(9ÈaÕ<PÕ(PÑ%à#×*Ñ*¨1Ô-Ø˜”7Ø'(Ò$Ø˜!–VØ(9Õ(=Ò%ñ /ð #×(Ñ(¨Ó,¨qÔ0Ð0Ð0Ø�_Ô$ØÕ4�Ø4;Ð 0Ñ1à×&Ñ& Ô7Ø�K‰KÜ×-Ò-Ø—K‘K •NØ—G‘G×'Ñ'×1Ñ1Ü.¨Ó?óôð 	× Ñ  Ö&r   c                óä  € V P                   VP                  ^ ,          ,          pV P                  V^ 4      p\        V P                  4      ^
8:  dû   V P                  V^4      pVeã   \        W4RR7       UUu. uF5  w  rV\        P                  ! \        P                  ! WV,          4      4      NK7  	  pppV P                  V4       VP                  \        P                  ! VP                  ^ ,          V P                   VP                  ^ ,          ,          P                  P                   P"                  \%        V4      4      4       R# R# V P                  V^4      pV P                  V^4      pV P                  V^4      p	V	eM   V	 Uu. uF-  p\        P                  ! \        P                  ! V4      4      NK/  	  ppV P                  V4       EMVeæ   \'        V4      p
\)        VR4      R8X  d7   \'        V4      ^V
,          8X  g   Q h\+        V4      RV
 p\+        V4      V
R pM^ .V
,          p^.V
,          p\+        V4      p\        W;WÄRR7       UUUUu. uFD  w  r]rï\        P                  ! \        P                  ! W^V,
          ,          V,          4      4      NKF  	  pppppV P                  V4       M"V P-                  V P/                  V^ 4      V4      pVP                  \        P                  ! VP                  ^ ,          V P                   VP                  ^ ,          ,          P                  P                   P"                  \%        V4      4      4       R# u uppi u upi u uppppi )r   NFr$  Úcoordinate_transformation_modeÚtf_crop_and_resize)ru  rË  r³  rN   rg  r¼  r  r?   Úsimplifyrp  rÂ  rq  r   rw  ri  r   r    r+   r9   rR   r   rI   r  r¬  )rD  r   r.   rP  Úscalesr'   rO  rÀ  ÚroiÚsizesrE   Ú	roi_startÚroi_endr7  ÚendÚscales   &&              r   rü   Ú$SymbolicShapeInference._infer_Resizeº  sÅ  € Ø�^‰^˜DŸK™K¨�NÕ+ˆØ ×1Ñ1°$¸Ó:ÐÜ�T—\‘\Ó" bÔ(Ø×(Ñ(¨¨qÓ1ˆFØÒ!äCFÐGXÐinÕCoô#ÙCo¹4¸1”E—N’N¤5§;¢;¨q­uÓ#5Ö6ÑCoð  ñ #ð ×*Ñ*¨?Ô;Ø—‘Ü×1Ò1ØŸ™ A�ØŸ™ t§z¡z°!¥}Õ5×:Ñ:×FÑF×PÑPÜ2°?ÓCóöñ "ð ×%Ñ% d¨AÓ.ˆCØ×(Ñ(¨¨qÓ1ˆFØ×'Ñ'¨¨aÓ0ˆEØÒ ÙKPÓ"QÉ5Àa¤5§>¢>´%·+²+¸a³.Ö#AÉ5�Ð"QØ×*Ñ*¨?Ö;ØÒ#Ü˜6“{�Ü  Ð'GÓHÐL`Ô`Ü˜s›8 q¨4¥xÔ/Ð/Ð/Ü $ S£	¨%¨4Ð 0�IÜ" 3›i¨¨Ð.‘Gà!"  d¥
�IØ ˜c D�j�GÜ˜f›�ô 14Ð4EÐRYÐjoÕ0pö#á0pÑ,˜ #ô —N’N¤5§;¢;¨q¸%µKÕ/@À5Õ/HÓ#IÖJÙ0pð  ó #ð ×*Ñ*¨?Õ;à"&×":Ñ":¸4×;OÑ;OÐPTÐVWÓ;XÐZ^Ó"_�à�K‰KÜ×-Ò-Ø—K‘K •NØ—N‘N 4§:¡:¨a¥=Õ1×6Ñ6×BÑB×LÑLÜ.¨Ó?óöùóI#ùò  #Rùõ#s   Á7;MÆ	3M%ÉA
M*
c                óL  € \        VR 4      p\        VR4      p\        VR^ .V,          4      p\        VP                  4      V,
          p\        V4       UUu. uF&  w  rg\	        WpP                  WV,           4      4      NK(  	  ppp\        VP                  4      \        VP                  4      8¼  g   Q hVP                  R\        VP                  4       p\        V4       Fž  w  riV	P                  p
V	P                  V P                  VP                  V,          ,          4       We8¼  dO   V	P                  P                  P                  P                  pVP                  W´We,
          ,          ,          4       W©n        K   	  V P                  W4       \        VP                  4      V,
          p\        VR^ .V,          4      p\!        V P                  VP                  R,          ,          P                  4      VR,          ,          p\        VP                  4       Fù  w  rnV P                  V,          pWe8¼  d´   \!        VP                  V,          P                  4      p\	        WÖV,
          ,          \        V4      ^,           4      p. VRV OVNVVR OpVP                  \"        P$                  ! WâP                  V,          P                  P                  P&                  V4      4       M"VP                  VP                  V,          4       Wïn        Kû  	  R# u uppi )rÝ  Únum_scan_inputsÚscan_input_axesNÚscan_output_axesr+  )r   rR   ri  r¿  rF   r¬  r
   rq  ru  r   r    r%   r   rV  rê  rË  r(   r   rw  r+   )rD  r   rá  rb  rc  Únum_scan_statesr8   Úaxrä  rà  Úsubgraph_nameÚscan_input_dimÚnum_scan_outputsrd  rÖ  r.   r%   rŸ  s   &&                r   rý   Ú"SymbolicShapeInference._infer_Scanì  sr  € Ü   vÓ.ˆÜ'¨Ð.?Ó@ˆÜ'¨Ð.?À!ÀÀÕAVÓWˆÜ˜dŸj™j›/¨OÕ;ˆô # ?Ô3ô
á3‘�ô ! ×%9Ñ%9¸$ÀOÕ@SÓ%TÖUÙ3ð 	ñ 
ô �8—>‘>Ó"¤c¨$¯*©*£oÔ5Ð5Ð5Ø"Ÿ.™.Ð):¬3¨t¯z©z«?Ð;ˆÜ˜Ö/‰EˆAØŸG™GˆMØ�K‰K˜Ÿ™ t§z¡z°!¥}Õ5Ô6ØÔ#Ø!#§¡×!4Ñ!4×!:Ñ!:×!>Ñ!>�Ø×%Ñ% nÀQÕEXÕ5YÕ&ZÔ[Ø#ŽGñ 0ð 	×!Ñ! $Ô1Ü˜tŸ{™{Ó+¨oÕ=ÐÜ(¨Ð/AÀAÀ3ÐIYÕCYÓZÐÜ2°4·>±>À$Ç*Á*ÈRÅ.Õ3Q×3VÑ3VÓWÐXgÐhjÕXkÕlˆÜ˜dŸk™kÖ*‰DˆAØ—‘ Õ"ˆBØÔ#Ü1°(·/±/À!Õ2D×2IÑ2IÓJ�Ü.Ð/?ÀOÕ@SÕ/TÔVYÐZ_ÓV`ÐcdÕVdÓe�ØL˜%  ˜/ÐL¨>ÐL¸EÀ'À(¸OÐL�Ø—‘œF×9Ò9¸!¿_¹_ÈQÕ=O×=TÑ=T×=`Ñ=`×=jÑ=jÐlqÓrÕsà—‘˜HŸO™O¨AÕ.Ô/ØŽGó +ùó'
s   Á,L c                ób  € V P                  V^ 4      pV P                  VP                  ^ ,          ,          pVP                  \        P
                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                  P                  V4      4       R# r…  ra  )rD  r   rb  r.   s   &&  r   rþ   Ú-SymbolicShapeInference._infer_ScatterElements  sv   € Ø—_‘_ T¨1Ó-ˆ
Ø�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHØóö	
r   c                ó°  € V P                  V^ 4      pV P                  VP                  ^ ,          ,          pVeœ   \        V4       FŠ  w  rEVe   K  \        P
                  P                  4       p\        V P                  V^ V4      4      Vn	        VP                  P                  P                  P                  V,          P                  V4       KŒ  	  R# R# r…  )r¥  ru  rË  r¿  r1   rT  rU  r   r  rk  r   r    r%   r   rq  )rD  r   r‘  r.   r[  r'   rŸ  s   &&     r   rÿ   Ú(SymbolicShapeInference._infer_SequenceAt  s§   € à—O‘O D¨!Ó,ˆ	Ø�^‰^˜DŸK™K¨�NÕ+ˆØÒ Ü" 9Ö-‘�Ø’=ÙÜ×/Ñ/×9Ñ9Ó;�Ü$'¨×(JÑ(JÈ4ÐQRÐTVÓ(WÓ$X�Ô!Ø—‘×#Ñ#×)Ñ)×-Ñ-¨bÕ1×:Ñ:¸7ÖCó .ñ !r   c                ó€  € V P                   VP                  ^ ,          ,          pV P                   VP                  ^,          ,          pV P                   VP                  ^ ,          ,          pVP                  V4       VP                  ^ ,          Vn        V P                  V^ VP                  VP                  4       R# r…  )ru  ri  rË  rq  r
   r]  r   )rD  r   Úvi_seqÚ	vi_tensorÚ
vi_out_seqs   &&   r   r   Ú,SymbolicShapeInference._infer_SequenceInsert&  s}   € à—‘ §
¡
¨1¥Õ.ˆØ—N‘N 4§:¡:¨a¥=Õ1ˆ	Ø—^‘^ D§K¡K°¥NÕ3ˆ
Ø×Ñ˜FÔ#ØŸ+™+ a�.ˆ
ŒØ×Ñ˜t Q¨
¯©¸¿¹ÖHr   c                óf   € V P                  V^ 4      V P                  VP                  ^ ,          &   R# r…  )r³  r¶  rË  r  s   &&r   r  Ú#SymbolicShapeInference._infer_Shape/  s'   € Ø+/×+@Ñ+@ÀÀqÓ+Iˆ×Ñ˜Ÿ™ Q�Ó(r   c                ó`  € V P                  V^ 4      p\        V4      V P                  VP                  ^ ,          &   V P                  VP                  ^ ,          ,          P                  \        P                  ! VP                  ^ ,          \        P                  P                  . 4      4       R# r…  )r³  r]   r¶  rË  ru  rq  r   rw  r1   rQ  r~  )rD  r   r7   s   && r   r  Ú"SymbolicShapeInference._infer_Size2  sw   € Ø×+Ñ+¨D°!Ó4ˆÜ+?ÀÓ+Lˆ×Ñ˜Ÿ™ Q�Ñ(Ø�‰�t—{‘{ 1•~Õ&×/Ñ/Ü×)Ò)¨$¯+©+°a­.¼$×:JÑ:J×:PÑ:PÐRTÓUö	
r   c           	     ó.  a aa€ R  oV3R loVV 3R lp\        S P                  4      ^	8:  d^   \        VR4      p\        VR4      p\        VR4      pV'       g   \        \	        \        V4      4      4      p^.\        V4      ,          pMÌ\        S P                  V^4      RR7      p\        S P                  V^4      RR7      pS P                  V^4      pS P                  V^4      pVf,   Vf   Ve$   \        \	        \        Ve   TMT4      4      4      pVf"   Vf   Ve   ^.\        Ve   TMT4      ,          p\        VRR7      p\        VRR7      pS P                  V^ 4      pVe   Vfb   Vf3   \	        \        V4      4       F  pS P                  V^ V4      Wx&   K  	  EM\        V4      pV F  pS P                  V^ V4      Wx&   K  	  EMÝ\        W4WVR	R
7       EF¹  w  r‰r«V! W§V,          4      p
\        V
4      '       d±   V
S P                  8¼  d
   Wx,          p
MéV
S P                  ) 8:  d   V	^ 8”  d   ^ MRp
MË\        Wx,          4      '       d4   V
^ 8  d   \        ^ W§V,          ,           4      p
\        W§V,          4      p
M�V
^ 8”  d'   V
^8”  d   \         P"                  ! W§V,          4      MT
p
MS\        Wx,          4      '       d   \         P"                  ! W§V,          4      p
M S! W§V,          4      '       g	   Wx,          p
V! W—V,          4      p	\        Wx,          4      '       d.   \        V	4      '       d   \        ^ \        W—V,          4      4      p	\         P*                  ! W©,
          V,           V^ 8”  d   RM^,           V,          4      Wx&   EK¼  	  S P-                  V4       S P.                  VP0                  ^ ,          ,          pVP3                  \4        P6                  ! VP0                  ^ ,          VP8                  P:                  P<                  \        V4      4      4       VP>                  ^ ,          S P@                  9   Ed   V^ .8X  dû   Veõ   \        V4      ^8X  dã   VeÝ   \        V4      ^8X  dË   VeÅ   \        V4      ^8X  d³   S P@                  VP>                  ^ ,          ,          p\9        V4      \        J g8   \9        V4      \B        PD                  J d]   \        VPF                  4      ^8X  dA   WÔ^ ,          V^ ,          V^ ,          1,          S P@                  VP0                  ^ ,          &   R# R# R# R# R# R# R# R# R# R# R#   \$         d/    \&        P)                  RT
 RYx,           R24       Yx,          p
 EL‰i ; i)c                 óŠ  a a€ \        S \        P                  4      '       g   Q R S  24       h\        \	        S P
                  4      4       Uu. uF8  p\        S P
                  V,          \        P                  4      '       g   K6  VNK:  	  pp\	        V4      ^8X  d!   V^ ,          oV V3R lpV! ^ 4      V! ^4      .# S .# u upi )z%Expected a sum of two arguments, got c                 ój  <€ \        SP                  4      p\        VS,          \        P                  4      '       g   Q R S RVS,           24       h\        VS,          P                  4      ^8X  g   Q RVS,           24       hVS,          P                  V ,          VS&   \        P                  ! V!  # )z#Expected a sympy.Min() at position z, got z5Expected a sympy.Min() with exactly 2 arguments, got )rI   Úargsrö  r?   r€   rR   ra   )Úarg_idxÚreplacedÚexprÚmin_poss   & €€r   Úreplace_min_with_argÚVSymbolicShapeInference._infer_Slice.<locals>.flatten_min.<locals>.replace_min_with_argG  s®   ø€ Ü# D§I¡I›�HÜ% h¨wÕ&7¼¿¹×CÒCð Ø=¸g¸YÀfÈXÐV]ÕM^ÐL_Ð`óÐCô ˜x¨Õ0×5Ñ5Ó6¸!Ô;ð ØOÐPXÐY`ÕPaÐObÐcóÐ;ð )1°Õ(9×(>Ñ(>¸wÕ(G�H˜WÑ%Ü Ÿ9š9 hÑ/Ð/r   )rö  r?   ra   r–  rR   r{  r€   )r~  r¤  Úmin_positionsr€  r  s   f   @r   Úflatten_minÚ8SymbolicShapeInference._infer_Slice.<locals>.flatten_minA  s²   ù€ Ü˜d¤E§I¡I×.Ò.Ð^Ð2WÐX\ÐW]Ð0^Ó^Ð.Ü,1´#°d·i±i³.Ô,AÓkÑ,A SÄZÐPT×PYÑPYÐZ]ÕP^Ô`e×`iÑ`i×EjŸS˜SÑ,AˆMÐkÜ�=Ó! QÔ&Ø'¨Õ*�ö	0ñ )¨Ó+Ù(¨Ó+ðð ð �6ˆMùò' ls   Á3C ÂC c                 óô  <€  \        W8*  4      #   \         d     Mi ; i \        Y8¬  4      #   \         d     Mi ; i \        T ) T) 8¬  4      #   \         d     Mi ; i \        T) T ) 8*  4      #   \         d     Mi ; i \        Y,
          ^ 8¬  4      #   \         dT    \        ;QJ d,    R S! Y,
          4       4       F  '       d   K   Ru # 	  Ru # ! R S! Y,
          4       4       4      u # i ; i)r   c              3   ó>   "  € T F  p\        V^ 8¬  4      x € K  	  R# 5ir…  )Úboolr  s   & r   rP  ÚJSymbolicShapeInference._infer_Slice.<locals>.less_equal.<locals>.<genexpr>m  s   é € ÐDÑ1C¨Aœ4  Q¡Ÿ<˜<Ó1Cùs   ‚FT)r‡  r.  rS  )rV   Úyrƒ  s   &&€r   Ú
less_equalÚ7SymbolicShapeInference._infer_Slice.<locals>.less_equalX  sú   ø€ ðÜ˜A™F“|Ð#øÜô ÙðúðÜ˜A™F“|Ð#øÜô ÙðúðÜ˜Q˜B 1 "™H“~Ð%øÜô ÙðúðÜ˜Q˜B 1 "™H“~Ð%øÜô ÙðúðEÜ˜A�E Q™JÓ'Ð'øÜô Eç“sÑD±¸Q½UÔ1CÓD—s”sÒD’sÒD�sÑD±¸Q½UÔ1CÓDÓDÒDðEúsf   ƒ ��¢/ ¯=¼=ÁA ÁAÁAÁ#A3 Á3BÂ BÂB ÂC7Â/C7ÃC7ÃC7ÃC7Ã6C7c                óÚ   <€  S! ^ V 4      '       g.   \        V 4      '       d   V SP                  ) 8:  d   V # W,           #  V #   \         d    \        P	                  RT  R24        T # i ; i)z/normalizes a negative index to be in [0, bound)zCannot determine if z < 0)r5   rA  r.  rY  rZ  )r\  ÚboundrŠ  rD  s   &&€€r   Úhandle_negative_indexÚBSymbolicShapeInference._infer_Slice.<locals>.handle_negative_indexo  su   ø€ ðCÙ! ! U×+Ò+Ü! %×(Ò(¨U°t·}±}°nÔ-Dà$˜Ø �=Ð(ð	 ,ð ˆLøô ô CÜ—‘Ð!5°e°W¸DÐAÕBØˆLðCús   ƒA ’$A ·A Á$A*Á)A*r>  ÚstartsÚendsTrÇ  NFr$  zUnable to determine if z <= z, treat as equalr+  )$rN   rg  r   rI   r–  rR   rZ   r¼  r³  r  r9   r  r5   rA  rÐ   rÑ   r?   r€   Ú	ExceptionrY  rZ  rX  rÂ  ru  rË  rq  r   rw  r   r    r+   ri  r¶  r<   Úarrayr%   )rD  r   rŽ  r>  r�  r‘  ÚstepsrÀ  r8   rO  Úer•  r.   Úinput_sympy_datarƒ  rŠ  s   f&            @@r   r  Ú#SymbolicShapeInference._infer_Slice9  s¸  ú€ ò	õ.	Eö.
	ô �T—\‘\Ó" aÔ'Ü   vÓ.ˆDÜ" 4¨Ó2ˆFÜ   vÓ.ˆDßÜœE¤# f£+Ó.Ó/�Ø�Cœ#˜d›)•O‰Eä˜T×0Ñ0°°qÓ9ÀTÔJˆFÜ˜4×.Ñ.¨t°QÓ7À4ÔHˆDØ×&Ñ& t¨QÓ/ˆDØ×'Ñ'¨¨aÓ0ˆEØŠ| V¢^¸ºÜœE¤#°Ò0B¡fÈÓ"MÓNÓO�ØŠ} f¢n¸ºØ˜œc¨FÒ,>¡&ÀDÓIÕI�Ü˜4¨4Ô0ˆDÜ˜E¨TÔ2ˆEà×/Ñ/°°aÓ8ˆØŠ>˜Tš\ØŠ|Üœs ?Ó3Ö4�AØ)-×)KÑ)KÈDÐRSÐUVÓ)W�OÓ&ó 5ô #=¸_Ó"M�Û�AØ)-×)KÑ)KÈDÐRSÐUVÓ)W�OÓ&ó ô " $°ÀE×JÐJ‘
��aÙ)¨!¸QÕ-?Ó@�Ü˜a—=’=Ø˜DŸM™MÔ)Ø+Õ.™Ø˜tŸ}™}˜nÔ,Ø!" Q¤™A¨B™Ü# OÕ$6×7Ò7Ø˜qœ5Ü # A q¸1Õ+=Õ'=Ó >˜AÜ °1Õ#5Ó6™à˜qœ5àDEÈÄE¤§	¢	¨!¸QÕ-?Ô @Èqð øô " /Õ"4×5Ò5Ü!ŸIšI a¸Õ);Ó<™ð3Ù#-¨aÀÕ1C×#DÒ#DØ$3Õ$6 ñ
 *¨!¸QÕ-?Ó@�Ü˜oÕ0×1Ò1´jÀ·m²mÜ˜Aœs 1°aÕ&8Ó9Ó:�Aä%*§^¢^°QµU¸QµYÈÈAÌÁ"ÐSTÕ5UÐZ[Õ4[Ó%\�Ô"ñ? KðB ×&Ñ& Ô7à�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘×#Ñ#×-Ñ-Ü*¨?Ó;óô	
ð �J‰J�q�M˜T×-Ñ-Õ-Ø˜˜”ØÒ"Ü�F“˜qÔ ØÒ Ü�D“	˜Q”ØÒ!Ü�E“
˜a”à#×/Ñ/°·
±
¸1µÕ>ÐÜÐ$Ó%¬Ó-ÜÐ%Ó&¬"¯(©(Ó2´sÐ;K×;QÑ;QÓ7RÐVWÔ7Wà3CÈ1ÅIÐPTÐUVÕPWÐZ_Ð`aÕZbÐDbÕ3c�× Ñ  §¡¨Q¥Ó0ñ 8XÑ2ñ	  ñ "ñ ñ !ñ !ñ #ñ ñ .øô/  )ô 3Ü"ŸN™NÐ-DÀQÀCÀtÈOÕL^ÐK_Ð_oÐ+pÔqØ /Õ 2›Að3ús   Ë-UÕ5VÖVc                ó´  € V P                   VP                  ^ ,          ,          pV P                   VP                  ^ ,          ,          P                  P                  P
                  p\        VRR4      pVe   TpW2P                  P                  n        VP                  P                  P                  P                  \        P                  ! 4       4       \        VP                  4      ^8”  di   V P                  V^ 4      pV P                   VP                  ^,          ,          pVP                  \        P                  ! VP                  W54      4       R# R# )r   r€  N)ru  rË  ri  r   r    r+   r   r%   rq  r1   rT  rR   r¥  r   rw  r
   )rD  r   r.   r+   Úspecified_output_typerb  s   &&    r   r  Ú5SymbolicShapeInference._infer_SoftmaxCrossEntropyLossÕ  sì   € Ø�^‰^˜DŸK™K¨�NÕ+ˆØ—N‘N 4§:¡:¨a¥=Õ1×6Ñ6×BÑB×LÑLˆ	ô !.¨d°MÀ4Ó HÐØ Ò,Ø-ˆIà(1�‰×ÑÔ%Ø
�‰×Ñ×!Ñ!×*Ñ*¬4×+@Ò+@Ó+BÔCäˆt�{‰{Ó˜aÔØŸ™¨¨qÓ1ˆJØ—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°b·g±g¸yÓUÖVñ  r   c                óð  € V P                  V^ 4      p\        \        VR^ 4      \        V4      4      p\	        V P
                  4      pV^8  d$   \        VR4      pV P                  V^4      e   Q hM"V P                  V^4      p\        VR4      e   Q hVfS   \        VP                  4      pW4,          \        P                  ! V4      ,          .V,          pV P                  V4       M%V Uu. uF  p\        P                  ! V4      NK  	  pp\        \        V4      4       FÊ  p	V P                  VP                  V	,          ,          p
V
P                  V! VP                  V	,          V P                  VP                  ^ ,          ,          P                  P                   P"                  \%        . VRV OWi,          NW4^,           R O4      4      4       W P                  V
P&                  &   KÌ  	  R# u upi )r   rD   r´  N)r³  rF   r   rR   rN   rg  r¼  rË  r?   r@   rÂ  r–  ru  rq  ri  r   r    r+   r9   r
   )rD  r   Úmake_value_info_funcrP  rD   Úop_setr´  Únum_outputsrO  rÕ  r.   s   &&&        r   Ú_infer_Split_CommonÚ*SymbolicShapeInference._infer_Split_Commonæ  s£  € Ø ×1Ñ1°$¸Ó:ÐÜ#¤M°$¸ÀÓ$BÄCÐHYÓDZÓ[ˆÜ˜4Ÿ<™<Ó(ˆð �BŒ;Ü! $¨Ó0ˆEØ×&Ñ& t¨QÓ/Ò7Ð7Ñ7à×'Ñ'¨¨aÓ0ˆEÜ   wÓ/Ò7Ð7Ð7àŠ=Ü˜dŸk™kÓ*ˆKØ&Õ,¬u¯}ª}¸[Ó/IÕIÐJÈ[ÕXˆEØ×&Ñ& uÕ-á/4Ó5©u¨!”U—]’] 1Ö%©uˆEÐ5äœ˜U›Ö$ˆCØ—‘ §¡¨CÕ 0Õ1ˆBØ�K‰KÙ$Ø—K‘K Õ$Ø—N‘N 4§:¡:¨a¥=Õ1×6Ñ6×BÑB×LÑLÜ.Ð/vÐ1BÀ5ÀDÐ1IÐ/vÈ5Í:Ð/vÐXiÐqrÕjrÐjtÐXuÐ/vÓwóôð ')�N‰N˜2Ÿ7™7Ó#ó %ùò 6s   Ã.G3c                óF   € V P                  V\        P                  4       R # r*   )rŸ  r   rw  r  s   &&r   r  Ú#SymbolicShapeInference._infer_Split  s   € Ø× Ñ  ¤v×'DÑ'DÖEr   c                óF   € V P                  V\        P                  4       R # r*   )rŸ  r   Úmake_sequence_value_infor  s   &&r   r  Ú-SymbolicShapeInference._infer_SplitToSequence  s   € Ø× Ñ  ¤v×'FÑ'FÖGr   c                ó|  € V P                  V^ 4      p\        V P                  4      pV^8  d$   \        VR4      pV P	                  V^4      e   Q hM"V P	                  V^4      p\        VR4      e   Q hVf•   V Uu. uF  qU^8w  g   K  VNK  	  ppV P
                  ^ 8”  dj   V Uu. uF  p\        V4      \        8w  g   K  VNK  	  pp\        V4      ^ 8”  d3   \        P                  RVP                   RVP                   RV 24       MôV Uu. uF  p\        V\        V4      4      NK  	  pp. p\        \        V4      4       F¶  p	W”9  d   VP                  W),          4       K"  W),          ^8X  g   \        W),          4      \        8w  g   Q hV P
                  ^ 8”  g   K^  \        W),          4      \        8w  g   Kz  \        P                  RVP                   RVP                   RW),           RV	 R2	4       K¸  	  V P                   VP"                  ^ ,          ,          p
V
P%                  \&        P(                  ! VP"                  ^ ,          V P                   VP*                  ^ ,          ,          P                  P,                  P.                  V4      4       V P1                  V4       R# u upi u upi u upi )	r   r>  Nz+Symbolic dimensions in input shape of op: 'z	' node: 'z;'. Assuming the following dimensions are never equal to 1: z'. Assuming the dimension 'z' at index z of the input to be equal to 1.)r¥  rN   rg  r   r¼  r@  r   r6   rR   rY  r‹  rÊ  r
   rF   r–  r²  ru  rË  rq  r   rw  ri  r    r+   r  )rD  r   rƒ  r�  r>  rO  r…  Úsymbolic_dimensionsr?  r8   r.   s   &&         r   r  Ú%SymbolicShapeInference._infer_Squeeze  s]  € Ø—o‘o d¨AÓ.ˆÜ˜4Ÿ<™<Ó(ˆð �BŒ;Ü   vÓ.ˆDØ×&Ñ& t¨QÓ/Ò7Ð7Ñ7à×&Ñ& t¨QÓ/ˆDÜ   vÓ.Ò6Ð6Ð6àŠ<ñ (3Ó=¡{ !¸1±fŸA˜A¡{ˆLÐ=Ø�}‰}˜qÔ Ù2=Ó&P±+¨QÄÀaÃÌCÁ§q q±+Ð#Ð&PÜÐ*Ó+¨aÔ/Ü—L‘LØEÀdÇlÁlÀ^ÐS\Ð]a×]fÑ]fÐ\gð hSØSfÐRgðiôøñ
 HLÓLÁtÀ!Ô(¨¬C°Ó,<Ö=ÁtˆDÐLØˆLÜœ3˜{Ó+Ö,�Ø”=Ø ×'Ñ'¨­Ö7à&�>¨QÔ.´$°{µ~Ó2FÌ#Ô2MÐMÐMØ—}‘} qÖ(¬T°+µ.Ó-AÄSÖ-HÜŸ™ØIÈ$Ï,É,ÈÐW`Ðae×ajÑajÐ`kð l7Ø7Bµ~Ð6FÀkÐRSÐQTÐTsðuöñ -ð �^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHØóô	
ð 	× Ñ  Ö&ùò= >ùâ&Pùò Ms   Á<J/Â	J/Â&J4ÃJ4ÄJ9c           	     ó0  € V P                  V^4      p. pVeY   V P                  V^ 4      p\        V4       F%  w  rVWbV,          ,          pVP                  V4       K'  	  V P	                  V4       M"V P                  V P                  V^ 4      V4      pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          VP                  P                  P                  \        V4      4      4       R# r¨  )r¼  r³  r¿  r²  rÂ  r  r¬  ru  rË  rq  r   rw  r   r    r+   r9   )	rD  r   Úrepeats_valuerÀ  rP  r8   r'   rŸ  r.   s	   &&       r   r  Ú"SymbolicShapeInference._infer_Tile;  sæ   € Ø×+Ñ+¨D°!Ó4ˆØˆØÒ$Ø $× 5Ñ 5°d¸AÓ >ÐÜ!Ð"3Ö4‘�Ø¨AÕ.Õ.�Ø×&Ñ& wÖ/ñ 5ð ×&Ñ& Õ7à"×6Ñ6°t×7KÑ7KÈDÐRSÓ7TÐVZÓ[ˆOØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘×#Ñ#×-Ñ-Ü*¨?Ó;óö	
r   c                ó  € V P                  V^ 4      p\        \        VRR4      V4      pV P                  V^ 4      p\	        V P
                  4      ^	8:  d   \        VR4      pMV P                  V4      ^,          pVf   V P                  V4      pM\        V4      p\        V4      \        \        39   d   WTV&   M2V P                  V^ 4      pWVV&   V P                  V4       \        V4      p\        \!        VP"                  4      4       F}  pV P$                  VP"                  V,          ,          pVP'                  \(        P*                  ! VP"                  V,          VP                  P,                  P.                  V4      4       K  	  R# )r   rD   r`  Nr+  )r¬  rF   r   r¥  rN   rg  rý  r  rW   r   r6   r   r³  rÂ  r9   r–  rR   rË  ru  rq  r   rw  r    r+   )	rD  r   rE   rD   r™  r`  rÀ  rÕ  r.   s	   &&       r   r	  Ú"SymbolicShapeInference._infer_TopKO  s;  € Ø×#Ñ# D¨!Ó,ˆÜ#¤M°$¸ÀÓ$CÀTÓJˆØ—O‘O D¨!Ó,ˆ	ä�T—\‘\Ó" aÔ'Ü˜d CÓ(‰Aà×-Ñ-¨dÓ3°AÕ6ˆAàŠ9Ø×2Ñ2°4Ó8‰Aä˜!“ˆAä�‹7”sœC�jÔ Ø�dŠOà"×3Ñ3°D¸!Ó<ˆOØ$%˜DÑ!Ø×&Ñ&Øôô 3°?ÓCˆIäœ˜TŸ[™[Ó)Ö*ˆCØ—‘ §¡¨CÕ 0Õ1ˆBØ�K‰Kœ×5Ò5°d·k±kÀ#Õ6FÈÏÉ×H[ÑH[×HeÑHeÐgpÓqÖró +r   c                ó  € VP                   ^ ,          V P                  9   dç   V P                  V^ 4      p\        VR\	        \        \        \        V4      4      4      4      4      pV P                  VP                   ^ ,          ,          p\        P                  ! \        P                  ! V4      P                  ! V!  \        V4      R7      P                  4       P                  4       V P                  VP                  ^ ,          &   R# R# )r   Úperm)r>  N)ri  r¶  r¥  r   ÚreversedrI   r–  rR   r<   Ú	transposer“  ÚreshapeÚtupleÚflattenÚtolistrË  )rD  r   rb  r¯  r6  s   &&   r   r
  Ú'SymbolicShapeInference._infer_Transposel  s·   € Ø�:‰:�a�=˜D×,Ñ,Ô,ØŸ™¨¨qÓ1ˆJÜ   v¬x¼¼UÄ3ÀzÃ?Ó=SÓ8TÓ/UÓVˆDØ×)Ñ)¨$¯*©*°Q­-Õ8ˆJä—’œRŸXšX jÓ1×9Ò9¸:ÑFÌUÐSWË[ÔY×aÑaÓc×jÑjÓlð ×Ñ˜TŸ[™[¨�^Ó,ñ	 -r   c                óX  € V P                  V^ 4      p\        V P                  4      pV^8  d$   \        VR4      pV P	                  V^4      e   Q hM"V P	                  V^4      p\        VR4      e   Q h\        V4      \        V4      ,           pV Uu. uF  p\        We4      NK  	  pp^ p. p\        V4       F<  p	W”9   d   VP                  ^4       K  VP                  W',          4       V^,          pK>  	  V P                  VP                  ^ ,          ,          p
V
P                  \        P                  ! VP                  ^ ,          V P                  VP                  ^ ,          ,          P                  P                   P"                  V4      4       V P%                  V4       R# u upi )r   r>  N)r¥  rN   rg  r   r¼  rR   rF   r–  r²  ru  rË  rq  r   rw  ri  r   r    r+   r  )rD  r   rƒ  r�  r>  Úoutput_rankr?  Ú
input_axisr…  r8   r.   s   &&         r   r  Ú'SymbolicShapeInference._infer_Unsqueezeu  sb  € Ø—o‘o d¨AÓ.ˆÜ˜4Ÿ<™<Ó(ˆð �BŒ;Ü   vÓ.ˆDØ×&Ñ& t¨QÓ/Ò7Ð7Ñ7à×&Ñ& t¨QÓ/ˆDÜ   vÓ.Ò6Ð6Ð6ä˜+Ó&¬¨T«Õ2ˆÙ>BÓC¹d¸Ô$ QÖ4¹dˆÐCàˆ
ØˆÜ�{Ö#ˆAØŒyØ×#Ñ# AÖ&à×#Ñ# KÕ$;Ô<Ø˜a•’
ñ $ð �^‰^˜DŸK™K¨�NÕ+ˆØ
�‰Ü×)Ò)Ø—‘˜A•Ø—‘˜tŸz™z¨!�}Õ-×2Ñ2×>Ñ>×HÑHØóô	
ð 	× Ñ  Ö&ùò) Ds   ÂF'c                óŽ  € R p\        VR4      e   \        P                  P                  pM(\        VR4      e   \        P                  P                  pVf   Q h\        P
                  ! 4       pVP                  ^ ,          Vn        \        P                  P                  VP                  P                  P                  P                  P                  P                  n        W#P                  P                  P                  P                  n        V P                   VP                  ^ ,          ,          pVP#                  V4       R # )NÚclasslabels_int64sÚclasslabels_strings)r   r1   rQ  r~  r}  r2   rË  r
   ÚFLOATr   r   r+   Úmap_typeÚ
value_typer    Úkey_typeru  rq  )rD  r   Úmap_key_typeÚnew_vir.   s   &&   r   r  Ú$SymbolicShapeInference._infer_ZipMap˜  sâ   € ØˆÜ˜Ð3Ó4Ò@Ü×+Ñ+×1Ñ1‰LÜ˜4Ð!6Ó7ÒCÜ×+Ñ+×2Ñ2ˆLàÒ'Ð'Ð'Ü×$Ò$Ó&ˆØ—k‘k !•nˆŒÜX\×XhÑXh×XnÑXnˆ�‰×!Ñ!×+Ñ+×4Ñ4×?Ñ?×KÑKÔUØ@L�‰×!Ñ!×+Ñ+×4Ñ4Ô=Ø�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰�FÖr   c                ó¼  € V P                  V^ 4      pV P                  V^4      pV P                  V^4      pVe   \        V4      ^8X  g   Q hVe
   V^ ,          MV^,          pV'       Edq   \        V4      ^8X  Ed^   \        VR4      pVe)   \        V4      ^8X  g   Q h\	        V^,          4      V^&   M+\        V\        4      '       d   \	        V^,          4      V^&   V P                  VP                  ^ ,          ,          P                  P                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          Wr4      4       \        VP                  4      ^8”  EdA   V P                  V^ 4      p	\        VP                  4      ^8”  d,   VP                  ^,          '       d   V P                  V^4      M. p
\        VP                  4      ^8”  d,   VP                  ^,          '       d   V P                  V^4      M. pV
'       Ed   \        V
4      ^8X  Ed   V'       d   \        V4      R9   d   VR,          V
^&   M…V	'       d~   \        V	4      ^8X  dn   \        V	^,          \        4      '       d9   \        V
^,          \        4      '       d   V	^,          V
^,          ,           V
^&   MV
^,           RV	^,           2V
^&   V P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  Wz4      4       R# \        VR4      pV	^,          V,          p^V	^ ,          WÉ^,          V.pV P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  W~4      4       R# R# R# R# )r   NÚqkv_hidden_sizesÚ+rI  r  r+  )r¥  r©  rR   r   r6   rö  ru  ri  r   r    r+   rË  rq  r   rw  r
   )rD  r   r%   Úshape_weightsÚ
shape_biasÚtripled_hidden_sizeÚqkv_hidden_sizes_attrrE  r.   rƒ  Ú
past_shapeÚ
mask_shaperI  Ú	head_sizeÚpresent_shapes   &&             r   r  Ú'SymbolicShapeInference._infer_Attention§  sï  € Ø—‘  aÓ(ˆØŸ™¨¨aÓ0ˆØ×(Ñ(¨¨qÓ1ˆ
ØÒ!Ü�z“? aÔ'Ð'Ð'Ø/9Ò/E˜j¨žmÈ=ÐYZÕK[Ðßˆ5”S˜“Z 1•_Ü$1°$Ð8JÓ$KÐ!Ø$Ò0ÜÐ0Ó1°QÔ6Ð6Ð6ÜÐ4°QÕ7Ó8��a’ÜÐ/´×5Ò5ÜÐ2°QÕ6Ó7��a‘ØŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLØ—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÀlÓZÔ[ä�4—;‘;Ó !Õ#ð
 #Ÿo™o¨d°AÓ6�Ü9<¸T¿Z¹Z»È1Ô9LÐQU×Q[ÑQ[Ð\]×Q^ÔQ^˜TŸ_™_¨T°1Ô5Ðdf�
Ü9<¸T¿Z¹Z»È1Ô9LÐQU×Q[ÑQ[Ð\]×Q^ÔQ^˜TŸ_™_¨T°1Ô5Ðdf�
ç�:¤# j£/°QÕ"6ß!¤c¨*£o¸Ô&?Ø(2°2­˜
 1šß$¬¨[Ó)9¸QÔ)>Ü% k°!¥n´c×:Ò:¼zÈ*ÐUVÍ-ÔY\×?]Ò?]Ø,7¸­N¸ZÈ½]Õ,J˜J qšMà/9¸!­}¨o¸Q¸{È1½~Ð>NÐ,O˜J q™MØŸ™¨¯©°A­Õ7�BØ—K‘K¤× =Ò =¸b¿g¹gÀ|Ó `Öaô !.¨d°KÓ @�IØ +¨A¥°)Õ ;�IØ%&¨°A­¸	ÈqÅ>ÐS\Ð$]�MØŸ™¨¯©°A­Õ7�BØ—K‘K¤× =Ò =¸b¿g¹gÀ|Ó cÖdñ3 $ñ %‰5r   c                ó>  € \        VR 4      pV P                  V^4      pVe   V^ ,          W#^,          V^,          .pMBV P                  V^ 4      pVe   \        V4      ^8X  g   Q hV^ ,          W%^,          V^,          .pV P                  VP
                  ^ ,          ,          P                  P                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          Wd4      4       R# )rI  N)r   r©  r¥  rR   ru  ri  r   r    r+   rË  rq  r   rw  )rD  r   rI  Útoken_offset_shaper…  Úquery_layer_shaperE  r.   s   &&      r   r  Ú7SymbolicShapeInference._infer_GatedRelativePositionBiasÔ  sí   € ô " $¨Ó4ˆ	à!×0Ñ0°°qÓ9ÐØÒ)Ø.¨qÕ1°9ÐQRÕ>SÐUgÐhiÕUjÐk‰Là $§¡°°aÓ 8ÐØ$Ò0´SÐ9JÓ5KÈqÔ5PÐPÐPØ-¨aÕ0°)ÈqÕ=QÐSdÐefÕSgÐhˆLà—~‘~ d§j¡j°¥mÕ4×9Ñ9×EÑE×OÑOˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À,Ó]Ö^r   c                ó  € V P                  V^ 4      pV P                  V^4      pV P                  V^4      pVe   \        V4      ^8X  g   Q hVe
   V^ ,          MV^,          pV'       Ed   \        V4      ^8X  Ed   \        VR4      pVe)   \        V4      ^8X  g   Q h\	        V^,          4      V^&   M+\        V\        4      '       d   \	        V^,          4      V^&   V P                  VP                  ^ ,          ,          P                  P                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          Wr4      4       R# R# R# )r   NrÆ  )r¥  r©  rR   r   r6   rö  ru  ri  r   r    r+   rË  rq  r   rw  )	rD  r   r%   rÈ  rÉ  rÊ  rË  rE  r.   s	   &&       r   r!  Ú-SymbolicShapeInference._infer_PackedAttentionê  s6  € Ø—‘  aÓ(ˆØŸ™¨¨aÓ0ˆØ×(Ñ(¨¨qÓ1ˆ
ØÒ!Ü�z“? aÔ'Ð'Ð'Ø/9Ò/E˜j¨žmÈ=ÐYZÕK[Ðßˆ5”S˜“Z 1•_Ü$1°$Ð8JÓ$KÐ!Ø$Ò0ÜÐ0Ó1°QÔ6Ð6Ð6ÜÐ4°QÕ7Ó8��a’ÜÐ/´×5Ò5ÜÐ2°QÕ6Ó7��a‘ØŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLØ—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÀlÓZÖ[ñ %‰5r   c                ó"  € V P                  V^4      pVe   \        V4      ^8X  d   TpMHV P                  V^ 4      pVe   \        V4      ^8X  g   Q hV^ ,          V^,          V^,          ,          .pV P                  VP                  ^ ,          ,          P
                  P                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          WS4      4       R# r¦  )r©  rR   r¥  ru  ri  r   r    r+   rË  rq  r   rw  )rD  r   rM  r…  Úshape_queryrE  r.   s   &&     r   r"  Ú6SymbolicShapeInference._infer_PackedMultiHeadAttentionü  sÍ   € Ø×)Ñ)¨$°Ó2ˆØÒ"¤s¨;Ó'7¸1Ô'<Ø&‰LàŸ/™/¨$°Ó2ˆKØÒ*¬s°;Ó/?À1Ô/DÐDÐDØ'¨�N¨K¸­N¸[È½^Õ,KÐLˆLà—~‘~ d§j¡j°¥mÕ4×9Ñ9×EÑE×OÑOˆØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.À,Ó]Ö^r   c           	     ó�  € V P                  V^ 4      pV'       Ed+   \        V4      ^8X  Ed   V P                  VP                  ^ ,          ,          P                  P
                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          VRV^,          .4      4       V P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  ^,          \        P                  P                  V^ ,          V^,          .4      4       V P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  ^,          \        P                  P                  R.4      4       V P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  ^,          \        P                  P                  ^.4      4       R# R# R# )r   Útoken_countzbatch_size + 1N©r¥  rR   ru  ri  r   r    r+   rË  rq  r   rw  r1   rQ  rï  )rD  r   r%   rE  r.   Úvi_token_offsetÚvi_cumulated_seq_lenÚvi_max_seq_lens   &&      r   r(  Ú+SymbolicShapeInference._infer_RemovePadding		  s’  € Ø—‘  aÓ(ˆßˆ5”S˜“Z 1•_ØŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLØ—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÀlÐUbÐdiÐjkÕdlÐTmÓnÔoà"Ÿn™n¨T¯[©[¸­^Õ<ˆOØ×$Ñ$Ü×-Ò-¨d¯k©k¸!­n¼d×>NÑ>N×>TÑ>TÐW\Ð]^ÕW_ÐafÐghÕaiÐVjÓkôð $(§>¡>°$·+±+¸aµ.Õ#AÐ Ø ×)Ñ)Ü×-Ò-¨d¯k©k¸!­n¼d×>NÑ>N×>TÑ>TÐWgÐVhÓiôð "Ÿ^™^¨D¯K©K¸­NÕ;ˆNØ×#Ñ#¤F×$AÒ$AÀ$Ç+Á+ÈaÅ.ÔRV×RbÑRb×RhÑRhÐklÐjmÓ$nÖoñ! %‰5r   c                ó,  € V P                  V^ 4      pV P                  V^4      pV'       dè   \        V4      ^8X  dÖ   V'       dÌ   \        V4      ^8X  dº   V P                  VP                  ^ ,          ,          P                  P
                  P                  pV P                  VP                  ^ ,          ,          pV^ ,          V^,          V^,          .pVP                  \        P                  ! VP                  ^ ,          WF4      4       R# R# R# R# R# r…  )r¥  rR   ru  ri  r   r    r+   rË  rq  r   rw  )rD  r   Úshape_inputÚshape_token_offsetrE  r.   r…  s   &&     r   r)  Ú,SymbolicShapeInference._infer_RestorePadding	  sÍ   € Ø—o‘o d¨AÓ.ˆØ!Ÿ_™_¨T°1Ó5Ðßœ3˜{Ó+¨qÔ0×5GÌCÐPbÓLcÐghÔLhØŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLØ—‘ §¡¨A¥Õ/ˆBà.¨qÕ1Ð3EÀaÕ3HÈ+ÐVWÍ.ÐYˆLØ�K‰Kœ×5Ò5°d·k±kÀ!µnÀlÓaÖbñ MiÑ5GÑ0‰;r   c                ó(   € V P                  V4       R # r*   ©r%  r  s   &&r   r  Ú&SymbolicShapeInference._infer_BiasGelu'	  ó   € Ø×&Ñ& tÖ,r   c                óâ  € V P                  V^ 4      pRpRpVEeT   \        V4      ^8X  Ed   V P                  V^4      pTpVeL   \        V4      ^8X  d<   V P                  V^4      pVe   \        V4      ^8X  d   V^,          V^&   V^,          pV P                  VP                  ^ ,          ,          P
                  P                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          WF4      4       EM@\        V4      ^8X  Ed0   \        V^,          \        4      '       dG   \        V^,          \        4      '       d*   V^ ,          V^,          V^,          V^,          ,          .pM&V^ ,          V^,          V^,           RV^,           2.pV^,          pV P                  VP                  ^ ,          ,          P
                  P                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          WF4      4       \        VP                  4      ^8”  Edä   V^ ,          p	\        VR4      p
Rp\        V4      ^8X  dF   \        V^,          \        4      '       d   \        V^,          V
,          4      MV^,           RV
 2pM	V^,          pV P                  V^4      pVeS   \        V^,          \        4      '       d(   \        V\        4      '       d   V^,          V,           pMV^,           RV 2pWšW;.pVf   Q h\        VP                  4      ^8”  dá   VP                  ^,          '       dÆ   VP                  ^,          '       d«   V P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  WM4      4       V P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  WM4      4       R# R# R# R# R# R# )r   NÚ*rI  Ú/rÇ  )r¥  rR   r©  ru  ri  r   r    r+   rË  rq  r   rw  rö  r6   r   r
   )rD  r   Úquery_shapeÚtotal_sequence_lengthrE  Ú	key_shaper…  Úvalue_shaper.   Ú
batch_sizerI  rÎ  rÌ  rÏ  s   &&            r   r  Ú0SymbolicShapeInference._infer_MultiHeadAttention*	  sz  € ð —o‘o d¨AÓ.ˆØ $ÐØˆØÓ"Ü�;Ó 1Õ$Ø ×/Ñ/°°aÓ8�	à*�ØÒ(¬S°«^¸qÔ-@Ø"&×"5Ñ"5°d¸AÓ">�KØ"Ò.´3°{Ó3CÀqÔ3HØ*5°a­.˜ Q™Ø,5°a­LÐ)à#Ÿ~™~¨d¯j©j¸­mÕ<×AÑA×MÑM×WÑW�Ø—^‘^ D§K¡K°¥NÕ3�Ø—‘œF×9Ò9¸$¿+¹+Àa½.È,ÓeÖfä�[Ó! QÕ&Ü˜k¨!�n¬c×2Ò2´zÀ+ÈaÅ.ÔRU×7VÒ7VØ$/°¥N°KÀµNÀKÐPQÅNÐU`ÐabÕUcÕDcÐ#d‘Là$/°¥N°KÀµNÀ{ÐSTÅ~ÐFVÐVWÐXcÐdeÕXfÐWgÐDhÐ#i�Là(3°A­Ð%à#Ÿ~™~¨d¯j©j¸­mÕ<×AÑA×MÑM×WÑW�Ø—^‘^ D§K¡K°¥NÕ3�Ø—‘œF×9Ò9¸$¿+¹+Àa½.È,ÓeÔfä�4—;‘;Ó !Õ#Ø(¨�^�
Ü)¨$°Ó<�	à �	Ü�{Ó# qÔ(ô & k°!¥n´c×:Ò:ô ˜K¨�N¨YÕ6Ô7à +¨A¥Ð/¨q°°Ð<ñ ð !,¨A¥�Ià!×0Ñ0°°qÓ9�
àÒ)Ü! *¨Q¥-´×5Ò5¼*ÐEZÔ\_×:`Ò:`Ø0:¸1µÐ@UÕ0UÑ-à3=¸aµ=°/ÀÐCXÐBYÐ0ZÐ-à!+Ð8MÐ Y�à#Ò/Ð/Ð/Ü�t—{‘{Ó# aÔ'¨D¯K©K¸¯N¬N¸t¿{¹{È1¿~¼~ØŸ™¨¯©°A­Õ7�BØ—K‘K¤× =Ò =¸b¿g¹gÀ|Ó cÔdØŸ™¨¯©°A­Õ7�BØ—K‘K¤× =Ò =¸b¿g¹gÀ|Ó cÖdñ	 @N©NÑ'ñ3 $ñ7 #r   c                ó¦  € V P                  V^ 4      pVEeº   TpV P                  VP                  ^ ,          ,          P                  P                  P
                  pVf   Q hV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          WC4      4       \        VP                  4      ^8”  dù   VP                  ^,          '       dÞ   VP                  ^,          '       dÃ   V P                  V^4      pVe«   V P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  WF4      4       V P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  WF4      4       R# R# R# R# R# R# r…  )r¥  ru  ri  r   r    r+   rË  rq  r   rw  rR   r©  r
   )rD  r   rì  r…  rE  r.   rÌ  s   &&     r   r  Ú=SymbolicShapeInference._infer_DecoderMaskedMultiHeadAttentionv	  sF  € ð —o‘o d¨AÓ.ˆØÓ"Ø&ˆLØŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLØÒ+Ð+Ð+Ø—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÀlÓaÔbä�4—;‘;Ó !Ô#¨¯©°A¯¬¸4¿;¹;Àq¿>¼>Ø!×0Ñ0°°qÓ9�
ØÒ)ØŸ™¨¯©°A­Õ7�BØ—K‘K¤× =Ò =¸b¿g¹gÀ|Ó `ÔaØŸ™¨¯©°A­Õ7�BØ—K‘K¤× =Ò =¸b¿g¹gÀ|Ó `Öañ	 *ñ <J©Ñ#ñ #r   c                ó$  € V P                  V^ 4      pVEey   VP                  4       pV P                  VP                  ^ ,          ,          P                  P
                  P                  pVf   Q h\        V4      RRR3w  rVrxVP                   Fq  p	V	P                  R8X  d    V	P                  pVR8X  d	   WV,           MTpK3  V	P                  R8X  d   V	P                  pKR  V	P                  R8X  g   Ke  V	P                  pKs  	  VP                  V4       W&,          V,
          V,          ^,           W6&   V P                  VP                  ^ ,          ,          p
V
P                  \        P                  ! VP                  ^ ,          WC4      4       R# R# )r   Nr   r  r   r+  )r¥  rÝ  ru  ri  r   r    r+   rR   r	   r
   r8   r²  rË  rq  r   rw  )rD  r   rƒ  r…  rE  rE   r   r  r   r   r.   s   &&         r   r.  Ú*SymbolicShapeInference._infer_UnfoldTensorŒ	  s4  € Ø—o‘o d¨AÓ.ˆØÓ"Ø&×+Ñ+Ó-ˆLØŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLØÒ+Ð+Ð+ä$'¨Ó$4°d¸DÀ$Ð$FÑ!ˆD�tØŸœ�Ø—9‘9 Ô%ØŸ&™&�CØ(+¨r¬	˜$ž*°s’CØ—Y‘Y &Ô(ØŸ6™6’DØ—Y‘Y &Ö(ØŸ6™6’Dñ 'ð ×Ñ Ô%Ø!,Õ!1°DÕ!8¸TÕ AÀAÕ EˆLÑà—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÀlÓaÖbñ' #r   c           	     ó°  € V P                  V^ 4      pVeÀ   \        V4      pV^8X  g
   V^8X  g   Q hW#^,
          ,          W#^,
          ,          rT^RV RV RV RV 2.p\        P                  P                  pV P
                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          Wv4      4       R# R# )r   Nzmax(z, z	) <= O < z + )
r¥  rR   r1   rQ  r¾  ru  rË  rq  r   rw  )	rD  r   rƒ  Ú	shape_lenÚMró  r…  rE  r.   s	   &&       r   r  Ú0SymbolicShapeInference._infer_DynamicTimeWarping£	  s¼   € ð —o‘o d¨AÓ.ˆØÒ"Ü˜KÓ(ˆIØ ”> Y°!¤^Ð3Ð3Ø¨1�}Õ-¨{Àq½=Õ/IˆqØ  a S¨¨1¨#¨Y°q°c¸¸Q¸CÐ@ÐAˆLÜ×+Ñ+×1Ñ1ˆLØ—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÀlÓaÖbñ #r   c                ó(   € V P                  V4       R # r*   ræ  r  s   &&r   r  Ú&SymbolicShapeInference._infer_FastGelu°	  rè  r   c                ó(   € V P                  V4       R # r*   ræ  r  s   &&r   r  Ú"SymbolicShapeInference._infer_Gelu³	  rè  r   c                ó(   € V P                  V4       R # r*   ræ  r  s   &&r   Ú_infer_QuickGeluÚ'SymbolicShapeInference._infer_QuickGelu¶	  rè  r   c                ó(   € V P                  V4       R # r*   rë  r  s   &&r   r  Ú*SymbolicShapeInference._infer_GemmFastGelu¹	  rí  r   c                ó(   € V P                  V4       R # r*   rë  r  s   &&r   r  Ú(SymbolicShapeInference._infer_GemmFloat8¼	  rí  r   c                ó  € V P                  V4       \        VP                  4      ^8”  EdÛ   \        VR4      pVf   RpV P	                  V^ 4      pVEe°   \        V4      p\        W$4      pVRV \        WB,
          4       Uu. uF  p^NK  	  up,           pV P                  VP                  ^ ,          ,          P                  P                  P                  pV\        P                  P                  8X  g    V\        P                  P                  8X  d   \        P                  P                   pV P                  VP                  ^,          ,          pVP#                  \$        P&                  ! VP                  ^,          Wv4      4       \        VP                  4      ^8”  d^   V P                  VP                  ^,          ,          pVP#                  \$        P&                  ! VP                  ^,          Wv4      4       R# R# R# R# u upi )rQ   rD   Nr+  )r%  rR   rË  r   r¥  rF   r–  ru  ri  r   r    r+   r1   rQ  ÚFLOAT16ÚBFLOAT16r¾  rq  r   rw  )	rD  r   rD   Úx_shaperE   rÛ  Ú
mean_shapeÚ
mean_dtyper.   s	   &&       r   r  Ú0SymbolicShapeInference._infer_LayerNormalization¿	  s|  € Ø×&Ñ& tÔ,Üˆt�{‰{Ó˜aÕÜ   vÓ.ˆDØŠ|Ø�Ø—o‘o d¨AÓ.ˆGØÓ"Ü˜7“|�Ü+¨DÓ7�Ø$ U d˜^¼%ÀÅÔ:LÓ.MÑ:L°Q«qÑ:LÑ.MÕM�
Ø!Ÿ^™^¨D¯J©J°q­MÕ:×?Ñ?×KÑK×UÑU�
Ø¤×!1Ñ!1×!9Ñ!9Ô9¸ZÌ4×K[ÑK[×KdÑKdÔ=dÜ!%×!1Ñ!1×!7Ñ!7�JØ—^‘^ D§K¡K°¥NÕ3�Ø—‘œF×9Ò9¸$¿+¹+Àa½.È*ÓaÔbÜ�t—{‘{Ó# aÔ'ØŸ™¨¯©°A­Õ7�BØ—K‘K¤× =Ò =¸d¿k¹kÈ!½nÈjÓ eÖfñ (ñ #ñ  ùò /Ns   ÂH	c                ó(   € V P                  V4       R # r*   ræ  r  s   &&r   r  Ú1SymbolicShapeInference._infer_LongformerAttentionÓ	  rè  r   c                ó6  € V P                  V^ 4      pV P                  V^4      p\        V4      ^8X  d   \        V4      ^8X  g   Q h. VOV^,          NpV P                  VP                  ^,          ,          P                  P
                  P                  pV P                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          WT4      4       \        VP                  4      ^8”  d˜   VP                  ^,          '       d   V^ ,          .pV P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  ^,          \        P                  P                  V4      4       \        VP                  4      ^8”  d^   V P                  VP                  ^,          ,          pVP                  \        P                  ! VP                  ^,          WT4      4       R# R# r…  rÜ  )rD  r   Úinput_ids_shapeÚword_embedding_shaper…  Úword_embedding_dtyper.   Úmask_index_shapes   &&      r   r  Ú5SymbolicShapeInference._infer_EmbedLayerNormalizationÖ	  sz  € ØŸ/™/¨$°Ó2ˆØ#Ÿ™¨t°QÓ7ÐÜ�?Ó# qÔ(¬SÐ1EÓ-FÈ!Ô-KÐKÐKØB˜ÐBÐ*>¸qÕ*AÐBˆà#Ÿ~™~¨d¯j©j¸­mÕ<×AÑA×MÑM×WÑWÐØ�^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.ÐBVÓeÔfäˆt�{‰{Ó˜aÔ D§K¡K°§N¤NØ /°Õ 2Ð3ÐØ—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÄd×FVÑFV×F\ÑF\Ð^nÓoÔpäˆt�{‰{Ó˜aÔð —‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°d·k±kÀ!µnÐFZÓiÖjñ	  r   c                ó†   € V P                  V4       \        VP                  4      ^8”  d   V P                  V^ ^4       R# R# )r  Nr1  r  s   &&r   r,  Ú4SymbolicShapeInference._infer_SkipLayerNormalizationë	  s:   € Ø×&Ñ& tÔ,ô ˆt�{‰{Ó˜aÔØ×*Ñ*¨4°°AÖ6ñ  r   c                ó(   € V P                  V4       R # r*   ræ  r  s   &&r   r  Ú'SymbolicShapeInference._infer_GroupNormó	  rè  r   c                ó(   € V P                  V4       R # r*   ræ  r  s   &&r   r#  Ú,SymbolicShapeInference._infer_PagedAttentionö	  rè  r   c                ó   € V P                   VP                  ^ ,          ,          P                  P                  P                  pV P                  V^4      pVe©   V P                   VP                  ^,          ,          pVP                  \        P                  ! VP                  W#4      4       V P                   VP                  ^,          ,          pVP                  \        P                  ! VP                  W#4      4       VP                  ^,          R8w  d.   VP                  ^,          R8w  d   V P                  V^ ^ 4       R# VP                  ^,          R8X  d   VP                  ^,          R8X  g   Q h\        VR4      p\        VR4      pV P                  V^ 4      pVe©   V^,          p\        V\        4      '       dˆ   \        W…^V,          ,           ,          4      p	WY,          V^&   V P                   VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          W'4      4       R# R# R# )r   NrH   rI  Úkv_num_heads)ru  ri  r   r    r+   r©  rË  rq  r   rw  r
   r%  r   r¥  rö  r6   )
rD  r   rE  rÌ  r.   rI  r  rì  Úhidden_sizerÎ  s
   &&        r   r  Ú1SymbolicShapeInference._infer_GroupQueryAttentionù	  sª  € Ø—~‘~ d§j¡j°¥mÕ4×9Ñ9×EÑE×OÑOˆà×(Ñ(¨¨qÓ1ˆ
ØÒ!ð —‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°b·g±g¸|ÓXÔYØ—‘ §¡¨A¥Õ/ˆBØ�K‰Kœ×5Ò5°b·g±g¸|ÓXÔYà�:‰:�a�=˜BÔ 4§:¡:¨a¥=°BÔ#6Ø×*Ñ*¨4°°AÖ6ð —:‘:˜a•= BÔ&¨4¯:©:°a­=¸BÔ+>Ð>Ð>Ü% d¨KÓ8ˆIÜ(¨¨~Ó>ˆLØŸ/™/¨$°Ó2ˆKØÒ&Ø)¨!�n�Ü˜k¬3×/Ò/Ü # K¸qÀ<Õ?OÕ3OÕ$PÓ Q�IØ%.Õ%:�K ‘NØŸ™¨¯©°A­Õ7�BØ—K‘K¤× =Ò =¸d¿k¹kÈ!½nÈlÓ hÖiñ	 0ñ 'r   c                ó(   € V P                  V4       R # r*   )r  r  s   &&r   r-  Ú-SymbolicShapeInference._infer_SparseAttention
  s   € Ø×'Ñ'¨Ö-r   c                óŠ   € V P                  V^ ^ 4       \        VP                  4      ^8”  d   V P                  V^ ^4       R# R# r…  r1  r  s   &&r   r+  Ú+SymbolicShapeInference._infer_SkipGroupNorm
  s<   € Ø×&Ñ& t¨Q°Ô2Üˆt�{‰{Ó˜aÔØ×*Ñ*¨4°°AÖ6ñ  r   c                ó  € V P                  V^ 4      pV P                  V^4      pV'       dà   V'       dÖ   \        V^ ,          \        4      '       d·   Tp\        V^ ,          ^,          4      V^&   V P                  VP                  ^ ,          ,          pV P                  VP
                  ^ ,          ,          P                  P                  P                  pVP                  \        P                  ! VP                  Wd4      4       R# R# R# R# r…  )r¥  rö  r6   ru  rË  ri  r   r    r+   rq  r   rw  r
   )rD  r   rƒ  Ú
bias_shaper…  r.   rE  s   &&     r   r  Ú+SymbolicShapeInference._infer_BiasSplitGelu
  s¸   € Ø—o‘o d¨AÓ.ˆØ—_‘_ T¨1Ó-ˆ
ßŸ:¬*°ZÀµ]ÄC×*HÒ*HØ&ˆLÜ! *¨Q¥-°!Õ"3Ó4ˆL˜‰OØ—‘ §¡¨A¥Õ/ˆBØŸ>™>¨$¯*©*°Q­-Õ8×=Ñ=×IÑI×SÑSˆLØ�K‰Kœ×5Ò5°b·g±g¸|ÓZÖ[ñ +I™:‰;r   c                ó(   € V P                  V4       R # r*   ræ  r  s   &&r   r  Ú%SymbolicShapeInference._infer_BiasAdd'
  rè  r   c                ó˜  € \        VP                  4      ^8X  d   V P                  V4       R# \        VP                  4      ^8X  d+   V P                  V^^ R7       V P                  V^ ^R7       R# \        VP                  4      ^8X  d?   V P                  V^^ R7       V P                  V^^R7       V P                  V^ ^R7       R# R# )rQ   r-  N)rR   rË  r%  r  s   &&r   r*  Ú-SymbolicShapeInference._infer_RotaryEmbedding*
  s±   € Üˆt�{‰{Ó˜qÔ Ø×*Ñ*¨4Ö0Ü�—‘Ó Ô"à×*Ñ*¨4¸QÈQÐ*ÔOØ×*Ñ*¨4¸QÈQÐ*ÖOÜ�—‘Ó Ô"à×*Ñ*¨4¸QÈQÐ*ÔOØ×*Ñ*¨4¸QÈQÐ*ÔOØ×*Ñ*¨4¸QÈQÐ*ÖOñ	 #r   c                óø  € \        VR 4      pV'       g   Q RVP                   R24       h\        VR4      pV'       g   Q RVP                   R24       h^ RIHp \        VR4      P	                  4       pV! V4      pV P
                  VP                  ^ ,          ,          pVP                  \        P                  ! VP                  ^ ,          \        P                  P                  . 4      4       VEeÆ   . p. p	\        \        VP                  4      4       Fx  p
V P!                  W4      pVP#                  V4       V P
                  VP                  V
,          ,          P$                  P&                  P(                  pV	P#                  V4       Kz  	  V! WV	4      w  rÞ\        V4      \        V4      u;8X  d"   \        VP                  4      ^,
          8X  gC   M Q RV R\        V4       R	\        V4       R
\        VP                  4      ^,
           R2	4       h\        \        VP                  4      ^,
          4       Ft  pV^,           pV P
                  VP                  V,          ,          pVP                  \        P                  ! VP                  V,          Wï,          Wß,          4      4       Kv  	  R# \        \        VP                  4      ^,
          4       F˜  pV P
                  VP                  V^,           ,          ,          pV P+                  W?,          V4      p\-        V4      p\        P                  ! VP                  V^,           ,          W/,          V4      pVP                  V4       Kš  	  R# )Úoutput_tensor_typesz
PythonOp 'z'' has no output_tensor_types attribute.Úoutput_tensor_ranksz'' has no output_tensor_ranks attribute.)Úget_shape_inference_functionÚ	func_nameNz' returned z shapes and z dtypes, but expected z	 outputs.)r   r
   Úonnxruntime.capi._pybind_stater,  r,  ru  rË  rq  r   rw  r1   rQ  r~  r–  rR   ri  r¥  r²  r   r    r+   r  r9   )rD  r   r*  r+  r,  r-  Úshape_infererr.   Úinput_shapesÚinput_dtypesr.  r%   Úinput_dtypeÚoutput_shapesÚoutput_dtypesr8   r/  r7   rj  s   &&                 r   r$  Ú&SymbolicShapeInference._infer_PythonOp7
  sº  € Ü+¨DÐ2GÓHÐß"Ðc j°·±°Ð;bÐ$cÓcÐ"Ü+¨DÐ2GÓHÐß"Ðc j°·±°Ð;bÐ$cÓcÐ"åOä! $¨Ó4×;Ñ;Ó=ˆ	Ù4°YÓ?ˆð �^‰^˜DŸK™K¨�NÕ+ˆØ
�‰”F×1Ò1°$·+±+¸aµ.Ä$×BRÑBR×BXÑBXÐZ\Ó]Ô^àÓ$ØˆLØˆLÜ$¤S¨¯©£_Ö5�ØŸ™¨Ó:�Ø×#Ñ# EÔ*Ø"Ÿn™n¨T¯Z©Z¸Õ-DÕE×JÑJ×VÑV×`Ñ`�Ø×#Ñ# KÖ0ñ	  6ñ
 ,9¸È\Ó+ZÑ(ˆMÜ�}Ó%¬¨]Ó);ÖUÄÀDÇKÁKÓ@PÐSTÕ@TÖUð Ø˜Y˜K {´3°}Ó3EÐ2FÀlÔSVÐWdÓSeÐRfð g Ü # D§K¡KÓ 0°1Õ 4Ð5°Yð@óÐUô œ3˜tŸ{™{Ó+¨aÕ/Ö0�Ø  1�u�Ø—^‘^ D§K¡K°Õ$=Õ>�Ø—‘Ü×1Ò1°$·+±+¸lÕ2KÈ]ÕM]Ð_lÕ_oÓpöó 1ô œ3˜tŸ{™{Ó+¨aÕ/Ö0�à—^‘^ D§K¡K°°AµÕ$6Õ7�Ø"×6Ñ6Ð7JÕ7MÈtÓT�Ü2°;Ó?�Ü#×:Ò:¸4¿;¹;ÀqÈ1ÅuÕ;MÐObÕOeÐglÓm�
Ø—‘˜JÖ'ó 1r   c                ób  € V P                  W4      pV P                  VP                  V,          ,          P                  P                  P
                  pV P                  VP                  V,          ,          pVP                  \        P                  ! VP                  V,          WT4      4       R # r*   )
r¥  ru  ri  r   r    r+   rË  rq  r   rw  )rD  r   r.  r/  r%   rE  r.   s   &&&&   r   r%  Ú0SymbolicShapeInference._propagate_shape_and_typef
  sr   € Ø—‘ Ó2ˆØ—~‘~ d§j¡j°Õ&=Õ>×CÑC×OÑO×YÑYˆØ�^‰^˜DŸK™K¨Õ5Õ6ˆØ
�‰”F×1Ò1°$·+±+¸lÕ2KÈ\ÓaÖbr   c                óh   € \        V4      \        8w  d   R # RV9  d   R # WP                  9   d   R # R# )FÚunk__T)r   r   r<  )rD  rl  s   &&r   Ú_is_none_dimÚ#SymbolicShapeInference._is_none_diml
  s.   € Ü�	‹?œcÔ!ÙØ˜)Ô#ÙØ×+Ñ+Ô+ÙÙr   c                óN   € V F  pV P                  V4      '       g   K  Vu # 	  R # r*   )r:  )rD  Ú	out_shapeÚouts   && r   Ú_is_shape_contains_none_dimÚ2SymbolicShapeInference._is_shape_contains_none_dimu
  s'   € ÛˆCØ× Ñ  ×%Ô%Ø’
ñ ñ r   c                óx'  a a$a%€ T;'       g    / S n         S P                  P                  P                  R 4       S P	                  RR7       \        4       S n        S P                  P                  P                   EF#  p\        V4      pVf   K  \        VP                  4      '       d@   VP                  P                  P                  P                  P                  P                  pM*VP                  P                  P                  P                  p\!        V4       F;  w  rVVe   K  \#        S P%                  VP&                  V4      4      WE,          n        K=  	  S P                  P+                  V Uu. uF  p\        V4      \"        J g   K  VNK  	  up4       EK&  	  S P                   F‚  pVS P,                  9   dI   S P,                  V,          p	V	S P.                  9   g   Q hS P.                  V	,          S P.                  V&   K\  \0        P2                  ! VRRR7      S P.                  V&   K„  	  \4        P6                  ! 4       S n        S P8                  P;                  S P                  4       S P8                  P                  P                  R4       / p
V$3R lo$S P8                  P                  P<                   F  pS$! V4      W«P>                  ^ ,          &   K   	  . p\A        S P                  P                  P                  4      \A        S P                  P                  PB                  4      ,            Uu0 uF  q"P&                  kK  	  upo%\D        ;QJ d=    V%3R lS P                  P                  P>                   4       F  '       g   K   RM2	  RM.! V%3R lS P                  P                  P>                   4       4      '       d#   S P                  P                  P<                  pEM\F        ;QJ d=    V%3R	 lS P                  P                  P>                   4       F  '       d   K   RM2	  RM.! V%3R	 lS P                  P                  P>                   4       4      '       Eg†   \I        V4      pS P                  P                  P<                   F¹  pVP>                  ^ ,          S%9  g   K  \F        ;QJ d6    V%3R
 lW®P>                  ^ ,          ,           4       F  '       d   K   RM+	  RM'! V%3R
 lW®P>                  ^ ,          ,           4       4      '       g   K�  S%P+                  VP>                  4       VPK                  V4       K»  	  V\I        V4      8X  g   EKx  \F        ;QJ d=    V%3R lS P                  P                  P>                   4       F  '       d   K   RM2	  RM.! V%3R lS P                  P                  P>                   4       4      '       d   EK÷  \M        R4      hV EFŽ  p\F        ;QJ d)    V 3R lVP                   4       F  '       d   K   RM	  RM! V 3R lVP                   4       4      '       g   Q hS PO                  V4       RpVPP                  S PR                  9   d&   S PR                  VPP                  ,          ! V4       EM\VPP                  R,9   d‘   S PT                  VP>                  ^ ,          ,          p\I        VP                  P                  P                  P                  4      ^ 8X  d4   \4        PV                  PX                  VP                  P                  n        M»VPP                  R8X  d«   VPZ                  R8X  dš   VP\                   F‰  pVP&                  R8X  g   K  \_        VP`                  \b        4      '       d   VP`                  Pe                  R4      MVP`                  pVS Pf                  9   d   RpS Pf                  V,          ! V4        M	  S Ph                  ^8”  d‚   \j        Pm                  VPP                  R,           VP&                  ,           4       \!        VP                  4       F1  w  pp\j        Pm                  RTTVS Pn                  9   d   RMR4       K3  	  VPP                  R-9   Ed   S PT                  VP>                  ^ ,          ,          p\I        \q        VP                  4      4      p\s        \I        VP                  4      4       Uu. uF  pS Pu                  Wâ4      NK  	  pp\s        TVPP                  R.9   d   ^M^ ,
          4       Fp  pV Uu. uF<  p\I        V4      V,           V8¼  g   K  V\I        V4      V,
          V,           ,          NK>  	  pp\I        V4      ^8”  g   K]  S Pw                  VRR7       Kr  	  \s        \I        VP>                  4      4       E	F§  pVPP                  R8X  g   VPP                  R8X  d
   VR/9   d   K/  VPP                  R8X  d   \I        VP>                  4      ^8”  d   K\  S PT                  VP>                  V,          ,          pVP                  pVPy                  R4      pVR09  EdE   S Ph                  ^8”  Ed0   VR8X  dý   VP                  P                  Py                  R4      pVR8X  d¤   \j        Pm                  RP{                  VP>                  V,          \#        \        V4      4      \4        PV                  P|                  P                  VP                  P                  P                  P                  P                  4      4      4       MY\j        Pm                  RVP>                  V,           RV 24       M,\j        Pm                  RVP>                  V,           RV 24       EKé  \        V4      pVP                  P                  \4        PV                  PX                  8H  pS Ph                  ^8”  dß   \j        Pm                  RVP>                  V,           RV: R\4        PV                  P|                  P                  VP                  P                  P                  4       24       VP>                  V,          S P                   9   dH   \j        Pm                  R \#        S P                   VP>                  V,          ,          4      ,           4       Ve   RV9   g#   S P�                  V4      '       g   V'       g   EKA  S P‚                  '       Ed§   VPP                  R19   EdT   \s        \I        VP                  4      4       Uu. uF  pS Pu                  Wâ4      NK  	  ppVPP                  R.9   Ed   RV9   g   S P�                  V4      '       dç   RV9   d   VP…                  R4      pM VP…                  S P�                  V4      4      pV Uu. uF%  p\I        V4      \I        V4      ,
          V,           NK'  	  pp\I        V^ ,          4      ^8”  d&   V^ ,          \I        V^ ,          4      ^,
          8  g   Q h\I        V^,          4      ^8”  d&   V^,          \I        V^,          4      ^,
          8  g   Q hM8VPP                  R!8X  d&   S Pu                  V^ 4      S P‡                  V^4      .pM. pV'       dú   \s        \I        V4      4       FÙ  pVV,          e!   S P‰                  VV,          4      '       g   K.  V Uu. uF%  p\I        V4      \I        V4      ,
          V,           NK'  	  pp\I        V4      ^ 8”  g   Kq  S P‹                  \�        VVRR"7       UUu. uF>  w  r‚V^ 8¼  g   K  \�        W‚,          4      '       d	   W‚,          M\#        W‚,          4      NK@  	  upp4       KÛ  	  RS nH        MRS nH        MRS nH        S P�                  RJ Ed   VPP                  S PR                  9  Edç   V'       EgÞ   T;'       d    VRJ ;'       g    \I        V4      ^ 8H  p V '       d(   S P’                  '       d   S P•                  V^ 4      MR2pM\I        V4      pV^ 8¼  Edx   S P—                  VVV4      p!V'       dD   S PT                  VP                  ^ ,          ,          P                  P                  P                  p"M VP                  P                  P                  p"VP;                  \˜        Pš                  ! VP&                  V"\�        V!4      4      4       S Ph                  ^ 8”  d¥   V '       d>   \j        Pm                  R#VPP                   R$VP&                   R%VP&                   R&24       S Ph                  ^8”  dO   \j        Pm                  RVP>                  V,           RV!: RVP                  P                  P                   24       RS nH        EK  S Ph                  ^ 8”  g   S P‚                  '       d
   V'       Edg   \j        Pm                  R'VPP                  VP&                  4       \j        Pm                  R(4       VP                   FT  pVS PT                  9   d)   \j        Pm                  S PT                  V,          4       K<  \j        Pm                  R)V 24       KV  	  \j        Pm                  R*4       VP>                   FT  p#V#S PT                  9   d)   \j        Pm                  S PT                  V#,          4       K<  \j        Pm                  R)V# 24       KV  	  S P‚                  '       d8   V'       g0   \j        Pm                  R+\#        S P,                  4      ,           4         R# 	  EK‘  	  RS nH        R# u upi u upi u upi u upi u upi u upi u upi u uppi )3rj  T)rm  N)r°  Úpositivers  c           	      óÎ  <€ V P                    Uu0 uF  q'       g   K  VkK  	  pp. pV P                  R 8X  d   \        V R4      \        V R4      .pMV P                  R9   d   \        V R4      .pV Fà  pVP                   Uu0 uF  qP                  kK  	  pp\        4       pVP                   F  pVP                  VP                  4       K   	  VP                   F2  pTP                  S! V4       Uu. uF  qV9  g   K  VNK  	  up4       K4  	  VP                  V4       VP                    F  pVP                  VP                  4       K   	  Kâ  	  V# u upi u upi u upi )rx   rÔ  rÕ  rÝ  )ry   r�   )
ri  rÊ  r   rs  r
   rT  r   rv  rË  Údiscard)	r   r8   ÚnamesrÖ  ÚgÚg_outputs_and_initializersÚg_prereqÚnÚ
get_prereqs	   &       €r   rJ  Ú6SymbolicShapeInference._infer_impl.<locals>.get_prereq¤
  s,  ø€ Ø $§
¢
Ó0¡
˜1«a—Q�Q¡
ˆEÐ0ØˆIØ�|‰|˜tÔ#ä! $¨Ó6Ü! $¨Ó6ð‘	ð —‘Ð!1Ô1Ü*¨4°Ó8Ð9�	Û�Ø>?¿mºmÓ-L¹m¸¯f¬f¹mÐ*Ð-LÜ›5�ØŸœ�AØ.×5Ñ5°a·h±hÖ?ñ  àŸœ�AØ—O‘O±
¸1´Ó$e±¨1ÐJdÑAd§Q Q±Ñ$eÖfñ  à—‘˜XÔ&àŸœ�AØ—M‘M !§&¡&Ö)ó !ñ ð ˆLùò) 1ùò .Mùò
 %fs   �	EžEÂEÃ5E"ÄE"c              3   ó@   <"  € T F  qP                   S9   x € K  	  R # 5ir*   ©r
   ©rN  rÖ  Úsorted_known_vis   & €r   rP  Ú5SymbolicShapeInference._infer_impl.<locals>.<genexpr>Á
  s   øé € ÐLÑ2K¨Q�v‰v˜Ö(Ó2Kùó   ƒFc              3   ó@   <"  € T F  qP                   S9   x € K  	  R # 5ir*   rM  rN  s   & €r   rP  rP  Å
  s   øé € ÐWÑ=V¸Ÿ&™& OÖ3Ó=VùrQ  c              3   ó@   <"  € T F  q'       g   K  VS9   x € K  	  R # 5ir*   rC   )rN  r8   rO  s   & €r   rP  rP  È
  s!   øé € ð GÙ6U°ÓYZÔ,˜˜_Ö,Ó6Uùs   ƒ	‘c              3   ó@   <"  € T F  qP                   S9   x € K  	  R # 5ir*   rM  rN  s   & €r   rP  rP  Í
  s   øé € ð IÙ7P°!—F‘F˜oÖ-Ó7PùrQ  zInvalid model with cyclic graphc              3   óT   <"  € T F  q'       g   K  VSP                   9   x € K  	  R # 5ir*   )ru  r‰  s   & €r   rP  rP  Ó
  s   øé € ÐD±J¨qÃ!Ô*�q˜DŸN™NÖ*³Jùs   ƒ	(‘(ÚATenzorg.pytorch.atenÚoperatorr'  z: z  Input %s: %s %srH   r�  rÈ   rÉ   rÅ   r   r    r   z  {}: sequence of {} {}z  z: sequence of r•  z  Sympy Data: rq   r$  zPossible unknown op: z node: z, guessing z shapez0Stopping at incomplete shape inference at %s: %sznode inputs:znot in known_vi_ for znode outputs:z	Merging: )ÚConvTransposerÆ  rÉ  r  )r    Úsparse_tensor_typeN)ra   rœ   r‚   ro   rz   rÇ  r{   ri   r¡   rÈ  rr   ÚLessÚGreaterÚLessOrEqualÚGreaterOrEqualr€   r}   r+  )Or¶  rg  rh  rà  r]  rT  r=  ri  r/   r#   r   r   r+   r    r%   r   r¿  r   r  r
   rk  rv  r;  r<  r?   rX  r1   rp  rÍ  rq  r   rË  rI   rs  r  rS  rR   r²  r’  r×  rÊ  r/  ru  rQ  Ú	UNDEFINEDrK   r	   rö  rO  Úbytesr,  r9  r@  rY  r‹  rt  r(   r–  r¥  rŒ  r   ÚformatrR  rS  r?  r>  r\  r¹  r:  rd  r  r5   r:  r?  r¬  r  r   rw  r9   )&rD  Ústart_sympy_datar8   rƒ  Ú
input_dimsÚi_dimr   r'   rO  Ús_mergeÚprereq_for_noderI  Úsorted_nodesÚold_sorted_nodes_lenr   Úknown_aten_opr.   r   Úaten_op_namer
   rÑ  rÒ  rÓ  rÕ  Úout_typeÚout_type_kindÚseq_cls_typer=  Úout_type_undefinedÚshapesr¤  Údim_idxÚis_unknown_opr™  Ú	out_dtyperÖ  rJ  rO  s&   f&                                  @@r   rÞ  Ú"SymbolicShapeInference._infer_impl{
  s³  ú€ Ø+×1Ð1¨rˆÔØ�‰×Ñ×%Ñ% lÔ3Ø×#Ñ#°TÐ#Ô:Ü!›eˆÔØ—‘×#Ñ#×)Õ)ˆAÜ3°AÓ6ˆKØÒ"Ùä˜1Ÿ6™6×"Ò"ØŸV™V×1Ñ1×;Ñ;×GÑG×MÑM×QÑQ‘
àŸV™V×/Ñ/×5Ñ5×9Ñ9�
ä'¨Ö4‘
�Ø”;ä25°d×6LÑ6LÈQÏVÉVÐUZÓ6[Ó2\�JÕ%Ö/ñ 5ð
 ×Ñ×&Ñ&±;Ó'Q±;¨aÄ$ÀqÃ'ÌSÀ.¯¨±;Ñ'Q×Rñ *ð" ×$Ô$ˆAØ�D×)Ñ)Ô)Ø×/Ñ/°Õ2�Ø $×"5Ñ"5Ô5Ð5Ð5Ø)-×)<Ñ)<¸WÕ)E�×#Ñ# AÓ&ô */¯ª°aÀÐPTÔ)U�×#Ñ# AÓ&ñ %ô —’Ó(ˆŒØ�‰×Ñ˜dŸl™lÔ+Ø�‰×Ñ×%Ñ% mÔ4ð ˆõ	ð. —‘×#Ñ#×(Ô(ˆAÙ+5°a«=ˆOŸH™H Q�KÓ(ñ )ð ˆÜ+/°·±×0BÑ0B×0HÑ0HÓ+IÌDÐQU×Q]ÑQ]×QcÑQc×QoÑQoÓLpÖ+pÓqÑ+p aŸ6œ6Ñ+pÑqˆß‹3ÔL°$·,±,×2DÑ2D×2KÒ2KÓL�3�3Š3ÔL°$·,±,×2DÑ2D×2KÒ2KÓL×LÒLàŸ<™<×-Ñ-×2Ñ2ŠLç“cÔW¸T¿\¹\×=OÑ=O×=VÒ=VÓW—c—c’cÔW¸T¿\¹\×=OÑ=O×=VÒ=VÓW×WÓWÜ'*¨<Ó'8Ð$Ø ŸL™L×.Ñ.×3Ô3�DØŸ™ A�¨oÖ=Ç3Ã3ô GØ6EÇkÁkÐRSÅnÖ6UóGÇ3Ç3Â3ô GØ6EÇkÁkÐRSÅnÖ6UóG÷ Dô Dð (×.Ñ.¨t¯{©{Ô;Ø$×+Ñ+¨DÖ1ñ 4ð (¬3¨|Ó+<×<ÇSÃSô IØ7;·|±|×7IÑ7I×7PÒ7PóIÇSÇSÂSô IØ7;·|±|×7IÑ7I×7PÒ7PóI÷ Fõ Fô $Ð$EÓFÐFä ˆDß“3ÔD°D·J²JÓD—3—3’3ÔD°D·J²JÓD×DÒDÐDÐDØ×(Ñ(¨Ô.Ø!ˆMØ�|‰|˜t×/Ñ/Ô/Ø× Ñ  §¡Ö.¨tÖ4Ø—‘Ð!2Ô2ð —^‘^ D§K¡K°¥NÕ3�Ü�r—w‘w×*Ñ*×0Ñ0×4Ñ4Ó5¸Ô:Ü48×4DÑ4D×4NÑ4N�B—G‘G×'Ñ'Ô1øØ—‘ Ô'¨D¯K©KÐ;MÔ,MØ ŸNœN�Dà—y‘y JÖ.ÜAKÈDÏFÉFÔTY×AZÒAZ t§v¡v§}¡}°WÔ'=Ð`d×`fÑ`f˜Ø'¨4×+CÑ+CÔCØ,0˜MØ ×4Ñ4°\ÖBÀ4ÔHÙñ +ð �}‰}˜qÔ Ü—‘˜TŸ\™\¨DÕ0°4·9±9Õ<Ô=Ü(¨¯©Ö4‘G�A�tÜ—L‘LÐ!4°a¸ÐPTÐX\×XjÑXjÔPj¹}ÐprÖsñ  5ð
 �|‰|ð 
 õ 
ð —^‘^ D§K¡K°¥NÕ3�ÜÔ8¸¿¹ÓAÓB�Ü?DÄSÈÏÉÃ_Ô?UÓVÑ?U¸!˜TŸ_™_¨TÖ5Ñ?U�	ÐVÜ˜x°·±Ð@nÔ0n©1ÐtuÕvÖw�AÙAJÓeÁ¸AÌcÐRSËfÐWXÍjÐ\dÑNdÔ7˜q¤ Q£¨(Õ!2°QÕ!6×7Ð7Á�GÐeÜ˜7“| aÖ'Ø×/Ñ/°ÈÐ/ÖNñ xô
 œS §¡Ó-×.�ð —L‘LÐ$<Ô<ÀÇÁÐPrÔ@rØ˜V”mÙØ—<‘<Ð#4Ô4¼¸T¿[¹[Ó9IÈAÔ9Mñ à—^‘^ D§K¡K°Õ$4Õ5�ØŸ7™7�Ø (× 3Ñ 3°GÓ <�ð !Ð(SÕSØ—}‘} qÕ(Ø(¨OÔ;Ø+3×+AÑ+A×+KÑ+K×+VÑ+VÐW^Ó+_˜LØ+¨}Ô<Ü &§¡Ø$=×$DÑ$DØ(,¯©°CÕ(8Ü(+Ô,EÀbÓ,IÓ(JÜ(,×(8Ñ(8×(AÑ(A×(FÑ(FØ,.¯G©G×,AÑ,A×,KÑ,K×,WÑ,W×,aÑ,aó)*ó%&õ!"ô !'§¡¨r°$·+±+¸cÕ2BÐ1CÀ>ÐR^ÐQ_Ð-`Õ aä"ŸL™L¨2¨d¯k©k¸#Õ.>Ð-?¸rÀ-ÀÐ)QÔRÚä5°bÓ9�	Ø%-×%9Ñ%9×%CÑ%CÄt×GWÑGW×GaÑGaÑ%aÐ"Ø—=‘= 1Ô$Ü—L‘LØ˜TŸ[™[¨Õ-Ð.¨b°±¸Q¼t×?OÑ?O×?XÑ?X×?]Ñ?]Ð^`×^eÑ^e×^qÑ^q×^{Ñ^{Ó?|Ð>}Ð~ôð —{‘{ 3Õ'¨4×+;Ñ+;Ô;ÜŸ™Ð%5¼¸D×<LÑ<LÈTÏ[É[ÐY\ÕM]Õ<^Ó8_Õ%_Ô`ð Ò)¨t°yÔ/@ÀD×DdÑDdÐen×DoÒDoß'Ò'Ø×'×'Ñ'ØŸ<™<ð ,õ ô& INÌcÐRV×R\ÑR\ËoÔH^Ó%_ÑH^À1 d§o¡o°dÖ&>ÑH^˜FÐ%_Ø#Ÿ|™|ð 0õ  ð
 $(¨9Ô#4¸×8XÑ8XÐYb×8cÒ8cØ'+¨yÔ'8Ø.7¯o©o¸dÓ.C©à.7¯o©o¸d×>^Ñ>^Ð_hÓ>iÓ.j¨ÙV\Ó.]ÑV\ÐQR¬s°1«v¼¸I»Õ/FÈ×/LÐ/LÑV\ GÐ.]ä+.¨v°a­y«>¸AÔ+=À'È!Å*ÌsÐSYÐZ[ÕS\Ë~Ð`aÕOaÔBaÐ$aÐ+aÜ+.¨v°a­y«>¸AÔ+=À'È!Å*ÌsÐSYÐZ[ÕS\Ë~Ð`aÕOaÔBaÐ$aÐ+aøØ!Ÿ\™\¨XÔ5ð !%§¡°°aÓ 8Ø $§¡°°aÓ 8ð&™Fð
 &(˜Fç!Ü',¬S°«^Ö'< Ø#,¨S¥>Ò#=Àd×FWÑFWÐXaÐbeÕXf×FgÒFgÙ$,ñ SYÓ*YÑRXÈQ¬3¨q«6´C¸	³NÕ+BÀS×+HÐ+HÑRX Ð*YÜ#& w£<°!Ö#3Ø$(×$=Ñ$=ô 9<¸FÀGÐTYÕ8Zô)*á8Z±°Ø/0°A©vô -T´J¸q½t×4DÒ4D¨A®DÌ#ÈaÍdË)Ò,SÙ8Zò)*ö%&ñ (=ð )-˜D�Ià(-˜D�Ià$)˜œ	ð —y‘y EÔ)¨d¯l©lÀ$×BRÑBRÕ.R×[hÐ[hØ(:×(iÐ(iÀ	ÈTÐ@Q×@hÐ@hÔUXÐYbÓUcÐghÑUh˜ß(ð IM×H_×H_ÐH_ t×';Ñ';¸DÀ!Ô'DÐeg™Hô (+¨9£~˜Hà# q�=Ø(,×(@Ñ(@ÀÈ4ÐQTÓ(U˜Iß1à,0¯N©N¸4¿:¹:Àa½=Õ,I×,NÑ,N×,ZÑ,Z×,dÑ,d¡	ð -/¯G©G×,?Ñ,?×,IÑ,I 	ØŸK™KÜ &× =Ò =Ø$&§G¡GØ$-Ü$>¸yÓ$Ió!"ôð  $Ÿ}™}¨qÔ0ß#0Ü$*§L¡LØ*?ÀÇÁ¸~ÈWÐUY×U^ÑU^ÐT_Ð_jÐkm×krÑkrÐjsÐsyÐ(zô%&ð $(§=¡=°1Ô#4Ü$*§L¡L°2°d·k±kÀ#Õ6FÐ5GÀrÈ)ÉÐVWÐXZ×X_ÑX_×XkÑXk×XuÑXuÐWvÐ1wÔ$xà(,˜DœIÚ$à—}‘} qÔ(°×0@×0@Ð0@×DVÐDVÜŸ™Ð%WÐY]×YeÑYeÐgk×gpÑgpÔqÜŸ™ ^Ô4Ø!%§¤˜AØ  D§N¡NÔ2Ü &§¡¨T¯^©^¸AÕ->Ö ?ä &§¡Ð/DÀQÀCÐ-HÖ Iñ	 ",ô
 Ÿ™ _Ô5Ø!%§¤˜AØ  D§N¡NÔ2Ü &§¡¨T¯^©^¸AÕ->Ö ?ä &§¡Ð/DÀQÀCÐ-HÖ Iñ	 "-ð
  ×+×+Ð+×4FÜ"ŸL™L¨´s¸4×;PÑ;PÓ7QÕ)QÔRÛ ôY /ñc !ð~ ˆŒ	ÙùòG	 (Rùòb rùòz WùâeùòZ &`ùò /^ùò& +Zùó)*sM   Å7AN
ÆAN
Ì>ANäANåAN"å,$AN"õAN'÷(+AN,ü+AN1
ý3AN6þ4AN6c                óæ   € V P                   P                  P                   FL  pVP                  V P                  9   g   K   VP                  V P                  VP                  ,          4       KN  	  R # r*   )rg  rh  rË  r
   ru  rq  )rD  rË  s   & r   rß  Ú-SymbolicShapeInference._update_output_from_vi´  sE   € Ø—l‘l×(Ñ(×/Ô/ˆFØ�{‰{˜dŸn™nÖ,Ø—‘ §¡¨v¯{©{Õ ;Ö<ó 0r   c                óŽ  € \        V 4      pV'       d   V^8  d   \        P                  R4       R# \        WW44      pRpVP	                  V 4       VP
                  '       d   VP                  4       pK$  VP                  4        V'       g/   \        P                  ! VP                  RRR7       \        R4      hVP                  # )é   z.Only support models of onnx opset 7 and above.NFzsym_shape_infer_temp.onnxT)Úsave_as_external_dataz#Incomplete symbolic shape inference)rN   rY  rZ  r_   r{  r:  rÞ  rß  r1   Ú
save_modelrg  r’  )rz  rE  rF  rG  rH  Ú
onnx_opsetræ  Úall_shapes_inferreds   &&&&&   r   rÎ  Ú#SymbolicShapeInference.infer_shapes¹  s¢   € ä˜uÓ%ˆ
ß˜z¨Aœ~Ü�N‰NÐKÔLÙÜ#9¸'ÐO`Ó#jÐ Ø#ÐØ ×,Ñ,¨UÔ3Ø&×+×+Ð+Ø":×"FÑ"FÓ"HÒØ ×7Ñ7Ô9ß"Ü�OŠOÐ4×<Ñ<Ð>YÐquÕvÜÐAÓBÐBØ'×/Ñ/Ð/r   )r9  r>  r/  rr  r?  rt  r=  rA  ru  rg  rC  r:  rB  r;  r<  r¶  rÍ  r@  )rH   )F)TT)FF)r   r   r   )Tr*   )éÿÿÿFFr   )ƒÚ__name__Ú
__module__Ú__qualname__Ú__firstlineno__rJ  rd  r]  r{  r‘  r   r¥  r©  r¬  r³  r¹  r¼  rÂ  r×  rê  rý  r  r  rÞ   r  r  r  r<  rŒ  rL  r]  rß   rÝ   râ   rã   rä   rå   ræ   rç   rè   ré   r   r  r&  r%  rê   rë   rì   rí   rî   rï   rð   rñ   rò   r  ró   rô   rõ   rö   rà   r0  r1  r4  r2  r3  r5  r6  r7  r8  rá   r÷   rø   rù   rú   r'  rû   rü   rý   rþ   rÿ   r   r  r  r  r  rŸ  r  r  r  r  r	  r
  r  r  r  r  r!  r"  r(  r)  r  r  r  r.  r  r  r  rÿ  r  r  r  r  r  r,  r  r#  r  r-  r+  r  r  r*  r$  r%  r:  r?  rÞ  rß  ÚstaticmethodrÎ  Ú__static_attributes__Ú__classdictcell__)Ú__classdict__s   @r   r_   r_   ‚   sÍ  ø‡ € ôKôZ+*ôZ
(ò
òò<ò27ò	ò/òòwò
òDòe'ôN6(ôp#òJCò&:ò
ò ô
ô[ôBôH8ô\ò>6ò:

ò?ò4'òjò
ò('
òR
ò&Dò
ò2

ò

ò_ò_ò\ò<bò|ò <òB	
ò
ò"lò89%òv)òAò\ò&jò
xò
ò*
ò4òmò òD
ò"
nònòBò.jò2ò0`ò Tò
ò&òB(ò
Nò\ò2'òh0òd!òF	
ò
DòIòJò
òZdòxWò")ò>FòHò.'ò`
ò(sò:ò!'òFò+eòZ_ò,\ò$_òpò(cò-òJeòXbò,cò.cò-ò-ò-ò)ò)ògò(-òkò*7ò-ò-òjò8.ò7ò
\ò-òPò-(ô^còòôwòr	=ð
 ó0ó ö0r   r_   c                  ó   € \         P                  ! 4       p V P                  R RRR7       V P                  RRR7       V P                  RRR	R
R7       V P                  RR\        RR7       V P                  RRR	R
R7       V P                  RR\        ^ R7       V P                  RRR	R
R7       V P                  RRR	R
R7       V P                  RRRR7       V P                  RR\        RR7       V P	                  4       # )z--inputTzThe input model file)ÚrequiredÚhelpz--outputzThe output model file)r‡  z--auto_mergez:Automatically merge symbolic dims when confliction happensÚ
store_trueF)r‡  ÚactionÚdefaultz	--int_maxzGmaximum value for integer to be treated as boundless for ops like slice)r‡  r   rŠ  z--guess_output_rankz;guess output rank to be the same as input 0 for unknown opsz	--verbosezHPrints detailed logs of inference, 0: turn off, 1: warnings, 3: detailedz--save_as_external_dataz%Saving an ONNX model to external dataz--all_tensors_to_one_filez(Saving all the external data to one filez--external_data_locationz+The file location to save the external filez./)r‡  rŠ  z--external_data_size_thresholdz$The size threshold for external datai   r|  )ÚargparseÚArgumentParserÚadd_argumentr6   Ú
parse_args)Úparsers    r   Úparse_argumentsr�  Ë  sN  € Ü×$Ò$Ó&€FØ
×Ñ˜	¨DÐ7MÐÔNØ
×Ñ˜
Ð)@ÐÔAØ
×ÑØØIØØð	 ô ð ×ÑØØVÜØð	 ô ð ×ÑØØJØØð	 ô ð ×ÑØØWÜØð	 ô ð ×ÑØ!Ø4ØØð	 ô ð ×ÑØ#Ø7ØØð	 ô ð ×ÑØ"Ø:Øð ô ð
 ×ÑØ(Ø3ÜØð	 ô ð ×ÑÓÐr   Ú__main__zinput model: zoutput model z!Doing symbolic shape inference...TF)rw  Úall_tensors_to_one_fileÚlocationÚsize_thresholdÚconvert_attributezDone!r*   )2r‹  ÚloggingÚnumpyr<   r1   r?   ÚImportErrorr   r   r   Ú	packagingr   ÚparseÚ__version__Ú	getLoggerr}  rY  r   r   r#   r(   r,   r/   r3   r9   r5   rF   rN   rW   rZ   r]   r_   r�  r{  Úinfori  rË  rÎ  ÚloadrE  rF  rG  rH  Úout_mprw  rx  r’  Úexternal_data_locationÚexternal_data_size_thresholdÚsaverC   r   r   Ú<module>r£     sê  ðó
 Û ã Û ðsÛ÷ 7Ñ 6Ý à‡}‚}�T×%Ñ%Ó&¨'¯-ª-¸Ó*@Ô@Ð @Ð@à	×	Ò	˜8Ó	$€ôòcò'òò0ò
2òò_òrò.ô
òòò÷F-0ñ F-0òRZ3ðl ˆzÕÙÓ€DØ
‡K�K� $§*¡*Õ,Ô-Ø‡{‡{€{Ø�‰�O d§k¡kÕ1Ô2Ø
‡K�KÐ3Ô4Ø#×0Ñ0Ø�	Š	�$—*‘*ÓØ�‰Ø�‰Ø×ÑØ�‰ó€Fð ‡{‡{€{—vØ×%×%Ð%Ø�OŠOØØ—‘Ø&*Ø(,×(DÑ(DØ×4Ñ4Ø#×@Ñ@Ø"'öð �IŠI�f˜dŸk™kÔ*Ø�‰�GÖñ �{ñ øði_ ô sÙ
ÐgÓ
hÐnrÐrðsús   ’H ÈH(