xref: /openbmc/qemu/target/arm/tcg/helper-sve.h (revision 67ce09b5) 
1*67ce09b5SRichard Henderson /*
2*67ce09b5SRichard Henderson  *  AArch64 SVE specific helper definitions
3*67ce09b5SRichard Henderson  *
4*67ce09b5SRichard Henderson  *  Copyright (c) 2018 Linaro, Ltd
5*67ce09b5SRichard Henderson  *
6*67ce09b5SRichard Henderson  * This library is free software; you can redistribute it and/or
7*67ce09b5SRichard Henderson  * modify it under the terms of the GNU Lesser General Public
8*67ce09b5SRichard Henderson  * License as published by the Free Software Foundation; either
9*67ce09b5SRichard Henderson  * version 2.1 of the License, or (at your option) any later version.
10*67ce09b5SRichard Henderson  *
11*67ce09b5SRichard Henderson  * This library is distributed in the hope that it will be useful,
12*67ce09b5SRichard Henderson  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13*67ce09b5SRichard Henderson  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14*67ce09b5SRichard Henderson  * Lesser General Public License for more details.
15*67ce09b5SRichard Henderson  *
16*67ce09b5SRichard Henderson  * You should have received a copy of the GNU Lesser General Public
17*67ce09b5SRichard Henderson  * License along with this library; if not, see <http://www.gnu.org/licenses/>.
18*67ce09b5SRichard Henderson  */
19*67ce09b5SRichard Henderson 
20*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_2(sve_predtest1, TCG_CALL_NO_WG, i32, i64, i64)
21*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_predtest, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
22*67ce09b5SRichard Henderson 
23*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_pfirst, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
24*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_pnext, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
25*67ce09b5SRichard Henderson 
26*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_b, TCG_CALL_NO_RWG,
27*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
28*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_h, TCG_CALL_NO_RWG,
29*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_s, TCG_CALL_NO_RWG,
31*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
32*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_d, TCG_CALL_NO_RWG,
33*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
34*67ce09b5SRichard Henderson 
35*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_b, TCG_CALL_NO_RWG,
36*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
37*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_h, TCG_CALL_NO_RWG,
38*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
39*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_s, TCG_CALL_NO_RWG,
40*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
41*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_d, TCG_CALL_NO_RWG,
42*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
43*67ce09b5SRichard Henderson 
44*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_b, TCG_CALL_NO_RWG,
45*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
46*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_h, TCG_CALL_NO_RWG,
47*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
48*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_s, TCG_CALL_NO_RWG,
49*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
50*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_d, TCG_CALL_NO_RWG,
51*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
52*67ce09b5SRichard Henderson 
53*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_b, TCG_CALL_NO_RWG,
54*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
55*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_h, TCG_CALL_NO_RWG,
56*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
57*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_s, TCG_CALL_NO_RWG,
58*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
59*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_d, TCG_CALL_NO_RWG,
60*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
61*67ce09b5SRichard Henderson 
62*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_b, TCG_CALL_NO_RWG,
63*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
64*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_h, TCG_CALL_NO_RWG,
65*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
66*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_s, TCG_CALL_NO_RWG,
67*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
68*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_d, TCG_CALL_NO_RWG,
69*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
70*67ce09b5SRichard Henderson 
71*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_b, TCG_CALL_NO_RWG,
72*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
73*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_h, TCG_CALL_NO_RWG,
74*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
75*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_s, TCG_CALL_NO_RWG,
76*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
77*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_d, TCG_CALL_NO_RWG,
78*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
79*67ce09b5SRichard Henderson 
80*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_b, TCG_CALL_NO_RWG,
81*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
82*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_h, TCG_CALL_NO_RWG,
83*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
84*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_s, TCG_CALL_NO_RWG,
85*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
86*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_d, TCG_CALL_NO_RWG,
87*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
88*67ce09b5SRichard Henderson 
89*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_b, TCG_CALL_NO_RWG,
90*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
91*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_h, TCG_CALL_NO_RWG,
92*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
93*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_s, TCG_CALL_NO_RWG,
94*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
95*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_d, TCG_CALL_NO_RWG,
96*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97*67ce09b5SRichard Henderson 
98*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_b, TCG_CALL_NO_RWG,
99*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
100*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_h, TCG_CALL_NO_RWG,
101*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
102*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_s, TCG_CALL_NO_RWG,
103*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
104*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_d, TCG_CALL_NO_RWG,
105*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
106*67ce09b5SRichard Henderson 
107*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_b, TCG_CALL_NO_RWG,
108*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
109*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_h, TCG_CALL_NO_RWG,
110*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
111*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_s, TCG_CALL_NO_RWG,
112*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
113*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_d, TCG_CALL_NO_RWG,
114*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
115*67ce09b5SRichard Henderson 
116*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_b, TCG_CALL_NO_RWG,
117*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
118*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_h, TCG_CALL_NO_RWG,
119*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
120*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_s, TCG_CALL_NO_RWG,
121*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
122*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_d, TCG_CALL_NO_RWG,
123*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
124*67ce09b5SRichard Henderson 
125*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_b, TCG_CALL_NO_RWG,
126*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
127*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_h, TCG_CALL_NO_RWG,
128*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
129*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_s, TCG_CALL_NO_RWG,
130*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
131*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_d, TCG_CALL_NO_RWG,
132*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
133*67ce09b5SRichard Henderson 
134*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_b, TCG_CALL_NO_RWG,
135*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
136*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_h, TCG_CALL_NO_RWG,
137*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
138*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_s, TCG_CALL_NO_RWG,
139*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
140*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_d, TCG_CALL_NO_RWG,
141*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
142*67ce09b5SRichard Henderson 
143*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_b, TCG_CALL_NO_RWG,
144*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
145*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_h, TCG_CALL_NO_RWG,
146*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
147*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_s, TCG_CALL_NO_RWG,
148*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
149*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_d, TCG_CALL_NO_RWG,
150*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
151*67ce09b5SRichard Henderson 
152*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_b, TCG_CALL_NO_RWG,
153*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
154*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_h, TCG_CALL_NO_RWG,
155*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
156*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_s, TCG_CALL_NO_RWG,
157*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
158*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_d, TCG_CALL_NO_RWG,
159*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
160*67ce09b5SRichard Henderson 
161*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_h, TCG_CALL_NO_RWG,
162*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
163*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_s, TCG_CALL_NO_RWG,
164*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
165*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_d, TCG_CALL_NO_RWG,
166*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
167*67ce09b5SRichard Henderson 
168*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_h, TCG_CALL_NO_RWG,
169*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
170*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_s, TCG_CALL_NO_RWG,
171*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
172*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_d, TCG_CALL_NO_RWG,
173*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
174*67ce09b5SRichard Henderson 
175*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_b, TCG_CALL_NO_RWG,
176*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
177*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_h, TCG_CALL_NO_RWG,
178*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
179*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_s, TCG_CALL_NO_RWG,
180*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
181*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_d, TCG_CALL_NO_RWG,
182*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
183*67ce09b5SRichard Henderson 
184*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_b, TCG_CALL_NO_RWG,
185*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
186*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_h, TCG_CALL_NO_RWG,
187*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
188*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_s, TCG_CALL_NO_RWG,
189*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
190*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_d, TCG_CALL_NO_RWG,
191*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
192*67ce09b5SRichard Henderson 
193*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_b, TCG_CALL_NO_RWG,
194*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
195*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_h, TCG_CALL_NO_RWG,
196*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
197*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_s, TCG_CALL_NO_RWG,
198*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
199*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_d, TCG_CALL_NO_RWG,
200*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
201*67ce09b5SRichard Henderson 
202*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_b, TCG_CALL_NO_RWG,
203*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
204*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_h, TCG_CALL_NO_RWG,
205*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
206*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_s, TCG_CALL_NO_RWG,
207*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
208*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_d, TCG_CALL_NO_RWG,
209*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
210*67ce09b5SRichard Henderson 
211*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_b, TCG_CALL_NO_RWG,
212*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
213*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_h, TCG_CALL_NO_RWG,
214*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
215*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_s, TCG_CALL_NO_RWG,
216*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
217*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_d, TCG_CALL_NO_RWG,
218*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
219*67ce09b5SRichard Henderson 
220*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_b, TCG_CALL_NO_RWG,
221*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
222*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_h, TCG_CALL_NO_RWG,
223*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
224*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_s, TCG_CALL_NO_RWG,
225*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
226*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_d, TCG_CALL_NO_RWG,
227*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
228*67ce09b5SRichard Henderson 
229*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_b, TCG_CALL_NO_RWG,
230*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
231*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_h, TCG_CALL_NO_RWG,
232*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
233*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_s, TCG_CALL_NO_RWG,
234*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
235*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_d, TCG_CALL_NO_RWG,
236*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
237*67ce09b5SRichard Henderson 
238*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_b, TCG_CALL_NO_RWG,
239*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
240*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_h, TCG_CALL_NO_RWG,
241*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
242*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_s, TCG_CALL_NO_RWG,
243*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
244*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_d, TCG_CALL_NO_RWG,
245*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
246*67ce09b5SRichard Henderson 
247*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_b, TCG_CALL_NO_RWG,
248*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
249*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_h, TCG_CALL_NO_RWG,
250*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
251*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_s, TCG_CALL_NO_RWG,
252*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
253*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_d, TCG_CALL_NO_RWG,
254*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
255*67ce09b5SRichard Henderson 
256*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_b, TCG_CALL_NO_RWG,
257*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
258*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_h, TCG_CALL_NO_RWG,
259*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
260*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_s, TCG_CALL_NO_RWG,
261*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
262*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_d, TCG_CALL_NO_RWG,
263*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
264*67ce09b5SRichard Henderson 
265*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_b, TCG_CALL_NO_RWG,
266*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
267*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_h, TCG_CALL_NO_RWG,
268*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
269*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_s, TCG_CALL_NO_RWG,
270*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
271*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_d, TCG_CALL_NO_RWG,
272*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
273*67ce09b5SRichard Henderson 
274*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_b, TCG_CALL_NO_RWG,
275*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
276*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_h, TCG_CALL_NO_RWG,
277*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
278*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_s, TCG_CALL_NO_RWG,
279*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
280*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_d, TCG_CALL_NO_RWG,
281*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
282*67ce09b5SRichard Henderson 
283*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_s, TCG_CALL_NO_RWG,
284*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
285*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_d, TCG_CALL_NO_RWG,
286*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
287*67ce09b5SRichard Henderson 
288*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_s, TCG_CALL_NO_RWG,
289*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
290*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_d, TCG_CALL_NO_RWG,
291*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
292*67ce09b5SRichard Henderson 
293*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_b, TCG_CALL_NO_RWG,
294*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
295*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_h, TCG_CALL_NO_RWG,
296*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
297*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_s, TCG_CALL_NO_RWG,
298*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
299*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_d, TCG_CALL_NO_RWG,
300*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
301*67ce09b5SRichard Henderson 
302*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_b, TCG_CALL_NO_RWG,
303*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
304*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_h, TCG_CALL_NO_RWG,
305*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
306*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_s, TCG_CALL_NO_RWG,
307*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
308*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_d, TCG_CALL_NO_RWG,
309*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
310*67ce09b5SRichard Henderson 
311*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_b, TCG_CALL_NO_RWG,
312*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
313*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_h, TCG_CALL_NO_RWG,
314*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
315*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_s, TCG_CALL_NO_RWG,
316*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
317*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_d, TCG_CALL_NO_RWG,
318*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
319*67ce09b5SRichard Henderson 
320*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_b, TCG_CALL_NO_RWG,
321*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
322*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_h, TCG_CALL_NO_RWG,
323*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
324*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_s, TCG_CALL_NO_RWG,
325*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
326*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_d, TCG_CALL_NO_RWG,
327*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
328*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_q, TCG_CALL_NO_RWG,
329*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
330*67ce09b5SRichard Henderson 
331*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_b, TCG_CALL_NO_RWG,
332*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
333*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_h, TCG_CALL_NO_RWG,
334*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
335*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_s, TCG_CALL_NO_RWG,
336*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
337*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_d, TCG_CALL_NO_RWG,
338*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
339*67ce09b5SRichard Henderson 
340*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_b, TCG_CALL_NO_RWG,
341*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
342*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_h, TCG_CALL_NO_RWG,
343*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
344*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_s, TCG_CALL_NO_RWG,
345*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
346*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_d, TCG_CALL_NO_RWG,
347*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
348*67ce09b5SRichard Henderson 
349*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_b, TCG_CALL_NO_RWG,
350*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
351*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_h, TCG_CALL_NO_RWG,
352*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
353*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_s, TCG_CALL_NO_RWG,
354*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
355*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_d, TCG_CALL_NO_RWG,
356*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
357*67ce09b5SRichard Henderson 
358*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_b, TCG_CALL_NO_RWG,
359*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
360*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_h, TCG_CALL_NO_RWG,
361*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
362*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_s, TCG_CALL_NO_RWG,
363*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
364*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_d, TCG_CALL_NO_RWG,
365*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
366*67ce09b5SRichard Henderson 
367*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_b, TCG_CALL_NO_RWG,
368*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
369*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_h, TCG_CALL_NO_RWG,
370*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
371*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_s, TCG_CALL_NO_RWG,
372*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
373*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_d, TCG_CALL_NO_RWG,
374*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
375*67ce09b5SRichard Henderson 
376*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_b, TCG_CALL_NO_RWG,
377*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
378*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_h, TCG_CALL_NO_RWG,
379*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
380*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_s, TCG_CALL_NO_RWG,
381*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
382*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_d, TCG_CALL_NO_RWG,
383*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
384*67ce09b5SRichard Henderson 
385*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_b, TCG_CALL_NO_RWG,
386*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
387*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_h, TCG_CALL_NO_RWG,
388*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
389*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_s, TCG_CALL_NO_RWG,
390*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
391*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_d, TCG_CALL_NO_RWG,
392*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
393*67ce09b5SRichard Henderson 
394*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_b, TCG_CALL_NO_RWG,
395*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
396*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_h, TCG_CALL_NO_RWG,
397*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
398*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_s, TCG_CALL_NO_RWG,
399*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
400*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_d, TCG_CALL_NO_RWG,
401*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
402*67ce09b5SRichard Henderson 
403*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_b, TCG_CALL_NO_RWG,
404*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
405*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_h, TCG_CALL_NO_RWG,
406*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
407*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_s, TCG_CALL_NO_RWG,
408*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
409*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_d, TCG_CALL_NO_RWG,
410*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
411*67ce09b5SRichard Henderson 
412*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_b, TCG_CALL_NO_RWG,
413*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
414*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_h, TCG_CALL_NO_RWG,
415*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
416*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_s, TCG_CALL_NO_RWG,
417*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
418*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_d, TCG_CALL_NO_RWG,
419*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
420*67ce09b5SRichard Henderson 
421*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_b, TCG_CALL_NO_RWG,
422*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
423*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_h, TCG_CALL_NO_RWG,
424*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
425*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_s, TCG_CALL_NO_RWG,
426*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
427*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_d, TCG_CALL_NO_RWG,
428*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
429*67ce09b5SRichard Henderson 
430*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_b, TCG_CALL_NO_RWG,
431*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
432*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_h, TCG_CALL_NO_RWG,
433*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
434*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_s, TCG_CALL_NO_RWG,
435*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
436*67ce09b5SRichard Henderson 
437*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_b, TCG_CALL_NO_RWG,
438*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
439*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_h, TCG_CALL_NO_RWG,
440*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
441*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_s, TCG_CALL_NO_RWG,
442*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
443*67ce09b5SRichard Henderson 
444*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_b, TCG_CALL_NO_RWG,
445*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
446*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_h, TCG_CALL_NO_RWG,
447*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
448*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_s, TCG_CALL_NO_RWG,
449*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
450*67ce09b5SRichard Henderson 
451*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
452*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
453*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
454*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
455*67ce09b5SRichard Henderson 
456*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
457*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
458*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
459*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
460*67ce09b5SRichard Henderson 
461*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
462*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
463*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
464*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
465*67ce09b5SRichard Henderson 
466*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
467*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
468*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
469*67ce09b5SRichard Henderson 
470*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
471*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
472*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
473*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
474*67ce09b5SRichard Henderson 
475*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
476*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
477*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
478*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
479*67ce09b5SRichard Henderson 
480*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
481*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
482*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
483*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
484*67ce09b5SRichard Henderson 
485*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
486*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
487*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
488*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
489*67ce09b5SRichard Henderson 
490*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
491*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
492*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
493*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
494*67ce09b5SRichard Henderson 
495*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
496*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
497*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
498*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
499*67ce09b5SRichard Henderson 
500*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
501*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
502*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
503*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
504*67ce09b5SRichard Henderson 
505*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
506*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
507*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
508*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
509*67ce09b5SRichard Henderson 
510*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
511*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
512*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
513*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
514*67ce09b5SRichard Henderson 
515*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
516*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
517*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
518*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
519*67ce09b5SRichard Henderson 
520*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
521*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
522*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
523*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
524*67ce09b5SRichard Henderson 
525*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
526*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
527*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
528*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
529*67ce09b5SRichard Henderson 
530*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
531*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
532*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
533*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
534*67ce09b5SRichard Henderson 
535*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
536*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
537*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
538*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
539*67ce09b5SRichard Henderson 
540*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
541*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
542*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
543*67ce09b5SRichard Henderson 
544*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
545*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
546*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
547*67ce09b5SRichard Henderson 
548*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
549*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
550*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
551*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
552*67ce09b5SRichard Henderson 
553*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
554*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
555*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
556*67ce09b5SRichard Henderson 
557*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
558*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
559*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
560*67ce09b5SRichard Henderson 
561*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
562*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
563*67ce09b5SRichard Henderson 
564*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
565*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
566*67ce09b5SRichard Henderson 
567*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
568*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
569*67ce09b5SRichard Henderson 
570*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
571*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
572*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
573*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
574*67ce09b5SRichard Henderson 
575*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
576*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
577*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
578*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
579*67ce09b5SRichard Henderson 
580*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_b, TCG_CALL_NO_RWG,
581*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
582*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_h, TCG_CALL_NO_RWG,
583*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
584*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_s, TCG_CALL_NO_RWG,
585*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
586*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_d, TCG_CALL_NO_RWG,
587*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
588*67ce09b5SRichard Henderson 
589*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_b, TCG_CALL_NO_RWG,
590*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
591*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_h, TCG_CALL_NO_RWG,
592*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
593*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_s, TCG_CALL_NO_RWG,
594*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
595*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_d, TCG_CALL_NO_RWG,
596*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
597*67ce09b5SRichard Henderson 
598*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_b, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
599*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_h, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
600*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_s, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
601*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_d, TCG_CALL_NO_RWG, void, ptr, i64, i64, i32)
602*67ce09b5SRichard Henderson 
603*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
604*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
605*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
606*67ce09b5SRichard Henderson 
607*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
608*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
609*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
610*67ce09b5SRichard Henderson 
611*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
612*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
613*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
614*67ce09b5SRichard Henderson 
615*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
616*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p64, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
617*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_s32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
618*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_u32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
619*67ce09b5SRichard Henderson 
620*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
621*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
622*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
623*67ce09b5SRichard Henderson 
624*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
625*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
626*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
627*67ce09b5SRichard Henderson 
628*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
629*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
630*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
631*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
632*67ce09b5SRichard Henderson 
633*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
634*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
635*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
636*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
637*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqsubi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
638*67ce09b5SRichard Henderson 
639*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
640*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
641*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
642*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
643*67ce09b5SRichard Henderson 
644*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
645*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
646*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
647*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
648*67ce09b5SRichard Henderson 
649*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ext, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
650*67ce09b5SRichard Henderson 
651*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
652*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
653*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
654*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
655*67ce09b5SRichard Henderson 
656*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_b, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
657*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
658*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
659*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
660*67ce09b5SRichard Henderson 
661*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
662*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
663*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
664*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
665*67ce09b5SRichard Henderson 
666*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
667*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
668*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
669*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
670*67ce09b5SRichard Henderson 
671*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_tbx_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
672*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_tbx_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
673*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_tbx_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
674*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_tbx_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
675*67ce09b5SRichard Henderson 
676*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
677*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
678*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
679*67ce09b5SRichard Henderson 
680*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
681*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
682*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
683*67ce09b5SRichard Henderson 
684*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
685*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
686*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
687*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
688*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_punpk_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
689*67ce09b5SRichard Henderson 
690*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
691*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
692*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
693*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
694*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_zip_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
695*67ce09b5SRichard Henderson 
696*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
697*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
698*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
699*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
700*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uzp_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
701*67ce09b5SRichard Henderson 
702*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
703*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
704*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
705*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
706*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_trn_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
707*67ce09b5SRichard Henderson 
708*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
709*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
710*67ce09b5SRichard Henderson 
711*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_2(sve_last_active_element, TCG_CALL_NO_RWG, s32, ptr, i32)
712*67ce09b5SRichard Henderson 
713*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
714*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
715*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
716*67ce09b5SRichard Henderson 
717*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
718*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
719*67ce09b5SRichard Henderson 
720*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_revw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
721*67ce09b5SRichard Henderson 
722*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sme_revd_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
723*67ce09b5SRichard Henderson 
724*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
725*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
726*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
727*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
728*67ce09b5SRichard Henderson 
729*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
730*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
731*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
732*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
733*67ce09b5SRichard Henderson 
734*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
735*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
736*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
737*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
738*67ce09b5SRichard Henderson 
739*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_urecpe_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
740*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ursqrte_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
741*67ce09b5SRichard Henderson 
742*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_splice, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
743*67ce09b5SRichard Henderson 
744*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_b, TCG_CALL_NO_RWG,
745*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
746*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_b, TCG_CALL_NO_RWG,
747*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
748*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_b, TCG_CALL_NO_RWG,
749*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
750*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_b, TCG_CALL_NO_RWG,
751*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
752*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_b, TCG_CALL_NO_RWG,
753*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
754*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_b, TCG_CALL_NO_RWG,
755*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
756*67ce09b5SRichard Henderson 
757*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_h, TCG_CALL_NO_RWG,
758*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
759*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_h, TCG_CALL_NO_RWG,
760*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
761*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_h, TCG_CALL_NO_RWG,
762*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
763*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_h, TCG_CALL_NO_RWG,
764*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
765*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_h, TCG_CALL_NO_RWG,
766*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
767*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_h, TCG_CALL_NO_RWG,
768*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
769*67ce09b5SRichard Henderson 
770*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_s, TCG_CALL_NO_RWG,
771*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
772*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_s, TCG_CALL_NO_RWG,
773*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
774*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_s, TCG_CALL_NO_RWG,
775*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
776*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_s, TCG_CALL_NO_RWG,
777*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
778*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_s, TCG_CALL_NO_RWG,
779*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
780*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_s, TCG_CALL_NO_RWG,
781*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
782*67ce09b5SRichard Henderson 
783*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_d, TCG_CALL_NO_RWG,
784*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
785*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_d, TCG_CALL_NO_RWG,
786*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
787*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_d, TCG_CALL_NO_RWG,
788*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
789*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_d, TCG_CALL_NO_RWG,
790*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
791*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_d, TCG_CALL_NO_RWG,
792*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
793*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_d, TCG_CALL_NO_RWG,
794*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
795*67ce09b5SRichard Henderson 
796*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_b, TCG_CALL_NO_RWG,
797*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
798*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_b, TCG_CALL_NO_RWG,
799*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
800*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_b, TCG_CALL_NO_RWG,
801*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
802*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_b, TCG_CALL_NO_RWG,
803*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
804*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_b, TCG_CALL_NO_RWG,
805*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
806*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_b, TCG_CALL_NO_RWG,
807*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
808*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_b, TCG_CALL_NO_RWG,
809*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
810*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_b, TCG_CALL_NO_RWG,
811*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
812*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_b, TCG_CALL_NO_RWG,
813*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
814*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_b, TCG_CALL_NO_RWG,
815*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
816*67ce09b5SRichard Henderson 
817*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_h, TCG_CALL_NO_RWG,
818*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
819*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_h, TCG_CALL_NO_RWG,
820*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
821*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_h, TCG_CALL_NO_RWG,
822*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
823*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_h, TCG_CALL_NO_RWG,
824*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
825*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_h, TCG_CALL_NO_RWG,
826*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
827*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_h, TCG_CALL_NO_RWG,
828*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
829*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_h, TCG_CALL_NO_RWG,
830*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
831*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_h, TCG_CALL_NO_RWG,
832*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
833*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_h, TCG_CALL_NO_RWG,
834*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
835*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_h, TCG_CALL_NO_RWG,
836*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
837*67ce09b5SRichard Henderson 
838*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_s, TCG_CALL_NO_RWG,
839*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
840*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_s, TCG_CALL_NO_RWG,
841*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
842*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_s, TCG_CALL_NO_RWG,
843*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
844*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_s, TCG_CALL_NO_RWG,
845*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
846*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_s, TCG_CALL_NO_RWG,
847*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
848*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_s, TCG_CALL_NO_RWG,
849*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
850*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_s, TCG_CALL_NO_RWG,
851*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
852*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_s, TCG_CALL_NO_RWG,
853*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
854*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_s, TCG_CALL_NO_RWG,
855*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
856*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_s, TCG_CALL_NO_RWG,
857*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
858*67ce09b5SRichard Henderson 
859*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
860*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
861*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
862*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
863*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
864*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
865*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
866*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
867*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
868*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
869*67ce09b5SRichard Henderson 
870*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
871*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
872*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
873*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
874*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
875*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
876*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
877*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
878*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
879*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
880*67ce09b5SRichard Henderson 
881*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
882*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
883*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
884*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
885*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
886*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
887*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
888*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
889*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
890*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
891*67ce09b5SRichard Henderson 
892*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
893*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
894*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
895*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
896*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
897*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
898*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
899*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
900*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
901*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
902*67ce09b5SRichard Henderson 
903*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
904*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
905*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
906*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
907*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
908*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_orn_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
909*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_nor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
910*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_nand_pppp, TCG_CALL_NO_RWG,
911*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
912*67ce09b5SRichard Henderson 
913*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpa, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
914*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpb, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
915*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpas, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
916*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpbs, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
917*67ce09b5SRichard Henderson 
918*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
919*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
920*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
921*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
922*67ce09b5SRichard Henderson 
923*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
924*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
925*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
926*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
927*67ce09b5SRichard Henderson 
928*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brkn, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
929*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_brkns, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
930*67ce09b5SRichard Henderson 
931*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_cntp, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
932*67ce09b5SRichard Henderson 
933*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_whilel, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
934*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve_whileg, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
935*67ce09b5SRichard Henderson 
936*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
937*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
938*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
939*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
940*67ce09b5SRichard Henderson 
941*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
942*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
943*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
944*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
945*67ce09b5SRichard Henderson 
946*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
947*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
948*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
949*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
950*67ce09b5SRichard Henderson 
951*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
952*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
953*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
954*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
955*67ce09b5SRichard Henderson 
956*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
957*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
958*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
959*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
960*67ce09b5SRichard Henderson 
961*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_h, TCG_CALL_NO_RWG,
962*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
963*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_s, TCG_CALL_NO_RWG,
964*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
965*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_d, TCG_CALL_NO_RWG,
966*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
967*67ce09b5SRichard Henderson 
968*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_h, TCG_CALL_NO_RWG,
969*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
970*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_s, TCG_CALL_NO_RWG,
971*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
972*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_d, TCG_CALL_NO_RWG,
973*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
974*67ce09b5SRichard Henderson 
975*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_h, TCG_CALL_NO_RWG,
976*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
977*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_s, TCG_CALL_NO_RWG,
978*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
979*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_d, TCG_CALL_NO_RWG,
980*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
981*67ce09b5SRichard Henderson 
982*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_h, TCG_CALL_NO_RWG,
983*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
984*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_s, TCG_CALL_NO_RWG,
985*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
986*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_d, TCG_CALL_NO_RWG,
987*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
988*67ce09b5SRichard Henderson 
989*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_h, TCG_CALL_NO_RWG,
990*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
991*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_s, TCG_CALL_NO_RWG,
992*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
993*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_d, TCG_CALL_NO_RWG,
994*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
995*67ce09b5SRichard Henderson 
996*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_h, TCG_CALL_NO_RWG,
997*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
998*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_s, TCG_CALL_NO_RWG,
999*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
1000*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_d, TCG_CALL_NO_RWG,
1001*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
1002*67ce09b5SRichard Henderson 
1003*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_h, TCG_CALL_NO_RWG,
1004*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
1005*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_s, TCG_CALL_NO_RWG,
1006*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
1007*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_d, TCG_CALL_NO_RWG,
1008*67ce09b5SRichard Henderson                    i64, ptr, ptr, ptr, i32)
1009*67ce09b5SRichard Henderson 
1010*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_h, TCG_CALL_NO_RWG,
1011*67ce09b5SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
1012*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_s, TCG_CALL_NO_RWG,
1013*67ce09b5SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
1014*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_d, TCG_CALL_NO_RWG,
1015*67ce09b5SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
1016*67ce09b5SRichard Henderson 
1017*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_h, TCG_CALL_NO_RWG,
1018*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1019*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_s, TCG_CALL_NO_RWG,
1020*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1021*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_d, TCG_CALL_NO_RWG,
1022*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1023*67ce09b5SRichard Henderson 
1024*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_h, TCG_CALL_NO_RWG,
1025*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1026*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_s, TCG_CALL_NO_RWG,
1027*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1028*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_d, TCG_CALL_NO_RWG,
1029*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1030*67ce09b5SRichard Henderson 
1031*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_h, TCG_CALL_NO_RWG,
1032*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1033*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_s, TCG_CALL_NO_RWG,
1034*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1035*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_d, TCG_CALL_NO_RWG,
1036*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1037*67ce09b5SRichard Henderson 
1038*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_h, TCG_CALL_NO_RWG,
1039*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1040*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_s, TCG_CALL_NO_RWG,
1041*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1042*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_d, TCG_CALL_NO_RWG,
1043*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1044*67ce09b5SRichard Henderson 
1045*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_h, TCG_CALL_NO_RWG,
1046*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1047*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_s, TCG_CALL_NO_RWG,
1048*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1049*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_d, TCG_CALL_NO_RWG,
1050*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1051*67ce09b5SRichard Henderson 
1052*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_h, TCG_CALL_NO_RWG,
1053*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1054*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_s, TCG_CALL_NO_RWG,
1055*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1056*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_d, TCG_CALL_NO_RWG,
1057*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1058*67ce09b5SRichard Henderson 
1059*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_h, TCG_CALL_NO_RWG,
1060*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1061*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_s, TCG_CALL_NO_RWG,
1062*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1063*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_d, TCG_CALL_NO_RWG,
1064*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1065*67ce09b5SRichard Henderson 
1066*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_h, TCG_CALL_NO_RWG,
1067*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1068*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_s, TCG_CALL_NO_RWG,
1069*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1070*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_d, TCG_CALL_NO_RWG,
1071*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1072*67ce09b5SRichard Henderson 
1073*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_h, TCG_CALL_NO_RWG,
1074*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1075*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_s, TCG_CALL_NO_RWG,
1076*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1077*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_d, TCG_CALL_NO_RWG,
1078*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1079*67ce09b5SRichard Henderson 
1080*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_h, TCG_CALL_NO_RWG,
1081*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1082*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_s, TCG_CALL_NO_RWG,
1083*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1084*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_d, TCG_CALL_NO_RWG,
1085*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1086*67ce09b5SRichard Henderson 
1087*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_h, TCG_CALL_NO_RWG,
1088*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1089*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_s, TCG_CALL_NO_RWG,
1090*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1091*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_d, TCG_CALL_NO_RWG,
1092*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1093*67ce09b5SRichard Henderson 
1094*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_h, TCG_CALL_NO_RWG,
1095*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1096*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_s, TCG_CALL_NO_RWG,
1097*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1098*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_d, TCG_CALL_NO_RWG,
1099*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1100*67ce09b5SRichard Henderson 
1101*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_h, TCG_CALL_NO_RWG,
1102*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1103*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_s, TCG_CALL_NO_RWG,
1104*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1105*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_d, TCG_CALL_NO_RWG,
1106*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1107*67ce09b5SRichard Henderson 
1108*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_h, TCG_CALL_NO_RWG,
1109*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1110*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_s, TCG_CALL_NO_RWG,
1111*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1112*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_d, TCG_CALL_NO_RWG,
1113*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1114*67ce09b5SRichard Henderson 
1115*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_h, TCG_CALL_NO_RWG,
1116*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1117*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_s, TCG_CALL_NO_RWG,
1118*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1119*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_d, TCG_CALL_NO_RWG,
1120*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1121*67ce09b5SRichard Henderson 
1122*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_h, TCG_CALL_NO_RWG,
1123*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1124*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_s, TCG_CALL_NO_RWG,
1125*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1126*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_d, TCG_CALL_NO_RWG,
1127*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1128*67ce09b5SRichard Henderson 
1129*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_h, TCG_CALL_NO_RWG,
1130*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1131*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_s, TCG_CALL_NO_RWG,
1132*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1133*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_d, TCG_CALL_NO_RWG,
1134*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1135*67ce09b5SRichard Henderson 
1136*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_h, TCG_CALL_NO_RWG,
1137*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1138*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_s, TCG_CALL_NO_RWG,
1139*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1140*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_d, TCG_CALL_NO_RWG,
1141*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1142*67ce09b5SRichard Henderson 
1143*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_h, TCG_CALL_NO_RWG,
1144*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1145*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_s, TCG_CALL_NO_RWG,
1146*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1147*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_d, TCG_CALL_NO_RWG,
1148*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1149*67ce09b5SRichard Henderson 
1150*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_h, TCG_CALL_NO_RWG,
1151*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1152*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_s, TCG_CALL_NO_RWG,
1153*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1154*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_d, TCG_CALL_NO_RWG,
1155*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1156*67ce09b5SRichard Henderson 
1157*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_h, TCG_CALL_NO_RWG,
1158*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1159*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_s, TCG_CALL_NO_RWG,
1160*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1161*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_d, TCG_CALL_NO_RWG,
1162*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1163*67ce09b5SRichard Henderson 
1164*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_h, TCG_CALL_NO_RWG,
1165*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1166*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_s, TCG_CALL_NO_RWG,
1167*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1168*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_d, TCG_CALL_NO_RWG,
1169*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1170*67ce09b5SRichard Henderson 
1171*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_h, TCG_CALL_NO_RWG,
1172*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1173*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_s, TCG_CALL_NO_RWG,
1174*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1175*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_d, TCG_CALL_NO_RWG,
1176*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1177*67ce09b5SRichard Henderson 
1178*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_h, TCG_CALL_NO_RWG,
1179*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1180*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_s, TCG_CALL_NO_RWG,
1181*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1182*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_d, TCG_CALL_NO_RWG,
1183*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1184*67ce09b5SRichard Henderson 
1185*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_h, TCG_CALL_NO_RWG,
1186*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1187*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_s, TCG_CALL_NO_RWG,
1188*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1189*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_d, TCG_CALL_NO_RWG,
1190*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1191*67ce09b5SRichard Henderson 
1192*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_sh, TCG_CALL_NO_RWG,
1193*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1194*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_dh, TCG_CALL_NO_RWG,
1195*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1196*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_hs, TCG_CALL_NO_RWG,
1197*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1198*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_ds, TCG_CALL_NO_RWG,
1199*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1200*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_hd, TCG_CALL_NO_RWG,
1201*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1202*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_sd, TCG_CALL_NO_RWG,
1203*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1204*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_bfcvt, TCG_CALL_NO_RWG,
1205*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1206*67ce09b5SRichard Henderson 
1207*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hh, TCG_CALL_NO_RWG,
1208*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1209*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hs, TCG_CALL_NO_RWG,
1210*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1211*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_ss, TCG_CALL_NO_RWG,
1212*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1213*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_ds, TCG_CALL_NO_RWG,
1214*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1215*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hd, TCG_CALL_NO_RWG,
1216*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1217*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_sd, TCG_CALL_NO_RWG,
1218*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1219*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_dd, TCG_CALL_NO_RWG,
1220*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1221*67ce09b5SRichard Henderson 
1222*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hh, TCG_CALL_NO_RWG,
1223*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1224*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hs, TCG_CALL_NO_RWG,
1225*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1226*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_ss, TCG_CALL_NO_RWG,
1227*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1228*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_ds, TCG_CALL_NO_RWG,
1229*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1230*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hd, TCG_CALL_NO_RWG,
1231*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1232*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_sd, TCG_CALL_NO_RWG,
1233*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1234*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_dd, TCG_CALL_NO_RWG,
1235*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1236*67ce09b5SRichard Henderson 
1237*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_h, TCG_CALL_NO_RWG,
1238*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1239*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_s, TCG_CALL_NO_RWG,
1240*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1241*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_d, TCG_CALL_NO_RWG,
1242*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1243*67ce09b5SRichard Henderson 
1244*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_h, TCG_CALL_NO_RWG,
1245*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1246*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_s, TCG_CALL_NO_RWG,
1247*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1248*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_d, TCG_CALL_NO_RWG,
1249*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1250*67ce09b5SRichard Henderson 
1251*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_h, TCG_CALL_NO_RWG,
1252*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1253*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_s, TCG_CALL_NO_RWG,
1254*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1255*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_d, TCG_CALL_NO_RWG,
1256*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1257*67ce09b5SRichard Henderson 
1258*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_h, TCG_CALL_NO_RWG,
1259*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1260*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_s, TCG_CALL_NO_RWG,
1261*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1262*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_d, TCG_CALL_NO_RWG,
1263*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1264*67ce09b5SRichard Henderson 
1265*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_hh, TCG_CALL_NO_RWG,
1266*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1267*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sh, TCG_CALL_NO_RWG,
1268*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1269*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dh, TCG_CALL_NO_RWG,
1270*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1271*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ss, TCG_CALL_NO_RWG,
1272*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1273*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sd, TCG_CALL_NO_RWG,
1274*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1275*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ds, TCG_CALL_NO_RWG,
1276*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1277*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dd, TCG_CALL_NO_RWG,
1278*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1279*67ce09b5SRichard Henderson 
1280*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_hh, TCG_CALL_NO_RWG,
1281*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1282*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sh, TCG_CALL_NO_RWG,
1283*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1284*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dh, TCG_CALL_NO_RWG,
1285*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1286*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ss, TCG_CALL_NO_RWG,
1287*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1288*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sd, TCG_CALL_NO_RWG,
1289*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1290*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ds, TCG_CALL_NO_RWG,
1291*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1292*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dd, TCG_CALL_NO_RWG,
1293*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1294*67ce09b5SRichard Henderson 
1295*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_h, TCG_CALL_NO_RWG,
1296*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1297*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_s, TCG_CALL_NO_RWG,
1298*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1299*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_d, TCG_CALL_NO_RWG,
1300*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1301*67ce09b5SRichard Henderson 
1302*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_h, TCG_CALL_NO_RWG,
1303*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1304*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_s, TCG_CALL_NO_RWG,
1305*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1306*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_d, TCG_CALL_NO_RWG,
1307*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1308*67ce09b5SRichard Henderson 
1309*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_h, TCG_CALL_NO_RWG,
1310*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1311*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_s, TCG_CALL_NO_RWG,
1312*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1313*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_d, TCG_CALL_NO_RWG,
1314*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1315*67ce09b5SRichard Henderson 
1316*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_h, TCG_CALL_NO_RWG,
1317*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1318*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_s, TCG_CALL_NO_RWG,
1319*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1320*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_d, TCG_CALL_NO_RWG,
1321*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1322*67ce09b5SRichard Henderson 
1323*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_h, TCG_CALL_NO_RWG,
1324*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1325*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_s, TCG_CALL_NO_RWG,
1326*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1327*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_d, TCG_CALL_NO_RWG,
1328*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1329*67ce09b5SRichard Henderson 
1330*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_h, TCG_CALL_NO_RWG,
1331*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1332*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_s, TCG_CALL_NO_RWG,
1333*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1334*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_d, TCG_CALL_NO_RWG,
1335*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1336*67ce09b5SRichard Henderson 
1337*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_h, TCG_CALL_NO_RWG,
1338*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1339*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_s, TCG_CALL_NO_RWG,
1340*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1341*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_d, TCG_CALL_NO_RWG,
1342*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1343*67ce09b5SRichard Henderson 
1344*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_h, TCG_CALL_NO_RWG,
1345*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1346*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_s, TCG_CALL_NO_RWG,
1347*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1348*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_d, TCG_CALL_NO_RWG,
1349*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1350*67ce09b5SRichard Henderson 
1351*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_h, TCG_CALL_NO_RWG,
1352*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1353*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_s, TCG_CALL_NO_RWG,
1354*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1355*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_d, TCG_CALL_NO_RWG,
1356*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1357*67ce09b5SRichard Henderson 
1358*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_h, TCG_CALL_NO_RWG,
1359*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1360*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_s, TCG_CALL_NO_RWG,
1361*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1362*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_d, TCG_CALL_NO_RWG,
1363*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1364*67ce09b5SRichard Henderson 
1365*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_h, TCG_CALL_NO_RWG,
1366*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1367*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_s, TCG_CALL_NO_RWG,
1368*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1369*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_d, TCG_CALL_NO_RWG,
1370*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1371*67ce09b5SRichard Henderson 
1372*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_h, TCG_CALL_NO_RWG,
1373*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1374*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_s, TCG_CALL_NO_RWG,
1375*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1376*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_d, TCG_CALL_NO_RWG,
1377*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1378*67ce09b5SRichard Henderson 
1379*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_h, TCG_CALL_NO_RWG,
1380*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1381*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_s, TCG_CALL_NO_RWG,
1382*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1383*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_d, TCG_CALL_NO_RWG,
1384*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1385*67ce09b5SRichard Henderson 
1386*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
1387*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
1388*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
1389*67ce09b5SRichard Henderson 
1390*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1391*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1392*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1393*67ce09b5SRichard Henderson 
1394*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1395*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1396*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1397*67ce09b5SRichard Henderson 
1398*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sabdl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1399*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sabdl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1400*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sabdl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1401*67ce09b5SRichard Henderson 
1402*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1403*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1404*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1405*67ce09b5SRichard Henderson 
1406*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1407*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1408*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1409*67ce09b5SRichard Henderson 
1410*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uabdl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1411*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uabdl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1412*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uabdl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1413*67ce09b5SRichard Henderson 
1414*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1415*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1416*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1417*67ce09b5SRichard Henderson 
1418*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1419*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1420*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1421*67ce09b5SRichard Henderson 
1422*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1423*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1424*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1425*67ce09b5SRichard Henderson 
1426*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1427*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1428*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1429*67ce09b5SRichard Henderson 
1430*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1431*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1432*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1433*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1434*67ce09b5SRichard Henderson 
1435*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1436*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1437*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1438*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1439*67ce09b5SRichard Henderson 
1440*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1441*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1442*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1443*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1444*67ce09b5SRichard Henderson 
1445*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1446*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1447*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1448*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1449*67ce09b5SRichard Henderson 
1450*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1451*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1452*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1453*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1454*67ce09b5SRichard Henderson 
1455*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1456*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1457*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1458*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1459*67ce09b5SRichard Henderson 
1460*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1461*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1462*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1463*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1464*67ce09b5SRichard Henderson 
1465*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1466*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1467*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1468*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1469*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1470*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1471*67ce09b5SRichard Henderson 
1472*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1473*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1474*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1475*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1476*67ce09b5SRichard Henderson 
1477*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1478*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1479*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1480*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1481*67ce09b5SRichard Henderson 
1482*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1483*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1484*67ce09b5SRichard Henderson 
1485*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1486*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1487*67ce09b5SRichard Henderson 
1488*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1489*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1490*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1491*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1492*67ce09b5SRichard Henderson 
1493*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1494*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1495*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1496*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1497*67ce09b5SRichard Henderson 
1498*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1499*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1500*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1501*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1502*67ce09b5SRichard Henderson 
1503*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1504*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1505*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1506*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1507*67ce09b5SRichard Henderson 
1508*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1509*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1510*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1511*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1512*67ce09b5SRichard Henderson 
1513*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1514*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1515*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1516*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1517*67ce09b5SRichard Henderson 
1518*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1519*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1520*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1521*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1522*67ce09b5SRichard Henderson 
1523*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1524*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1525*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1526*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1527*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1528*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1529*67ce09b5SRichard Henderson 
1530*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1531*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1532*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1533*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1534*67ce09b5SRichard Henderson 
1535*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1536*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1537*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1538*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1539*67ce09b5SRichard Henderson 
1540*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1541*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1542*67ce09b5SRichard Henderson 
1543*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1544*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1545*67ce09b5SRichard Henderson 
1546*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1547*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1548*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1549*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1550*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1551*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1552*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1553*67ce09b5SRichard Henderson 
1554*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1555*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1556*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1557*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1558*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1559*67ce09b5SRichard Henderson 
1560*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1561*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1562*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1563*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1564*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1565*67ce09b5SRichard Henderson 
1566*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1567*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1568*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1569*67ce09b5SRichard Henderson 
1570*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1571*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1572*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1573*67ce09b5SRichard Henderson 
1574*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1575*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1576*67ce09b5SRichard Henderson 
1577*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1578*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1579*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1580*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1581*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1582*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1583*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1584*67ce09b5SRichard Henderson 
1585*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r_mte, TCG_CALL_NO_WG,
1586*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1587*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r_mte, TCG_CALL_NO_WG,
1588*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1589*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r_mte, TCG_CALL_NO_WG,
1590*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1591*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r_mte, TCG_CALL_NO_WG,
1592*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1593*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r_mte, TCG_CALL_NO_WG,
1594*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1595*67ce09b5SRichard Henderson 
1596*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r_mte, TCG_CALL_NO_WG,
1597*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1598*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r_mte, TCG_CALL_NO_WG,
1599*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1600*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r_mte, TCG_CALL_NO_WG,
1601*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1602*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r_mte, TCG_CALL_NO_WG,
1603*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1604*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r_mte, TCG_CALL_NO_WG,
1605*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1606*67ce09b5SRichard Henderson 
1607*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r_mte, TCG_CALL_NO_WG,
1608*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1609*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r_mte, TCG_CALL_NO_WG,
1610*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1611*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r_mte, TCG_CALL_NO_WG,
1612*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1613*67ce09b5SRichard Henderson 
1614*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r_mte, TCG_CALL_NO_WG,
1615*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1616*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r_mte, TCG_CALL_NO_WG,
1617*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1618*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r_mte, TCG_CALL_NO_WG,
1619*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1620*67ce09b5SRichard Henderson 
1621*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r_mte, TCG_CALL_NO_WG,
1622*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1623*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r_mte, TCG_CALL_NO_WG,
1624*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1625*67ce09b5SRichard Henderson 
1626*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1627*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1628*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1629*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1630*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1631*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1632*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1633*67ce09b5SRichard Henderson 
1634*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1635*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1636*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1637*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1638*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1639*67ce09b5SRichard Henderson 
1640*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1641*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1642*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1643*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1644*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1645*67ce09b5SRichard Henderson 
1646*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1647*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1648*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1649*67ce09b5SRichard Henderson 
1650*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1651*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1652*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1653*67ce09b5SRichard Henderson 
1654*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1655*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1656*67ce09b5SRichard Henderson 
1657*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1658*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1659*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1660*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1661*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1662*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1663*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1664*67ce09b5SRichard Henderson 
1665*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r_mte, TCG_CALL_NO_WG,
1666*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1667*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r_mte, TCG_CALL_NO_WG,
1668*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1669*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r_mte, TCG_CALL_NO_WG,
1670*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1671*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r_mte, TCG_CALL_NO_WG,
1672*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1673*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r_mte, TCG_CALL_NO_WG,
1674*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1675*67ce09b5SRichard Henderson 
1676*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r_mte, TCG_CALL_NO_WG,
1677*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1678*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r_mte, TCG_CALL_NO_WG,
1679*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1680*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r_mte, TCG_CALL_NO_WG,
1681*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1682*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r_mte, TCG_CALL_NO_WG,
1683*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1684*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r_mte, TCG_CALL_NO_WG,
1685*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1686*67ce09b5SRichard Henderson 
1687*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r_mte, TCG_CALL_NO_WG,
1688*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1689*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r_mte, TCG_CALL_NO_WG,
1690*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1691*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r_mte, TCG_CALL_NO_WG,
1692*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1693*67ce09b5SRichard Henderson 
1694*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r_mte, TCG_CALL_NO_WG,
1695*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1696*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r_mte, TCG_CALL_NO_WG,
1697*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1698*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r_mte, TCG_CALL_NO_WG,
1699*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1700*67ce09b5SRichard Henderson 
1701*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r_mte, TCG_CALL_NO_WG,
1702*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1703*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r_mte, TCG_CALL_NO_WG,
1704*67ce09b5SRichard Henderson                    void, env, ptr, tl, i32)
1705*67ce09b5SRichard Henderson 
1706*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1707*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1708*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1709*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1710*67ce09b5SRichard Henderson 
1711*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1712*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1713*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1714*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1715*67ce09b5SRichard Henderson 
1716*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1717*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1718*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1719*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1720*67ce09b5SRichard Henderson 
1721*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1722*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1723*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1724*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1725*67ce09b5SRichard Henderson 
1726*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1727*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1728*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1729*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1730*67ce09b5SRichard Henderson 
1731*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1732*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1733*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1734*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1735*67ce09b5SRichard Henderson 
1736*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1737*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1738*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1739*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1740*67ce09b5SRichard Henderson 
1741*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1742*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1743*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1744*67ce09b5SRichard Henderson 
1745*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1746*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1747*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1748*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1749*67ce09b5SRichard Henderson 
1750*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1751*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1752*67ce09b5SRichard Henderson 
1753*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1754*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1755*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1756*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1757*67ce09b5SRichard Henderson 
1758*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1759*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1760*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1761*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1762*67ce09b5SRichard Henderson 
1763*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1764*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1765*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1766*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1767*67ce09b5SRichard Henderson 
1768*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1769*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1770*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1771*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1772*67ce09b5SRichard Henderson 
1773*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1774*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1775*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1776*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1777*67ce09b5SRichard Henderson 
1778*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1779*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1780*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1781*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1782*67ce09b5SRichard Henderson 
1783*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1784*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1785*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1786*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1787*67ce09b5SRichard Henderson 
1788*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bh_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1789*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1790*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bd_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1791*67ce09b5SRichard Henderson 
1792*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1793*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1794*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1795*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1796*67ce09b5SRichard Henderson 
1797*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1798*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1799*67ce09b5SRichard Henderson 
1800*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zsu, TCG_CALL_NO_WG,
1801*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1802*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu, TCG_CALL_NO_WG,
1803*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1804*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu, TCG_CALL_NO_WG,
1805*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1806*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zsu, TCG_CALL_NO_WG,
1807*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1808*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zsu, TCG_CALL_NO_WG,
1809*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1810*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zsu, TCG_CALL_NO_WG,
1811*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1812*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu, TCG_CALL_NO_WG,
1813*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1814*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu, TCG_CALL_NO_WG,
1815*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1816*67ce09b5SRichard Henderson 
1817*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zss, TCG_CALL_NO_WG,
1818*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1819*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss, TCG_CALL_NO_WG,
1820*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1821*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss, TCG_CALL_NO_WG,
1822*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1823*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zss, TCG_CALL_NO_WG,
1824*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1825*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zss, TCG_CALL_NO_WG,
1826*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1827*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zss, TCG_CALL_NO_WG,
1828*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1829*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zss, TCG_CALL_NO_WG,
1830*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1831*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zss, TCG_CALL_NO_WG,
1832*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1833*67ce09b5SRichard Henderson 
1834*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zsu, TCG_CALL_NO_WG,
1835*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1836*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu, TCG_CALL_NO_WG,
1837*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1838*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu, TCG_CALL_NO_WG,
1839*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1840*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu, TCG_CALL_NO_WG,
1841*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1842*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu, TCG_CALL_NO_WG,
1843*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1844*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zsu, TCG_CALL_NO_WG,
1845*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1846*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zsu, TCG_CALL_NO_WG,
1847*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1848*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zsu, TCG_CALL_NO_WG,
1849*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1850*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu, TCG_CALL_NO_WG,
1851*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1852*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu, TCG_CALL_NO_WG,
1853*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1854*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu, TCG_CALL_NO_WG,
1855*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1856*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu, TCG_CALL_NO_WG,
1857*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1858*67ce09b5SRichard Henderson 
1859*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zss, TCG_CALL_NO_WG,
1860*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1861*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss, TCG_CALL_NO_WG,
1862*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1863*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss, TCG_CALL_NO_WG,
1864*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1865*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss, TCG_CALL_NO_WG,
1866*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1867*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss, TCG_CALL_NO_WG,
1868*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1869*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zss, TCG_CALL_NO_WG,
1870*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1871*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zss, TCG_CALL_NO_WG,
1872*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1873*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zss, TCG_CALL_NO_WG,
1874*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1875*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zss, TCG_CALL_NO_WG,
1876*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1877*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zss, TCG_CALL_NO_WG,
1878*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1879*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zss, TCG_CALL_NO_WG,
1880*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1881*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zss, TCG_CALL_NO_WG,
1882*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1883*67ce09b5SRichard Henderson 
1884*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zd, TCG_CALL_NO_WG,
1885*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1886*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd, TCG_CALL_NO_WG,
1887*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1888*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd, TCG_CALL_NO_WG,
1889*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1890*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd, TCG_CALL_NO_WG,
1891*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1892*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd, TCG_CALL_NO_WG,
1893*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1894*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zd, TCG_CALL_NO_WG,
1895*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1896*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zd, TCG_CALL_NO_WG,
1897*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1898*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zd, TCG_CALL_NO_WG,
1899*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1900*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zd, TCG_CALL_NO_WG,
1901*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1902*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zd, TCG_CALL_NO_WG,
1903*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1904*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zd, TCG_CALL_NO_WG,
1905*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1906*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zd, TCG_CALL_NO_WG,
1907*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1908*67ce09b5SRichard Henderson 
1909*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zsu_mte, TCG_CALL_NO_WG,
1910*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1911*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu_mte, TCG_CALL_NO_WG,
1912*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1913*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu_mte, TCG_CALL_NO_WG,
1914*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1915*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zsu_mte, TCG_CALL_NO_WG,
1916*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1917*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zsu_mte, TCG_CALL_NO_WG,
1918*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1919*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zsu_mte, TCG_CALL_NO_WG,
1920*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1921*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu_mte, TCG_CALL_NO_WG,
1922*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1923*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu_mte, TCG_CALL_NO_WG,
1924*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1925*67ce09b5SRichard Henderson 
1926*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zss_mte, TCG_CALL_NO_WG,
1927*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1928*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss_mte, TCG_CALL_NO_WG,
1929*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1930*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss_mte, TCG_CALL_NO_WG,
1931*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1932*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zss_mte, TCG_CALL_NO_WG,
1933*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1934*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zss_mte, TCG_CALL_NO_WG,
1935*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1936*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zss_mte, TCG_CALL_NO_WG,
1937*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1938*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zss_mte, TCG_CALL_NO_WG,
1939*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1940*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zss_mte, TCG_CALL_NO_WG,
1941*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1942*67ce09b5SRichard Henderson 
1943*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zsu_mte, TCG_CALL_NO_WG,
1944*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1945*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu_mte, TCG_CALL_NO_WG,
1946*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1947*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu_mte, TCG_CALL_NO_WG,
1948*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1949*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu_mte, TCG_CALL_NO_WG,
1950*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1951*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu_mte, TCG_CALL_NO_WG,
1952*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1953*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zsu_mte, TCG_CALL_NO_WG,
1954*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1955*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zsu_mte, TCG_CALL_NO_WG,
1956*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1957*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zsu_mte, TCG_CALL_NO_WG,
1958*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1959*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu_mte, TCG_CALL_NO_WG,
1960*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1961*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu_mte, TCG_CALL_NO_WG,
1962*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1963*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu_mte, TCG_CALL_NO_WG,
1964*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1965*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu_mte, TCG_CALL_NO_WG,
1966*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1967*67ce09b5SRichard Henderson 
1968*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zss_mte, TCG_CALL_NO_WG,
1969*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1970*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss_mte, TCG_CALL_NO_WG,
1971*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1972*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss_mte, TCG_CALL_NO_WG,
1973*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1974*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss_mte, TCG_CALL_NO_WG,
1975*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1976*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss_mte, TCG_CALL_NO_WG,
1977*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1978*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zss_mte, TCG_CALL_NO_WG,
1979*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1980*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zss_mte, TCG_CALL_NO_WG,
1981*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1982*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zss_mte, TCG_CALL_NO_WG,
1983*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1984*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zss_mte, TCG_CALL_NO_WG,
1985*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1986*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zss_mte, TCG_CALL_NO_WG,
1987*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1988*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zss_mte, TCG_CALL_NO_WG,
1989*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1990*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zss_mte, TCG_CALL_NO_WG,
1991*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1992*67ce09b5SRichard Henderson 
1993*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zd_mte, TCG_CALL_NO_WG,
1994*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1995*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd_mte, TCG_CALL_NO_WG,
1996*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1997*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd_mte, TCG_CALL_NO_WG,
1998*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1999*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd_mte, TCG_CALL_NO_WG,
2000*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2001*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd_mte, TCG_CALL_NO_WG,
2002*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2003*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zd_mte, TCG_CALL_NO_WG,
2004*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2005*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zd_mte, TCG_CALL_NO_WG,
2006*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2007*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zd_mte, TCG_CALL_NO_WG,
2008*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2009*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zd_mte, TCG_CALL_NO_WG,
2010*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2011*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zd_mte, TCG_CALL_NO_WG,
2012*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2013*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zd_mte, TCG_CALL_NO_WG,
2014*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2015*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zd_mte, TCG_CALL_NO_WG,
2016*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2017*67ce09b5SRichard Henderson 
2018*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu, TCG_CALL_NO_WG,
2019*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2020*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu, TCG_CALL_NO_WG,
2021*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2022*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu, TCG_CALL_NO_WG,
2023*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2024*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu, TCG_CALL_NO_WG,
2025*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2026*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu, TCG_CALL_NO_WG,
2027*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2028*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zsu, TCG_CALL_NO_WG,
2029*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2030*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu, TCG_CALL_NO_WG,
2031*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2032*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu, TCG_CALL_NO_WG,
2033*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2034*67ce09b5SRichard Henderson 
2035*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zss, TCG_CALL_NO_WG,
2036*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2037*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss, TCG_CALL_NO_WG,
2038*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2039*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss, TCG_CALL_NO_WG,
2040*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2041*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zss, TCG_CALL_NO_WG,
2042*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2043*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zss, TCG_CALL_NO_WG,
2044*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2045*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zss, TCG_CALL_NO_WG,
2046*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2047*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss, TCG_CALL_NO_WG,
2048*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2049*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss, TCG_CALL_NO_WG,
2050*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2051*67ce09b5SRichard Henderson 
2052*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu, TCG_CALL_NO_WG,
2053*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2054*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu, TCG_CALL_NO_WG,
2055*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2056*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu, TCG_CALL_NO_WG,
2057*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2058*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu, TCG_CALL_NO_WG,
2059*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2060*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu, TCG_CALL_NO_WG,
2061*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2062*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu, TCG_CALL_NO_WG,
2063*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2064*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu, TCG_CALL_NO_WG,
2065*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2066*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zsu, TCG_CALL_NO_WG,
2067*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2068*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu, TCG_CALL_NO_WG,
2069*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2070*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu, TCG_CALL_NO_WG,
2071*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2072*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu, TCG_CALL_NO_WG,
2073*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2074*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu, TCG_CALL_NO_WG,
2075*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2076*67ce09b5SRichard Henderson 
2077*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zss, TCG_CALL_NO_WG,
2078*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2079*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss, TCG_CALL_NO_WG,
2080*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2081*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss, TCG_CALL_NO_WG,
2082*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2083*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss, TCG_CALL_NO_WG,
2084*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2085*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss, TCG_CALL_NO_WG,
2086*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2087*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss, TCG_CALL_NO_WG,
2088*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2089*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss, TCG_CALL_NO_WG,
2090*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2091*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zss, TCG_CALL_NO_WG,
2092*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2093*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss, TCG_CALL_NO_WG,
2094*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2095*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss, TCG_CALL_NO_WG,
2096*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2097*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss, TCG_CALL_NO_WG,
2098*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2099*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss, TCG_CALL_NO_WG,
2100*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2101*67ce09b5SRichard Henderson 
2102*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zd, TCG_CALL_NO_WG,
2103*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2104*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd, TCG_CALL_NO_WG,
2105*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2106*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd, TCG_CALL_NO_WG,
2107*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2108*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd, TCG_CALL_NO_WG,
2109*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2110*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd, TCG_CALL_NO_WG,
2111*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2112*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd, TCG_CALL_NO_WG,
2113*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2114*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd, TCG_CALL_NO_WG,
2115*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2116*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zd, TCG_CALL_NO_WG,
2117*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2118*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd, TCG_CALL_NO_WG,
2119*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2120*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd, TCG_CALL_NO_WG,
2121*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2122*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd, TCG_CALL_NO_WG,
2123*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2124*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd, TCG_CALL_NO_WG,
2125*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2126*67ce09b5SRichard Henderson 
2127*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu_mte, TCG_CALL_NO_WG,
2128*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2129*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu_mte, TCG_CALL_NO_WG,
2130*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2131*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu_mte, TCG_CALL_NO_WG,
2132*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2133*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu_mte, TCG_CALL_NO_WG,
2134*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2135*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu_mte, TCG_CALL_NO_WG,
2136*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2137*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zsu_mte, TCG_CALL_NO_WG,
2138*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2139*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu_mte, TCG_CALL_NO_WG,
2140*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2141*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu_mte, TCG_CALL_NO_WG,
2142*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2143*67ce09b5SRichard Henderson 
2144*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zss_mte, TCG_CALL_NO_WG,
2145*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2146*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss_mte, TCG_CALL_NO_WG,
2147*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2148*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss_mte, TCG_CALL_NO_WG,
2149*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2150*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zss_mte, TCG_CALL_NO_WG,
2151*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2152*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zss_mte, TCG_CALL_NO_WG,
2153*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2154*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zss_mte, TCG_CALL_NO_WG,
2155*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2156*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss_mte, TCG_CALL_NO_WG,
2157*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2158*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss_mte, TCG_CALL_NO_WG,
2159*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2160*67ce09b5SRichard Henderson 
2161*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu_mte, TCG_CALL_NO_WG,
2162*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2163*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu_mte, TCG_CALL_NO_WG,
2164*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2165*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu_mte, TCG_CALL_NO_WG,
2166*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2167*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu_mte, TCG_CALL_NO_WG,
2168*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2169*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu_mte, TCG_CALL_NO_WG,
2170*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2171*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu_mte, TCG_CALL_NO_WG,
2172*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2173*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu_mte, TCG_CALL_NO_WG,
2174*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2175*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zsu_mte, TCG_CALL_NO_WG,
2176*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2177*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu_mte, TCG_CALL_NO_WG,
2178*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2179*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu_mte, TCG_CALL_NO_WG,
2180*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2181*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu_mte, TCG_CALL_NO_WG,
2182*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2183*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu_mte, TCG_CALL_NO_WG,
2184*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2185*67ce09b5SRichard Henderson 
2186*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zss_mte, TCG_CALL_NO_WG,
2187*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2188*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss_mte, TCG_CALL_NO_WG,
2189*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2190*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss_mte, TCG_CALL_NO_WG,
2191*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2192*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss_mte, TCG_CALL_NO_WG,
2193*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2194*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss_mte, TCG_CALL_NO_WG,
2195*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2196*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss_mte, TCG_CALL_NO_WG,
2197*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2198*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss_mte, TCG_CALL_NO_WG,
2199*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2200*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zss_mte, TCG_CALL_NO_WG,
2201*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2202*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss_mte, TCG_CALL_NO_WG,
2203*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2204*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss_mte, TCG_CALL_NO_WG,
2205*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2206*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss_mte, TCG_CALL_NO_WG,
2207*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2208*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss_mte, TCG_CALL_NO_WG,
2209*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2210*67ce09b5SRichard Henderson 
2211*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zd_mte, TCG_CALL_NO_WG,
2212*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2213*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd_mte, TCG_CALL_NO_WG,
2214*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2215*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd_mte, TCG_CALL_NO_WG,
2216*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2217*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd_mte, TCG_CALL_NO_WG,
2218*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2219*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd_mte, TCG_CALL_NO_WG,
2220*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2221*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd_mte, TCG_CALL_NO_WG,
2222*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2223*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd_mte, TCG_CALL_NO_WG,
2224*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2225*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zd_mte, TCG_CALL_NO_WG,
2226*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2227*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd_mte, TCG_CALL_NO_WG,
2228*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2229*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd_mte, TCG_CALL_NO_WG,
2230*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2231*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd_mte, TCG_CALL_NO_WG,
2232*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2233*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd_mte, TCG_CALL_NO_WG,
2234*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2235*67ce09b5SRichard Henderson 
2236*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zsu, TCG_CALL_NO_WG,
2237*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2238*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zsu, TCG_CALL_NO_WG,
2239*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2240*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zsu, TCG_CALL_NO_WG,
2241*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2242*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zsu, TCG_CALL_NO_WG,
2243*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2244*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zsu, TCG_CALL_NO_WG,
2245*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2246*67ce09b5SRichard Henderson 
2247*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zss, TCG_CALL_NO_WG,
2248*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2249*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zss, TCG_CALL_NO_WG,
2250*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2251*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zss, TCG_CALL_NO_WG,
2252*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2253*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zss, TCG_CALL_NO_WG,
2254*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2255*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zss, TCG_CALL_NO_WG,
2256*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2257*67ce09b5SRichard Henderson 
2258*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zsu, TCG_CALL_NO_WG,
2259*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2260*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zsu, TCG_CALL_NO_WG,
2261*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2262*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zsu, TCG_CALL_NO_WG,
2263*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2264*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zsu, TCG_CALL_NO_WG,
2265*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2266*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zsu, TCG_CALL_NO_WG,
2267*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2268*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zsu, TCG_CALL_NO_WG,
2269*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2270*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zsu, TCG_CALL_NO_WG,
2271*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2272*67ce09b5SRichard Henderson 
2273*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zss, TCG_CALL_NO_WG,
2274*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2275*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zss, TCG_CALL_NO_WG,
2276*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2277*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zss, TCG_CALL_NO_WG,
2278*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2279*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zss, TCG_CALL_NO_WG,
2280*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2281*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zss, TCG_CALL_NO_WG,
2282*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2283*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zss, TCG_CALL_NO_WG,
2284*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2285*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zss, TCG_CALL_NO_WG,
2286*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2287*67ce09b5SRichard Henderson 
2288*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zd, TCG_CALL_NO_WG,
2289*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2290*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zd, TCG_CALL_NO_WG,
2291*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2292*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zd, TCG_CALL_NO_WG,
2293*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2294*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zd, TCG_CALL_NO_WG,
2295*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2296*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zd, TCG_CALL_NO_WG,
2297*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2298*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zd, TCG_CALL_NO_WG,
2299*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2300*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zd, TCG_CALL_NO_WG,
2301*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2302*67ce09b5SRichard Henderson 
2303*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zsu_mte, TCG_CALL_NO_WG,
2304*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2305*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zsu_mte, TCG_CALL_NO_WG,
2306*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2307*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zsu_mte, TCG_CALL_NO_WG,
2308*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2309*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zsu_mte, TCG_CALL_NO_WG,
2310*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2311*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zsu_mte, TCG_CALL_NO_WG,
2312*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2313*67ce09b5SRichard Henderson 
2314*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zss_mte, TCG_CALL_NO_WG,
2315*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2316*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zss_mte, TCG_CALL_NO_WG,
2317*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2318*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zss_mte, TCG_CALL_NO_WG,
2319*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2320*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zss_mte, TCG_CALL_NO_WG,
2321*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2322*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zss_mte, TCG_CALL_NO_WG,
2323*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2324*67ce09b5SRichard Henderson 
2325*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zsu_mte, TCG_CALL_NO_WG,
2326*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2327*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zsu_mte, TCG_CALL_NO_WG,
2328*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2329*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zsu_mte, TCG_CALL_NO_WG,
2330*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2331*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zsu_mte, TCG_CALL_NO_WG,
2332*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2333*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zsu_mte, TCG_CALL_NO_WG,
2334*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2335*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zsu_mte, TCG_CALL_NO_WG,
2336*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2337*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zsu_mte, TCG_CALL_NO_WG,
2338*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2339*67ce09b5SRichard Henderson 
2340*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zss_mte, TCG_CALL_NO_WG,
2341*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2342*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zss_mte, TCG_CALL_NO_WG,
2343*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2344*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zss_mte, TCG_CALL_NO_WG,
2345*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2346*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zss_mte, TCG_CALL_NO_WG,
2347*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2348*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zss_mte, TCG_CALL_NO_WG,
2349*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2350*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zss_mte, TCG_CALL_NO_WG,
2351*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2352*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zss_mte, TCG_CALL_NO_WG,
2353*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2354*67ce09b5SRichard Henderson 
2355*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zd_mte, TCG_CALL_NO_WG,
2356*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2357*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zd_mte, TCG_CALL_NO_WG,
2358*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2359*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zd_mte, TCG_CALL_NO_WG,
2360*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2361*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zd_mte, TCG_CALL_NO_WG,
2362*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2363*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zd_mte, TCG_CALL_NO_WG,
2364*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2365*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zd_mte, TCG_CALL_NO_WG,
2366*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2367*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zd_mte, TCG_CALL_NO_WG,
2368*67ce09b5SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2369*67ce09b5SRichard Henderson 
2370*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_zzz_h, TCG_CALL_NO_RWG,
2371*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2372*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_zzz_s, TCG_CALL_NO_RWG,
2373*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2374*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_zzz_d, TCG_CALL_NO_RWG,
2375*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2376*67ce09b5SRichard Henderson 
2377*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_zzz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2378*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_zzz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2379*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_zzz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2380*67ce09b5SRichard Henderson 
2381*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_zzz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2382*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_zzz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2383*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_zzz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2384*67ce09b5SRichard Henderson 
2385*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_pmull_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2386*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_pmull_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2387*67ce09b5SRichard Henderson 
2388*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sshll_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2389*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sshll_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2390*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sshll_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2391*67ce09b5SRichard Henderson 
2392*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_ushll_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2393*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_ushll_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2394*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_ushll_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2395*67ce09b5SRichard Henderson 
2396*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_eoril_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2397*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_eoril_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2398*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_eoril_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2399*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_eoril_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2400*67ce09b5SRichard Henderson 
2401*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bext_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2402*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bext_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2403*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bext_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2404*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bext_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2405*67ce09b5SRichard Henderson 
2406*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bdep_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2407*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bdep_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2408*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bdep_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2409*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bdep_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2410*67ce09b5SRichard Henderson 
2411*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bgrp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2412*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bgrp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2413*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bgrp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2414*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bgrp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2415*67ce09b5SRichard Henderson 
2416*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_cadd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2417*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_cadd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2418*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_cadd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2419*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_cadd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2420*67ce09b5SRichard Henderson 
2421*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqcadd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2422*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqcadd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2423*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqcadd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2424*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqcadd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2425*67ce09b5SRichard Henderson 
2426*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sabal_h, TCG_CALL_NO_RWG,
2427*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2428*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sabal_s, TCG_CALL_NO_RWG,
2429*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2430*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sabal_d, TCG_CALL_NO_RWG,
2431*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2432*67ce09b5SRichard Henderson 
2433*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uabal_h, TCG_CALL_NO_RWG,
2434*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2435*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uabal_s, TCG_CALL_NO_RWG,
2436*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2437*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uabal_d, TCG_CALL_NO_RWG,
2438*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2439*67ce09b5SRichard Henderson 
2440*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_adcl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2441*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_adcl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2442*67ce09b5SRichard Henderson 
2443*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2444*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2445*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2446*67ce09b5SRichard Henderson 
2447*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2448*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2449*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2450*67ce09b5SRichard Henderson 
2451*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2452*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2453*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2454*67ce09b5SRichard Henderson 
2455*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2456*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2457*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2458*67ce09b5SRichard Henderson 
2459*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2460*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2461*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2462*67ce09b5SRichard Henderson 
2463*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2464*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2465*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2466*67ce09b5SRichard Henderson 
2467*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2468*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2469*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2470*67ce09b5SRichard Henderson 
2471*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2472*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2473*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2474*67ce09b5SRichard Henderson 
2475*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2476*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2477*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2478*67ce09b5SRichard Henderson 
2479*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2480*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2481*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2482*67ce09b5SRichard Henderson 
2483*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2484*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2485*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2486*67ce09b5SRichard Henderson 
2487*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2488*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2489*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2490*67ce09b5SRichard Henderson 
2491*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2492*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2493*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2494*67ce09b5SRichard Henderson 
2495*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2496*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2497*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2498*67ce09b5SRichard Henderson 
2499*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2500*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2501*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2502*67ce09b5SRichard Henderson 
2503*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2504*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2505*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2506*67ce09b5SRichard Henderson 
2507*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2508*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2509*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2510*67ce09b5SRichard Henderson 
2511*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2512*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2513*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2514*67ce09b5SRichard Henderson 
2515*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2516*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2517*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2518*67ce09b5SRichard Henderson 
2519*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2520*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2521*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2522*67ce09b5SRichard Henderson 
2523*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2524*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2525*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2526*67ce09b5SRichard Henderson 
2527*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2528*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2529*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2530*67ce09b5SRichard Henderson 
2531*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_addhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2532*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_addhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2533*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_addhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2534*67ce09b5SRichard Henderson 
2535*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_addhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2536*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_addhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2537*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_addhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2538*67ce09b5SRichard Henderson 
2539*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_raddhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2540*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_raddhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2541*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_raddhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2542*67ce09b5SRichard Henderson 
2543*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_raddhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2544*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_raddhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2545*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_raddhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2546*67ce09b5SRichard Henderson 
2547*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_subhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2548*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_subhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2549*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_subhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2550*67ce09b5SRichard Henderson 
2551*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_subhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2552*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_subhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2553*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_subhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2554*67ce09b5SRichard Henderson 
2555*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_rsubhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2556*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_rsubhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2557*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_rsubhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2558*67ce09b5SRichard Henderson 
2559*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_rsubhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2560*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_rsubhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2561*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_rsubhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2562*67ce09b5SRichard Henderson 
2563*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_match_ppzz_b, TCG_CALL_NO_RWG,
2564*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
2565*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_match_ppzz_h, TCG_CALL_NO_RWG,
2566*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
2567*67ce09b5SRichard Henderson 
2568*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_nmatch_ppzz_b, TCG_CALL_NO_RWG,
2569*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
2570*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_nmatch_ppzz_h, TCG_CALL_NO_RWG,
2571*67ce09b5SRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
2572*67ce09b5SRichard Henderson 
2573*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_histcnt_s, TCG_CALL_NO_RWG,
2574*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2575*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_histcnt_d, TCG_CALL_NO_RWG,
2576*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2577*67ce09b5SRichard Henderson 
2578*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_histseg, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2579*67ce09b5SRichard Henderson 
2580*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_xar_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2581*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_xar_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2582*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_xar_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2583*67ce09b5SRichard Henderson 
2584*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_faddp_zpzz_h, TCG_CALL_NO_RWG,
2585*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2586*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_faddp_zpzz_s, TCG_CALL_NO_RWG,
2587*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2588*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_faddp_zpzz_d, TCG_CALL_NO_RWG,
2589*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2590*67ce09b5SRichard Henderson 
2591*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fmaxnmp_zpzz_h, TCG_CALL_NO_RWG,
2592*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2593*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fmaxnmp_zpzz_s, TCG_CALL_NO_RWG,
2594*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2595*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fmaxnmp_zpzz_d, TCG_CALL_NO_RWG,
2596*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2597*67ce09b5SRichard Henderson 
2598*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fminnmp_zpzz_h, TCG_CALL_NO_RWG,
2599*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2600*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fminnmp_zpzz_s, TCG_CALL_NO_RWG,
2601*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2602*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fminnmp_zpzz_d, TCG_CALL_NO_RWG,
2603*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2604*67ce09b5SRichard Henderson 
2605*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fmaxp_zpzz_h, TCG_CALL_NO_RWG,
2606*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2607*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fmaxp_zpzz_s, TCG_CALL_NO_RWG,
2608*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2609*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fmaxp_zpzz_d, TCG_CALL_NO_RWG,
2610*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2611*67ce09b5SRichard Henderson 
2612*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fminp_zpzz_h, TCG_CALL_NO_RWG,
2613*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2614*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fminp_zpzz_s, TCG_CALL_NO_RWG,
2615*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2616*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(sve2_fminp_zpzz_d, TCG_CALL_NO_RWG,
2617*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
2618*67ce09b5SRichard Henderson 
2619*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_eor3, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2620*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_bcax, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2621*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_bsl1n, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2622*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_bsl2n, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2623*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_nbsl, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2624*67ce09b5SRichard Henderson 
2625*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_zzzw_h, TCG_CALL_NO_RWG,
2626*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2627*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_zzzw_s, TCG_CALL_NO_RWG,
2628*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2629*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_zzzw_d, TCG_CALL_NO_RWG,
2630*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2631*67ce09b5SRichard Henderson 
2632*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_zzzw_h, TCG_CALL_NO_RWG,
2633*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2634*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_zzzw_s, TCG_CALL_NO_RWG,
2635*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2636*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_zzzw_d, TCG_CALL_NO_RWG,
2637*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2638*67ce09b5SRichard Henderson 
2639*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_zzzw_h, TCG_CALL_NO_RWG,
2640*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2641*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_zzzw_s, TCG_CALL_NO_RWG,
2642*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2643*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_zzzw_d, TCG_CALL_NO_RWG,
2644*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2645*67ce09b5SRichard Henderson 
2646*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_zzzw_h, TCG_CALL_NO_RWG,
2647*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2648*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_zzzw_s, TCG_CALL_NO_RWG,
2649*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2650*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_zzzw_d, TCG_CALL_NO_RWG,
2651*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2652*67ce09b5SRichard Henderson 
2653*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_zzzw_h, TCG_CALL_NO_RWG,
2654*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2655*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_zzzw_s, TCG_CALL_NO_RWG,
2656*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2657*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_zzzw_d, TCG_CALL_NO_RWG,
2658*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2659*67ce09b5SRichard Henderson 
2660*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_zzzw_h, TCG_CALL_NO_RWG,
2661*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2662*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_zzzw_s, TCG_CALL_NO_RWG,
2663*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2664*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_zzzw_d, TCG_CALL_NO_RWG,
2665*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2666*67ce09b5SRichard Henderson 
2667*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_b, TCG_CALL_NO_RWG,
2668*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2669*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_h, TCG_CALL_NO_RWG,
2670*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2671*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_s, TCG_CALL_NO_RWG,
2672*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2673*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_d, TCG_CALL_NO_RWG,
2674*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2675*67ce09b5SRichard Henderson 
2676*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_b, TCG_CALL_NO_RWG,
2677*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2678*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_h, TCG_CALL_NO_RWG,
2679*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2680*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_s, TCG_CALL_NO_RWG,
2681*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2682*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_d, TCG_CALL_NO_RWG,
2683*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2684*67ce09b5SRichard Henderson 
2685*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(fmmla_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, ptr, i32)
2686*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_6(fmmla_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, ptr, i32)
2687*67ce09b5SRichard Henderson 
2688*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlah_idx_h, TCG_CALL_NO_RWG,
2689*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2690*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlah_idx_s, TCG_CALL_NO_RWG,
2691*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2692*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlah_idx_d, TCG_CALL_NO_RWG,
2693*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2694*67ce09b5SRichard Henderson 
2695*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlsh_idx_h, TCG_CALL_NO_RWG,
2696*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2697*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlsh_idx_s, TCG_CALL_NO_RWG,
2698*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2699*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlsh_idx_d, TCG_CALL_NO_RWG,
2700*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2701*67ce09b5SRichard Henderson 
2702*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_idx_s, TCG_CALL_NO_RWG,
2703*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2704*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_idx_d, TCG_CALL_NO_RWG,
2705*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2706*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_idx_s, TCG_CALL_NO_RWG,
2707*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2708*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_idx_d, TCG_CALL_NO_RWG,
2709*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2710*67ce09b5SRichard Henderson 
2711*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_idx_s, TCG_CALL_NO_RWG,
2712*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2713*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_idx_d, TCG_CALL_NO_RWG,
2714*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2715*67ce09b5SRichard Henderson 
2716*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_idx_s, TCG_CALL_NO_RWG,
2717*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2718*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_idx_d, TCG_CALL_NO_RWG,
2719*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2720*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_idx_s, TCG_CALL_NO_RWG,
2721*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2722*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_idx_d, TCG_CALL_NO_RWG,
2723*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2724*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_idx_s, TCG_CALL_NO_RWG,
2725*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2726*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_idx_d, TCG_CALL_NO_RWG,
2727*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2728*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_idx_s, TCG_CALL_NO_RWG,
2729*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2730*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_idx_d, TCG_CALL_NO_RWG,
2731*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2732*67ce09b5SRichard Henderson 
2733*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_idx_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2734*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_idx_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2735*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_idx_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2736*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_idx_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2737*67ce09b5SRichard Henderson 
2738*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_idx_h, TCG_CALL_NO_RWG,
2739*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2740*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_idx_s, TCG_CALL_NO_RWG,
2741*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2742*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_idx_h, TCG_CALL_NO_RWG,
2743*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2744*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_idx_s, TCG_CALL_NO_RWG,
2745*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2746*67ce09b5SRichard Henderson 
2747*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cdot_zzzz_s, TCG_CALL_NO_RWG,
2748*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2749*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cdot_zzzz_d, TCG_CALL_NO_RWG,
2750*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2751*67ce09b5SRichard Henderson 
2752*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cdot_idx_s, TCG_CALL_NO_RWG,
2753*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2754*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cdot_idx_d, TCG_CALL_NO_RWG,
2755*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2756*67ce09b5SRichard Henderson 
2757*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_fcvtnt_sh, TCG_CALL_NO_RWG,
2758*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2759*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_fcvtnt_ds, TCG_CALL_NO_RWG,
2760*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2761*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve_bfcvtnt, TCG_CALL_NO_RWG,
2762*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2763*67ce09b5SRichard Henderson 
2764*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_fcvtlt_hs, TCG_CALL_NO_RWG,
2765*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2766*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(sve2_fcvtlt_sd, TCG_CALL_NO_RWG,
2767*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2768*67ce09b5SRichard Henderson 
2769*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(flogb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2770*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(flogb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2771*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_5(flogb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2772*67ce09b5SRichard Henderson 
2773*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_b, TCG_CALL_NO_RWG,
2774*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2775*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_h, TCG_CALL_NO_RWG,
2776*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2777*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_s, TCG_CALL_NO_RWG,
2778*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2779*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_d, TCG_CALL_NO_RWG,
2780*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2781*67ce09b5SRichard Henderson 
2782*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_b, TCG_CALL_NO_RWG,
2783*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2784*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_h, TCG_CALL_NO_RWG,
2785*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2786*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_s, TCG_CALL_NO_RWG,
2787*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2788*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_d, TCG_CALL_NO_RWG,
2789*67ce09b5SRichard Henderson                    void, ptr, ptr, ptr, i32)
2790*67ce09b5SRichard Henderson 
2791*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_srshr_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2792*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_srshr_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2793*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_srshr_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2794*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_srshr_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2795*67ce09b5SRichard Henderson 
2796*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_urshr_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2797*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_urshr_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2798*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_urshr_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2799*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_urshr_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2800*67ce09b5SRichard Henderson 
2801*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqshlu_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2802*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqshlu_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2803*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqshlu_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2804*67ce09b5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqshlu_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2805