LXR qemu/target/arm/helper-sve.h

   1/*
   2 *  AArch64 SVE specific helper definitions
   3 *
   4 *  Copyright (c) 2018 Linaro, Ltd
   5 *
   6 * This library is free software; you can redistribute it and/or
   7 * modify it under the terms of the GNU Lesser General Public
   8 * License as published by the Free Software Foundation; either
   9 * version 2.1 of the License, or (at your option) any later version.
  10 *
  11 * This library is distributed in the hope that it will be useful,
  12 * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14 * Lesser General Public License for more details.
  15 *
  16 * You should have received a copy of the GNU Lesser General Public
  17 * License along with this library; if not, see <http://www.gnu.org/licenses/>.
  18 */
  19
  20DEF_HELPER_FLAGS_2(sve_predtest1, TCG_CALL_NO_WG, i32, i64, i64)
  21DEF_HELPER_FLAGS_3(sve_predtest, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
  22
  23DEF_HELPER_FLAGS_3(sve_pfirst, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
  24DEF_HELPER_FLAGS_3(sve_pnext, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
  25
  26DEF_HELPER_FLAGS_5(sve_and_zpzz_b, TCG_CALL_NO_RWG,
  27                   void, ptr, ptr, ptr, ptr, i32)
  28DEF_HELPER_FLAGS_5(sve_and_zpzz_h, TCG_CALL_NO_RWG,
  29                   void, ptr, ptr, ptr, ptr, i32)
  30DEF_HELPER_FLAGS_5(sve_and_zpzz_s, TCG_CALL_NO_RWG,
  31                   void, ptr, ptr, ptr, ptr, i32)
  32DEF_HELPER_FLAGS_5(sve_and_zpzz_d, TCG_CALL_NO_RWG,
  33                   void, ptr, ptr, ptr, ptr, i32)
  34
  35DEF_HELPER_FLAGS_5(sve_eor_zpzz_b, TCG_CALL_NO_RWG,
  36                   void, ptr, ptr, ptr, ptr, i32)
  37DEF_HELPER_FLAGS_5(sve_eor_zpzz_h, TCG_CALL_NO_RWG,
  38                   void, ptr, ptr, ptr, ptr, i32)
  39DEF_HELPER_FLAGS_5(sve_eor_zpzz_s, TCG_CALL_NO_RWG,
  40                   void, ptr, ptr, ptr, ptr, i32)
  41DEF_HELPER_FLAGS_5(sve_eor_zpzz_d, TCG_CALL_NO_RWG,
  42                   void, ptr, ptr, ptr, ptr, i32)
  43
  44DEF_HELPER_FLAGS_5(sve_orr_zpzz_b, TCG_CALL_NO_RWG,
  45                   void, ptr, ptr, ptr, ptr, i32)
  46DEF_HELPER_FLAGS_5(sve_orr_zpzz_h, TCG_CALL_NO_RWG,
  47                   void, ptr, ptr, ptr, ptr, i32)
  48DEF_HELPER_FLAGS_5(sve_orr_zpzz_s, TCG_CALL_NO_RWG,
  49                   void, ptr, ptr, ptr, ptr, i32)
  50DEF_HELPER_FLAGS_5(sve_orr_zpzz_d, TCG_CALL_NO_RWG,
  51                   void, ptr, ptr, ptr, ptr, i32)
  52
  53DEF_HELPER_FLAGS_5(sve_bic_zpzz_b, TCG_CALL_NO_RWG,
  54                   void, ptr, ptr, ptr, ptr, i32)
  55DEF_HELPER_FLAGS_5(sve_bic_zpzz_h, TCG_CALL_NO_RWG,
  56                   void, ptr, ptr, ptr, ptr, i32)
  57DEF_HELPER_FLAGS_5(sve_bic_zpzz_s, TCG_CALL_NO_RWG,
  58                   void, ptr, ptr, ptr, ptr, i32)
  59DEF_HELPER_FLAGS_5(sve_bic_zpzz_d, TCG_CALL_NO_RWG,
  60                   void, ptr, ptr, ptr, ptr, i32)
  61
  62DEF_HELPER_FLAGS_5(sve_add_zpzz_b, TCG_CALL_NO_RWG,
  63                   void, ptr, ptr, ptr, ptr, i32)
  64DEF_HELPER_FLAGS_5(sve_add_zpzz_h, TCG_CALL_NO_RWG,
  65                   void, ptr, ptr, ptr, ptr, i32)
  66DEF_HELPER_FLAGS_5(sve_add_zpzz_s, TCG_CALL_NO_RWG,
  67                   void, ptr, ptr, ptr, ptr, i32)
  68DEF_HELPER_FLAGS_5(sve_add_zpzz_d, TCG_CALL_NO_RWG,
  69                   void, ptr, ptr, ptr, ptr, i32)
  70
  71DEF_HELPER_FLAGS_5(sve_sub_zpzz_b, TCG_CALL_NO_RWG,
  72                   void, ptr, ptr, ptr, ptr, i32)
  73DEF_HELPER_FLAGS_5(sve_sub_zpzz_h, TCG_CALL_NO_RWG,
  74                   void, ptr, ptr, ptr, ptr, i32)
  75DEF_HELPER_FLAGS_5(sve_sub_zpzz_s, TCG_CALL_NO_RWG,
  76                   void, ptr, ptr, ptr, ptr, i32)
  77DEF_HELPER_FLAGS_5(sve_sub_zpzz_d, TCG_CALL_NO_RWG,
  78                   void, ptr, ptr, ptr, ptr, i32)
  79
  80DEF_HELPER_FLAGS_5(sve_smax_zpzz_b, TCG_CALL_NO_RWG,
  81                   void, ptr, ptr, ptr, ptr, i32)
  82DEF_HELPER_FLAGS_5(sve_smax_zpzz_h, TCG_CALL_NO_RWG,
  83                   void, ptr, ptr, ptr, ptr, i32)
  84DEF_HELPER_FLAGS_5(sve_smax_zpzz_s, TCG_CALL_NO_RWG,
  85                   void, ptr, ptr, ptr, ptr, i32)
  86DEF_HELPER_FLAGS_5(sve_smax_zpzz_d, TCG_CALL_NO_RWG,
  87                   void, ptr, ptr, ptr, ptr, i32)
  88
  89DEF_HELPER_FLAGS_5(sve_umax_zpzz_b, TCG_CALL_NO_RWG,
  90                   void, ptr, ptr, ptr, ptr, i32)
  91DEF_HELPER_FLAGS_5(sve_umax_zpzz_h, TCG_CALL_NO_RWG,
  92                   void, ptr, ptr, ptr, ptr, i32)
  93DEF_HELPER_FLAGS_5(sve_umax_zpzz_s, TCG_CALL_NO_RWG,
  94                   void, ptr, ptr, ptr, ptr, i32)
  95DEF_HELPER_FLAGS_5(sve_umax_zpzz_d, TCG_CALL_NO_RWG,
  96                   void, ptr, ptr, ptr, ptr, i32)
  97
  98DEF_HELPER_FLAGS_5(sve_smin_zpzz_b, TCG_CALL_NO_RWG,
  99                   void, ptr, ptr, ptr, ptr, i32)
 100DEF_HELPER_FLAGS_5(sve_smin_zpzz_h, TCG_CALL_NO_RWG,
 101                   void, ptr, ptr, ptr, ptr, i32)
 102DEF_HELPER_FLAGS_5(sve_smin_zpzz_s, TCG_CALL_NO_RWG,
 103                   void, ptr, ptr, ptr, ptr, i32)
 104DEF_HELPER_FLAGS_5(sve_smin_zpzz_d, TCG_CALL_NO_RWG,
 105                   void, ptr, ptr, ptr, ptr, i32)
 106
 107DEF_HELPER_FLAGS_5(sve_umin_zpzz_b, TCG_CALL_NO_RWG,
 108                   void, ptr, ptr, ptr, ptr, i32)
 109DEF_HELPER_FLAGS_5(sve_umin_zpzz_h, TCG_CALL_NO_RWG,
 110                   void, ptr, ptr, ptr, ptr, i32)
 111DEF_HELPER_FLAGS_5(sve_umin_zpzz_s, TCG_CALL_NO_RWG,
 112                   void, ptr, ptr, ptr, ptr, i32)
 113DEF_HELPER_FLAGS_5(sve_umin_zpzz_d, TCG_CALL_NO_RWG,
 114                   void, ptr, ptr, ptr, ptr, i32)
 115
 116DEF_HELPER_FLAGS_5(sve_sabd_zpzz_b, TCG_CALL_NO_RWG,
 117                   void, ptr, ptr, ptr, ptr, i32)
 118DEF_HELPER_FLAGS_5(sve_sabd_zpzz_h, TCG_CALL_NO_RWG,
 119                   void, ptr, ptr, ptr, ptr, i32)
 120DEF_HELPER_FLAGS_5(sve_sabd_zpzz_s, TCG_CALL_NO_RWG,
 121                   void, ptr, ptr, ptr, ptr, i32)
 122DEF_HELPER_FLAGS_5(sve_sabd_zpzz_d, TCG_CALL_NO_RWG,
 123                   void, ptr, ptr, ptr, ptr, i32)
 124
 125DEF_HELPER_FLAGS_5(sve_uabd_zpzz_b, TCG_CALL_NO_RWG,
 126                   void, ptr, ptr, ptr, ptr, i32)
 127DEF_HELPER_FLAGS_5(sve_uabd_zpzz_h, TCG_CALL_NO_RWG,
 128                   void, ptr, ptr, ptr, ptr, i32)
 129DEF_HELPER_FLAGS_5(sve_uabd_zpzz_s, TCG_CALL_NO_RWG,
 130                   void, ptr, ptr, ptr, ptr, i32)
 131DEF_HELPER_FLAGS_5(sve_uabd_zpzz_d, TCG_CALL_NO_RWG,
 132                   void, ptr, ptr, ptr, ptr, i32)
 133
 134DEF_HELPER_FLAGS_5(sve_mul_zpzz_b, TCG_CALL_NO_RWG,
 135                   void, ptr, ptr, ptr, ptr, i32)
 136DEF_HELPER_FLAGS_5(sve_mul_zpzz_h, TCG_CALL_NO_RWG,
 137                   void, ptr, ptr, ptr, ptr, i32)
 138DEF_HELPER_FLAGS_5(sve_mul_zpzz_s, TCG_CALL_NO_RWG,
 139                   void, ptr, ptr, ptr, ptr, i32)
 140DEF_HELPER_FLAGS_5(sve_mul_zpzz_d, TCG_CALL_NO_RWG,
 141                   void, ptr, ptr, ptr, ptr, i32)
 142
 143DEF_HELPER_FLAGS_5(sve_smulh_zpzz_b, TCG_CALL_NO_RWG,
 144                   void, ptr, ptr, ptr, ptr, i32)
 145DEF_HELPER_FLAGS_5(sve_smulh_zpzz_h, TCG_CALL_NO_RWG,
 146                   void, ptr, ptr, ptr, ptr, i32)
 147DEF_HELPER_FLAGS_5(sve_smulh_zpzz_s, TCG_CALL_NO_RWG,
 148                   void, ptr, ptr, ptr, ptr, i32)
 149DEF_HELPER_FLAGS_5(sve_smulh_zpzz_d, TCG_CALL_NO_RWG,
 150                   void, ptr, ptr, ptr, ptr, i32)
 151
 152DEF_HELPER_FLAGS_5(sve_umulh_zpzz_b, TCG_CALL_NO_RWG,
 153                   void, ptr, ptr, ptr, ptr, i32)
 154DEF_HELPER_FLAGS_5(sve_umulh_zpzz_h, TCG_CALL_NO_RWG,
 155                   void, ptr, ptr, ptr, ptr, i32)
 156DEF_HELPER_FLAGS_5(sve_umulh_zpzz_s, TCG_CALL_NO_RWG,
 157                   void, ptr, ptr, ptr, ptr, i32)
 158DEF_HELPER_FLAGS_5(sve_umulh_zpzz_d, TCG_CALL_NO_RWG,
 159                   void, ptr, ptr, ptr, ptr, i32)
 160
 161DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_h, TCG_CALL_NO_RWG,
 162                   void, ptr, ptr, ptr, ptr, i32)
 163DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_s, TCG_CALL_NO_RWG,
 164                   void, ptr, ptr, ptr, ptr, i32)
 165DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_d, TCG_CALL_NO_RWG,
 166                   void, ptr, ptr, ptr, ptr, i32)
 167
 168DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_h, TCG_CALL_NO_RWG,
 169                   void, ptr, ptr, ptr, ptr, i32)
 170DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_s, TCG_CALL_NO_RWG,
 171                   void, ptr, ptr, ptr, ptr, i32)
 172DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_d, TCG_CALL_NO_RWG,
 173                   void, ptr, ptr, ptr, ptr, i32)
 174
 175DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_b, TCG_CALL_NO_RWG,
 176                   void, ptr, ptr, ptr, ptr, i32)
 177DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_h, TCG_CALL_NO_RWG,
 178                   void, ptr, ptr, ptr, ptr, i32)
 179DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_s, TCG_CALL_NO_RWG,
 180                   void, ptr, ptr, ptr, ptr, i32)
 181DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_d, TCG_CALL_NO_RWG,
 182                   void, ptr, ptr, ptr, ptr, i32)
 183
 184DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_b, TCG_CALL_NO_RWG,
 185                   void, ptr, ptr, ptr, ptr, i32)
 186DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_h, TCG_CALL_NO_RWG,
 187                   void, ptr, ptr, ptr, ptr, i32)
 188DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_s, TCG_CALL_NO_RWG,
 189                   void, ptr, ptr, ptr, ptr, i32)
 190DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_d, TCG_CALL_NO_RWG,
 191                   void, ptr, ptr, ptr, ptr, i32)
 192
 193DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_b, TCG_CALL_NO_RWG,
 194                   void, ptr, ptr, ptr, ptr, i32)
 195DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_h, TCG_CALL_NO_RWG,
 196                   void, ptr, ptr, ptr, ptr, i32)
 197DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_s, TCG_CALL_NO_RWG,
 198                   void, ptr, ptr, ptr, ptr, i32)
 199DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_d, TCG_CALL_NO_RWG,
 200                   void, ptr, ptr, ptr, ptr, i32)
 201
 202DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_b, TCG_CALL_NO_RWG,
 203                   void, ptr, ptr, ptr, ptr, i32)
 204DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_h, TCG_CALL_NO_RWG,
 205                   void, ptr, ptr, ptr, ptr, i32)
 206DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_s, TCG_CALL_NO_RWG,
 207                   void, ptr, ptr, ptr, ptr, i32)
 208DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_d, TCG_CALL_NO_RWG,
 209                   void, ptr, ptr, ptr, ptr, i32)
 210
 211DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_b, TCG_CALL_NO_RWG,
 212                   void, ptr, ptr, ptr, ptr, i32)
 213DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_h, TCG_CALL_NO_RWG,
 214                   void, ptr, ptr, ptr, ptr, i32)
 215DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_s, TCG_CALL_NO_RWG,
 216                   void, ptr, ptr, ptr, ptr, i32)
 217DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_d, TCG_CALL_NO_RWG,
 218                   void, ptr, ptr, ptr, ptr, i32)
 219
 220DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_b, TCG_CALL_NO_RWG,
 221                   void, ptr, ptr, ptr, ptr, i32)
 222DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_h, TCG_CALL_NO_RWG,
 223                   void, ptr, ptr, ptr, ptr, i32)
 224DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_s, TCG_CALL_NO_RWG,
 225                   void, ptr, ptr, ptr, ptr, i32)
 226DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_d, TCG_CALL_NO_RWG,
 227                   void, ptr, ptr, ptr, ptr, i32)
 228
 229DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_b, TCG_CALL_NO_RWG,
 230                   void, ptr, ptr, ptr, ptr, i32)
 231DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_h, TCG_CALL_NO_RWG,
 232                   void, ptr, ptr, ptr, ptr, i32)
 233DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_s, TCG_CALL_NO_RWG,
 234                   void, ptr, ptr, ptr, ptr, i32)
 235DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_d, TCG_CALL_NO_RWG,
 236                   void, ptr, ptr, ptr, ptr, i32)
 237
 238DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_b, TCG_CALL_NO_RWG,
 239                   void, ptr, ptr, ptr, ptr, i32)
 240DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_h, TCG_CALL_NO_RWG,
 241                   void, ptr, ptr, ptr, ptr, i32)
 242DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_s, TCG_CALL_NO_RWG,
 243                   void, ptr, ptr, ptr, ptr, i32)
 244DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_d, TCG_CALL_NO_RWG,
 245                   void, ptr, ptr, ptr, ptr, i32)
 246
 247DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_b, TCG_CALL_NO_RWG,
 248                   void, ptr, ptr, ptr, ptr, i32)
 249DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_h, TCG_CALL_NO_RWG,
 250                   void, ptr, ptr, ptr, ptr, i32)
 251DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_s, TCG_CALL_NO_RWG,
 252                   void, ptr, ptr, ptr, ptr, i32)
 253DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_d, TCG_CALL_NO_RWG,
 254                   void, ptr, ptr, ptr, ptr, i32)
 255
 256DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_b, TCG_CALL_NO_RWG,
 257                   void, ptr, ptr, ptr, ptr, i32)
 258DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_h, TCG_CALL_NO_RWG,
 259                   void, ptr, ptr, ptr, ptr, i32)
 260DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_s, TCG_CALL_NO_RWG,
 261                   void, ptr, ptr, ptr, ptr, i32)
 262DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_d, TCG_CALL_NO_RWG,
 263                   void, ptr, ptr, ptr, ptr, i32)
 264
 265DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_b, TCG_CALL_NO_RWG,
 266                   void, ptr, ptr, ptr, ptr, i32)
 267DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_h, TCG_CALL_NO_RWG,
 268                   void, ptr, ptr, ptr, ptr, i32)
 269DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_s, TCG_CALL_NO_RWG,
 270                   void, ptr, ptr, ptr, ptr, i32)
 271DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_d, TCG_CALL_NO_RWG,
 272                   void, ptr, ptr, ptr, ptr, i32)
 273
 274DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_b, TCG_CALL_NO_RWG,
 275                   void, ptr, ptr, ptr, ptr, i32)
 276DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_h, TCG_CALL_NO_RWG,
 277                   void, ptr, ptr, ptr, ptr, i32)
 278DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_s, TCG_CALL_NO_RWG,
 279                   void, ptr, ptr, ptr, ptr, i32)
 280DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_d, TCG_CALL_NO_RWG,
 281                   void, ptr, ptr, ptr, ptr, i32)
 282
 283DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_s, TCG_CALL_NO_RWG,
 284                   void, ptr, ptr, ptr, ptr, i32)
 285DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_d, TCG_CALL_NO_RWG,
 286                   void, ptr, ptr, ptr, ptr, i32)
 287
 288DEF_HELPER_FLAGS_5(sve_udiv_zpzz_s, TCG_CALL_NO_RWG,
 289                   void, ptr, ptr, ptr, ptr, i32)
 290DEF_HELPER_FLAGS_5(sve_udiv_zpzz_d, TCG_CALL_NO_RWG,
 291                   void, ptr, ptr, ptr, ptr, i32)
 292
 293DEF_HELPER_FLAGS_5(sve_asr_zpzz_b, TCG_CALL_NO_RWG,
 294                   void, ptr, ptr, ptr, ptr, i32)
 295DEF_HELPER_FLAGS_5(sve_asr_zpzz_h, TCG_CALL_NO_RWG,
 296                   void, ptr, ptr, ptr, ptr, i32)
 297DEF_HELPER_FLAGS_5(sve_asr_zpzz_s, TCG_CALL_NO_RWG,
 298                   void, ptr, ptr, ptr, ptr, i32)
 299DEF_HELPER_FLAGS_5(sve_asr_zpzz_d, TCG_CALL_NO_RWG,
 300                   void, ptr, ptr, ptr, ptr, i32)
 301
 302DEF_HELPER_FLAGS_5(sve_lsr_zpzz_b, TCG_CALL_NO_RWG,
 303                   void, ptr, ptr, ptr, ptr, i32)
 304DEF_HELPER_FLAGS_5(sve_lsr_zpzz_h, TCG_CALL_NO_RWG,
 305                   void, ptr, ptr, ptr, ptr, i32)
 306DEF_HELPER_FLAGS_5(sve_lsr_zpzz_s, TCG_CALL_NO_RWG,
 307                   void, ptr, ptr, ptr, ptr, i32)
 308DEF_HELPER_FLAGS_5(sve_lsr_zpzz_d, TCG_CALL_NO_RWG,
 309                   void, ptr, ptr, ptr, ptr, i32)
 310
 311DEF_HELPER_FLAGS_5(sve_lsl_zpzz_b, TCG_CALL_NO_RWG,
 312                   void, ptr, ptr, ptr, ptr, i32)
 313DEF_HELPER_FLAGS_5(sve_lsl_zpzz_h, TCG_CALL_NO_RWG,
 314                   void, ptr, ptr, ptr, ptr, i32)
 315DEF_HELPER_FLAGS_5(sve_lsl_zpzz_s, TCG_CALL_NO_RWG,
 316                   void, ptr, ptr, ptr, ptr, i32)
 317DEF_HELPER_FLAGS_5(sve_lsl_zpzz_d, TCG_CALL_NO_RWG,
 318                   void, ptr, ptr, ptr, ptr, i32)
 319
 320DEF_HELPER_FLAGS_5(sve_sel_zpzz_b, TCG_CALL_NO_RWG,
 321                   void, ptr, ptr, ptr, ptr, i32)
 322DEF_HELPER_FLAGS_5(sve_sel_zpzz_h, TCG_CALL_NO_RWG,
 323                   void, ptr, ptr, ptr, ptr, i32)
 324DEF_HELPER_FLAGS_5(sve_sel_zpzz_s, TCG_CALL_NO_RWG,
 325                   void, ptr, ptr, ptr, ptr, i32)
 326DEF_HELPER_FLAGS_5(sve_sel_zpzz_d, TCG_CALL_NO_RWG,
 327                   void, ptr, ptr, ptr, ptr, i32)
 328
 329DEF_HELPER_FLAGS_5(sve2_addp_zpzz_b, TCG_CALL_NO_RWG,
 330                   void, ptr, ptr, ptr, ptr, i32)
 331DEF_HELPER_FLAGS_5(sve2_addp_zpzz_h, TCG_CALL_NO_RWG,
 332                   void, ptr, ptr, ptr, ptr, i32)
 333DEF_HELPER_FLAGS_5(sve2_addp_zpzz_s, TCG_CALL_NO_RWG,
 334                   void, ptr, ptr, ptr, ptr, i32)
 335DEF_HELPER_FLAGS_5(sve2_addp_zpzz_d, TCG_CALL_NO_RWG,
 336                   void, ptr, ptr, ptr, ptr, i32)
 337
 338DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_b, TCG_CALL_NO_RWG,
 339                   void, ptr, ptr, ptr, ptr, i32)
 340DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_h, TCG_CALL_NO_RWG,
 341                   void, ptr, ptr, ptr, ptr, i32)
 342DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_s, TCG_CALL_NO_RWG,
 343                   void, ptr, ptr, ptr, ptr, i32)
 344DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_d, TCG_CALL_NO_RWG,
 345                   void, ptr, ptr, ptr, ptr, i32)
 346
 347DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_b, TCG_CALL_NO_RWG,
 348                   void, ptr, ptr, ptr, ptr, i32)
 349DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_h, TCG_CALL_NO_RWG,
 350                   void, ptr, ptr, ptr, ptr, i32)
 351DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_s, TCG_CALL_NO_RWG,
 352                   void, ptr, ptr, ptr, ptr, i32)
 353DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_d, TCG_CALL_NO_RWG,
 354                   void, ptr, ptr, ptr, ptr, i32)
 355
 356DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_b, TCG_CALL_NO_RWG,
 357                   void, ptr, ptr, ptr, ptr, i32)
 358DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_h, TCG_CALL_NO_RWG,
 359                   void, ptr, ptr, ptr, ptr, i32)
 360DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_s, TCG_CALL_NO_RWG,
 361                   void, ptr, ptr, ptr, ptr, i32)
 362DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_d, TCG_CALL_NO_RWG,
 363                   void, ptr, ptr, ptr, ptr, i32)
 364
 365DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_b, TCG_CALL_NO_RWG,
 366                   void, ptr, ptr, ptr, ptr, i32)
 367DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_h, TCG_CALL_NO_RWG,
 368                   void, ptr, ptr, ptr, ptr, i32)
 369DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_s, TCG_CALL_NO_RWG,
 370                   void, ptr, ptr, ptr, ptr, i32)
 371DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_d, TCG_CALL_NO_RWG,
 372                   void, ptr, ptr, ptr, ptr, i32)
 373
 374DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_b, TCG_CALL_NO_RWG,
 375                   void, ptr, ptr, ptr, ptr, i32)
 376DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_h, TCG_CALL_NO_RWG,
 377                   void, ptr, ptr, ptr, ptr, i32)
 378DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_s, TCG_CALL_NO_RWG,
 379                   void, ptr, ptr, ptr, ptr, i32)
 380DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_d, TCG_CALL_NO_RWG,
 381                   void, ptr, ptr, ptr, ptr, i32)
 382
 383DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_b, TCG_CALL_NO_RWG,
 384                   void, ptr, ptr, ptr, ptr, i32)
 385DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_h, TCG_CALL_NO_RWG,
 386                   void, ptr, ptr, ptr, ptr, i32)
 387DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_s, TCG_CALL_NO_RWG,
 388                   void, ptr, ptr, ptr, ptr, i32)
 389DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_d, TCG_CALL_NO_RWG,
 390                   void, ptr, ptr, ptr, ptr, i32)
 391
 392DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_b, TCG_CALL_NO_RWG,
 393                   void, ptr, ptr, ptr, ptr, i32)
 394DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_h, TCG_CALL_NO_RWG,
 395                   void, ptr, ptr, ptr, ptr, i32)
 396DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_s, TCG_CALL_NO_RWG,
 397                   void, ptr, ptr, ptr, ptr, i32)
 398DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_d, TCG_CALL_NO_RWG,
 399                   void, ptr, ptr, ptr, ptr, i32)
 400
 401DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_b, TCG_CALL_NO_RWG,
 402                   void, ptr, ptr, ptr, ptr, i32)
 403DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_h, TCG_CALL_NO_RWG,
 404                   void, ptr, ptr, ptr, ptr, i32)
 405DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_s, TCG_CALL_NO_RWG,
 406                   void, ptr, ptr, ptr, ptr, i32)
 407DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_d, TCG_CALL_NO_RWG,
 408                   void, ptr, ptr, ptr, ptr, i32)
 409
 410DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_b, TCG_CALL_NO_RWG,
 411                   void, ptr, ptr, ptr, ptr, i32)
 412DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_h, TCG_CALL_NO_RWG,
 413                   void, ptr, ptr, ptr, ptr, i32)
 414DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_s, TCG_CALL_NO_RWG,
 415                   void, ptr, ptr, ptr, ptr, i32)
 416DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_d, TCG_CALL_NO_RWG,
 417                   void, ptr, ptr, ptr, ptr, i32)
 418
 419DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_b, TCG_CALL_NO_RWG,
 420                   void, ptr, ptr, ptr, ptr, i32)
 421DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_h, TCG_CALL_NO_RWG,
 422                   void, ptr, ptr, ptr, ptr, i32)
 423DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_s, TCG_CALL_NO_RWG,
 424                   void, ptr, ptr, ptr, ptr, i32)
 425DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_d, TCG_CALL_NO_RWG,
 426                   void, ptr, ptr, ptr, ptr, i32)
 427
 428DEF_HELPER_FLAGS_5(sve_asr_zpzw_b, TCG_CALL_NO_RWG,
 429                   void, ptr, ptr, ptr, ptr, i32)
 430DEF_HELPER_FLAGS_5(sve_asr_zpzw_h, TCG_CALL_NO_RWG,
 431                   void, ptr, ptr, ptr, ptr, i32)
 432DEF_HELPER_FLAGS_5(sve_asr_zpzw_s, TCG_CALL_NO_RWG,
 433                   void, ptr, ptr, ptr, ptr, i32)
 434
 435DEF_HELPER_FLAGS_5(sve_lsr_zpzw_b, TCG_CALL_NO_RWG,
 436                   void, ptr, ptr, ptr, ptr, i32)
 437DEF_HELPER_FLAGS_5(sve_lsr_zpzw_h, TCG_CALL_NO_RWG,
 438                   void, ptr, ptr, ptr, ptr, i32)
 439DEF_HELPER_FLAGS_5(sve_lsr_zpzw_s, TCG_CALL_NO_RWG,
 440                   void, ptr, ptr, ptr, ptr, i32)
 441
 442DEF_HELPER_FLAGS_5(sve_lsl_zpzw_b, TCG_CALL_NO_RWG,
 443                   void, ptr, ptr, ptr, ptr, i32)
 444DEF_HELPER_FLAGS_5(sve_lsl_zpzw_h, TCG_CALL_NO_RWG,
 445                   void, ptr, ptr, ptr, ptr, i32)
 446DEF_HELPER_FLAGS_5(sve_lsl_zpzw_s, TCG_CALL_NO_RWG,
 447                   void, ptr, ptr, ptr, ptr, i32)
 448
 449DEF_HELPER_FLAGS_3(sve_orv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 450DEF_HELPER_FLAGS_3(sve_orv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 451DEF_HELPER_FLAGS_3(sve_orv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 452DEF_HELPER_FLAGS_3(sve_orv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 453
 454DEF_HELPER_FLAGS_3(sve_eorv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 455DEF_HELPER_FLAGS_3(sve_eorv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 456DEF_HELPER_FLAGS_3(sve_eorv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 457DEF_HELPER_FLAGS_3(sve_eorv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 458
 459DEF_HELPER_FLAGS_3(sve_andv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 460DEF_HELPER_FLAGS_3(sve_andv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 461DEF_HELPER_FLAGS_3(sve_andv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 462DEF_HELPER_FLAGS_3(sve_andv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 463
 464DEF_HELPER_FLAGS_3(sve_saddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 465DEF_HELPER_FLAGS_3(sve_saddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 466DEF_HELPER_FLAGS_3(sve_saddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 467
 468DEF_HELPER_FLAGS_3(sve_uaddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 469DEF_HELPER_FLAGS_3(sve_uaddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 470DEF_HELPER_FLAGS_3(sve_uaddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 471DEF_HELPER_FLAGS_3(sve_uaddv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 472
 473DEF_HELPER_FLAGS_3(sve_smaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 474DEF_HELPER_FLAGS_3(sve_smaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 475DEF_HELPER_FLAGS_3(sve_smaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 476DEF_HELPER_FLAGS_3(sve_smaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 477
 478DEF_HELPER_FLAGS_3(sve_umaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 479DEF_HELPER_FLAGS_3(sve_umaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 480DEF_HELPER_FLAGS_3(sve_umaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 481DEF_HELPER_FLAGS_3(sve_umaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 482
 483DEF_HELPER_FLAGS_3(sve_sminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 484DEF_HELPER_FLAGS_3(sve_sminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 485DEF_HELPER_FLAGS_3(sve_sminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 486DEF_HELPER_FLAGS_3(sve_sminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 487
 488DEF_HELPER_FLAGS_3(sve_uminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 489DEF_HELPER_FLAGS_3(sve_uminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 490DEF_HELPER_FLAGS_3(sve_uminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 491DEF_HELPER_FLAGS_3(sve_uminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 492
 493DEF_HELPER_FLAGS_4(sve_movz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 494DEF_HELPER_FLAGS_4(sve_movz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 495DEF_HELPER_FLAGS_4(sve_movz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 496DEF_HELPER_FLAGS_4(sve_movz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 497
 498DEF_HELPER_FLAGS_4(sve_asr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 499DEF_HELPER_FLAGS_4(sve_asr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 500DEF_HELPER_FLAGS_4(sve_asr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 501DEF_HELPER_FLAGS_4(sve_asr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 502
 503DEF_HELPER_FLAGS_4(sve_lsr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 504DEF_HELPER_FLAGS_4(sve_lsr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 505DEF_HELPER_FLAGS_4(sve_lsr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 506DEF_HELPER_FLAGS_4(sve_lsr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 507
 508DEF_HELPER_FLAGS_4(sve_lsl_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 509DEF_HELPER_FLAGS_4(sve_lsl_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 510DEF_HELPER_FLAGS_4(sve_lsl_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 511DEF_HELPER_FLAGS_4(sve_lsl_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 512
 513DEF_HELPER_FLAGS_4(sve_asrd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 514DEF_HELPER_FLAGS_4(sve_asrd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 515DEF_HELPER_FLAGS_4(sve_asrd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 516DEF_HELPER_FLAGS_4(sve_asrd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 517
 518DEF_HELPER_FLAGS_4(sve_cls_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 519DEF_HELPER_FLAGS_4(sve_cls_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 520DEF_HELPER_FLAGS_4(sve_cls_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 521DEF_HELPER_FLAGS_4(sve_cls_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 522
 523DEF_HELPER_FLAGS_4(sve_clz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 524DEF_HELPER_FLAGS_4(sve_clz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 525DEF_HELPER_FLAGS_4(sve_clz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 526DEF_HELPER_FLAGS_4(sve_clz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 527
 528DEF_HELPER_FLAGS_4(sve_cnt_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 529DEF_HELPER_FLAGS_4(sve_cnt_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 530DEF_HELPER_FLAGS_4(sve_cnt_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 531DEF_HELPER_FLAGS_4(sve_cnt_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 532
 533DEF_HELPER_FLAGS_4(sve_cnot_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 534DEF_HELPER_FLAGS_4(sve_cnot_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 535DEF_HELPER_FLAGS_4(sve_cnot_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 536DEF_HELPER_FLAGS_4(sve_cnot_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 537
 538DEF_HELPER_FLAGS_4(sve_fabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 539DEF_HELPER_FLAGS_4(sve_fabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 540DEF_HELPER_FLAGS_4(sve_fabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 541
 542DEF_HELPER_FLAGS_4(sve_fneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 543DEF_HELPER_FLAGS_4(sve_fneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 544DEF_HELPER_FLAGS_4(sve_fneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 545
 546DEF_HELPER_FLAGS_4(sve_not_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 547DEF_HELPER_FLAGS_4(sve_not_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 548DEF_HELPER_FLAGS_4(sve_not_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 549DEF_HELPER_FLAGS_4(sve_not_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 550
 551DEF_HELPER_FLAGS_4(sve_sxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 552DEF_HELPER_FLAGS_4(sve_sxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 553DEF_HELPER_FLAGS_4(sve_sxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 554
 555DEF_HELPER_FLAGS_4(sve_uxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 556DEF_HELPER_FLAGS_4(sve_uxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 557DEF_HELPER_FLAGS_4(sve_uxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 558
 559DEF_HELPER_FLAGS_4(sve_sxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 560DEF_HELPER_FLAGS_4(sve_sxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 561
 562DEF_HELPER_FLAGS_4(sve_uxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 563DEF_HELPER_FLAGS_4(sve_uxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 564
 565DEF_HELPER_FLAGS_4(sve_sxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 566DEF_HELPER_FLAGS_4(sve_uxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 567
 568DEF_HELPER_FLAGS_4(sve_abs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 569DEF_HELPER_FLAGS_4(sve_abs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 570DEF_HELPER_FLAGS_4(sve_abs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 571DEF_HELPER_FLAGS_4(sve_abs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 572
 573DEF_HELPER_FLAGS_4(sve_neg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 574DEF_HELPER_FLAGS_4(sve_neg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 575DEF_HELPER_FLAGS_4(sve_neg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 576DEF_HELPER_FLAGS_4(sve_neg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 577
 578DEF_HELPER_FLAGS_6(sve_mla_b, TCG_CALL_NO_RWG,
 579                   void, ptr, ptr, ptr, ptr, ptr, i32)
 580DEF_HELPER_FLAGS_6(sve_mla_h, TCG_CALL_NO_RWG,
 581                   void, ptr, ptr, ptr, ptr, ptr, i32)
 582DEF_HELPER_FLAGS_6(sve_mla_s, TCG_CALL_NO_RWG,
 583                   void, ptr, ptr, ptr, ptr, ptr, i32)
 584DEF_HELPER_FLAGS_6(sve_mla_d, TCG_CALL_NO_RWG,
 585                   void, ptr, ptr, ptr, ptr, ptr, i32)
 586
 587DEF_HELPER_FLAGS_6(sve_mls_b, TCG_CALL_NO_RWG,
 588                   void, ptr, ptr, ptr, ptr, ptr, i32)
 589DEF_HELPER_FLAGS_6(sve_mls_h, TCG_CALL_NO_RWG,
 590                   void, ptr, ptr, ptr, ptr, ptr, i32)
 591DEF_HELPER_FLAGS_6(sve_mls_s, TCG_CALL_NO_RWG,
 592                   void, ptr, ptr, ptr, ptr, ptr, i32)
 593DEF_HELPER_FLAGS_6(sve_mls_d, TCG_CALL_NO_RWG,
 594                   void, ptr, ptr, ptr, ptr, ptr, i32)
 595
 596DEF_HELPER_FLAGS_4(sve_index_b, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
 597DEF_HELPER_FLAGS_4(sve_index_h, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
 598DEF_HELPER_FLAGS_4(sve_index_s, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
 599DEF_HELPER_FLAGS_4(sve_index_d, TCG_CALL_NO_RWG, void, ptr, i64, i64, i32)
 600
 601DEF_HELPER_FLAGS_4(sve_asr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 602DEF_HELPER_FLAGS_4(sve_asr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 603DEF_HELPER_FLAGS_4(sve_asr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 604
 605DEF_HELPER_FLAGS_4(sve_lsr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 606DEF_HELPER_FLAGS_4(sve_lsr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 607DEF_HELPER_FLAGS_4(sve_lsr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 608
 609DEF_HELPER_FLAGS_4(sve_lsl_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 610DEF_HELPER_FLAGS_4(sve_lsl_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 611DEF_HELPER_FLAGS_4(sve_lsl_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 612
 613DEF_HELPER_FLAGS_4(sve_adr_p32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 614DEF_HELPER_FLAGS_4(sve_adr_p64, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 615DEF_HELPER_FLAGS_4(sve_adr_s32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 616DEF_HELPER_FLAGS_4(sve_adr_u32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 617
 618DEF_HELPER_FLAGS_3(sve_fexpa_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 619DEF_HELPER_FLAGS_3(sve_fexpa_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 620DEF_HELPER_FLAGS_3(sve_fexpa_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 621
 622DEF_HELPER_FLAGS_4(sve_ftssel_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 623DEF_HELPER_FLAGS_4(sve_ftssel_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 624DEF_HELPER_FLAGS_4(sve_ftssel_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 625
 626DEF_HELPER_FLAGS_4(sve_sqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
 627DEF_HELPER_FLAGS_4(sve_sqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
 628DEF_HELPER_FLAGS_4(sve_sqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
 629DEF_HELPER_FLAGS_4(sve_sqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
 630
 631DEF_HELPER_FLAGS_4(sve_uqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
 632DEF_HELPER_FLAGS_4(sve_uqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
 633DEF_HELPER_FLAGS_4(sve_uqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
 634DEF_HELPER_FLAGS_4(sve_uqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 635DEF_HELPER_FLAGS_4(sve_uqsubi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 636
 637DEF_HELPER_FLAGS_5(sve_cpy_m_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
 638DEF_HELPER_FLAGS_5(sve_cpy_m_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
 639DEF_HELPER_FLAGS_5(sve_cpy_m_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
 640DEF_HELPER_FLAGS_5(sve_cpy_m_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
 641
 642DEF_HELPER_FLAGS_4(sve_cpy_z_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 643DEF_HELPER_FLAGS_4(sve_cpy_z_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 644DEF_HELPER_FLAGS_4(sve_cpy_z_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 645DEF_HELPER_FLAGS_4(sve_cpy_z_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 646
 647DEF_HELPER_FLAGS_4(sve_ext, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 648
 649DEF_HELPER_FLAGS_4(sve_insr_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 650DEF_HELPER_FLAGS_4(sve_insr_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 651DEF_HELPER_FLAGS_4(sve_insr_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 652DEF_HELPER_FLAGS_4(sve_insr_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 653
 654DEF_HELPER_FLAGS_3(sve_rev_b, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 655DEF_HELPER_FLAGS_3(sve_rev_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 656DEF_HELPER_FLAGS_3(sve_rev_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 657DEF_HELPER_FLAGS_3(sve_rev_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 658
 659DEF_HELPER_FLAGS_4(sve_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 660DEF_HELPER_FLAGS_4(sve_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 661DEF_HELPER_FLAGS_4(sve_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 662DEF_HELPER_FLAGS_4(sve_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 663
 664DEF_HELPER_FLAGS_5(sve2_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 665DEF_HELPER_FLAGS_5(sve2_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 666DEF_HELPER_FLAGS_5(sve2_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 667DEF_HELPER_FLAGS_5(sve2_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 668
 669DEF_HELPER_FLAGS_4(sve2_tbx_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 670DEF_HELPER_FLAGS_4(sve2_tbx_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 671DEF_HELPER_FLAGS_4(sve2_tbx_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 672DEF_HELPER_FLAGS_4(sve2_tbx_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 673
 674DEF_HELPER_FLAGS_3(sve_sunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 675DEF_HELPER_FLAGS_3(sve_sunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 676DEF_HELPER_FLAGS_3(sve_sunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 677
 678DEF_HELPER_FLAGS_3(sve_uunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 679DEF_HELPER_FLAGS_3(sve_uunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 680DEF_HELPER_FLAGS_3(sve_uunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 681
 682DEF_HELPER_FLAGS_4(sve_zip_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 683DEF_HELPER_FLAGS_4(sve_uzp_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 684DEF_HELPER_FLAGS_4(sve_trn_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 685DEF_HELPER_FLAGS_3(sve_rev_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 686DEF_HELPER_FLAGS_3(sve_punpk_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 687
 688DEF_HELPER_FLAGS_4(sve_zip_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 689DEF_HELPER_FLAGS_4(sve_zip_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 690DEF_HELPER_FLAGS_4(sve_zip_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 691DEF_HELPER_FLAGS_4(sve_zip_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 692DEF_HELPER_FLAGS_4(sve2_zip_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 693
 694DEF_HELPER_FLAGS_4(sve_uzp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 695DEF_HELPER_FLAGS_4(sve_uzp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 696DEF_HELPER_FLAGS_4(sve_uzp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 697DEF_HELPER_FLAGS_4(sve_uzp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 698DEF_HELPER_FLAGS_4(sve2_uzp_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 699
 700DEF_HELPER_FLAGS_4(sve_trn_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 701DEF_HELPER_FLAGS_4(sve_trn_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 702DEF_HELPER_FLAGS_4(sve_trn_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 703DEF_HELPER_FLAGS_4(sve_trn_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 704DEF_HELPER_FLAGS_4(sve2_trn_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 705
 706DEF_HELPER_FLAGS_4(sve_compact_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 707DEF_HELPER_FLAGS_4(sve_compact_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 708
 709DEF_HELPER_FLAGS_2(sve_last_active_element, TCG_CALL_NO_RWG, s32, ptr, i32)
 710
 711DEF_HELPER_FLAGS_4(sve_revb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 712DEF_HELPER_FLAGS_4(sve_revb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 713DEF_HELPER_FLAGS_4(sve_revb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 714
 715DEF_HELPER_FLAGS_4(sve_revh_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 716DEF_HELPER_FLAGS_4(sve_revh_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 717
 718DEF_HELPER_FLAGS_4(sve_revw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 719
 720DEF_HELPER_FLAGS_4(sve_rbit_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 721DEF_HELPER_FLAGS_4(sve_rbit_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 722DEF_HELPER_FLAGS_4(sve_rbit_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 723DEF_HELPER_FLAGS_4(sve_rbit_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 724
 725DEF_HELPER_FLAGS_4(sve2_sqabs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 726DEF_HELPER_FLAGS_4(sve2_sqabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 727DEF_HELPER_FLAGS_4(sve2_sqabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 728DEF_HELPER_FLAGS_4(sve2_sqabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 729
 730DEF_HELPER_FLAGS_4(sve2_sqneg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 731DEF_HELPER_FLAGS_4(sve2_sqneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 732DEF_HELPER_FLAGS_4(sve2_sqneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 733DEF_HELPER_FLAGS_4(sve2_sqneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 734
 735DEF_HELPER_FLAGS_4(sve2_urecpe_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 736DEF_HELPER_FLAGS_4(sve2_ursqrte_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 737
 738DEF_HELPER_FLAGS_5(sve_splice, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 739
 740DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_b, TCG_CALL_NO_RWG,
 741                   i32, ptr, ptr, ptr, ptr, i32)
 742DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_b, TCG_CALL_NO_RWG,
 743                   i32, ptr, ptr, ptr, ptr, i32)
 744DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_b, TCG_CALL_NO_RWG,
 745                   i32, ptr, ptr, ptr, ptr, i32)
 746DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_b, TCG_CALL_NO_RWG,
 747                   i32, ptr, ptr, ptr, ptr, i32)
 748DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_b, TCG_CALL_NO_RWG,
 749                   i32, ptr, ptr, ptr, ptr, i32)
 750DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_b, TCG_CALL_NO_RWG,
 751                   i32, ptr, ptr, ptr, ptr, i32)
 752
 753DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_h, TCG_CALL_NO_RWG,
 754                   i32, ptr, ptr, ptr, ptr, i32)
 755DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_h, TCG_CALL_NO_RWG,
 756                   i32, ptr, ptr, ptr, ptr, i32)
 757DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_h, TCG_CALL_NO_RWG,
 758                   i32, ptr, ptr, ptr, ptr, i32)
 759DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_h, TCG_CALL_NO_RWG,
 760                   i32, ptr, ptr, ptr, ptr, i32)
 761DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_h, TCG_CALL_NO_RWG,
 762                   i32, ptr, ptr, ptr, ptr, i32)
 763DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_h, TCG_CALL_NO_RWG,
 764                   i32, ptr, ptr, ptr, ptr, i32)
 765
 766DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_s, TCG_CALL_NO_RWG,
 767                   i32, ptr, ptr, ptr, ptr, i32)
 768DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_s, TCG_CALL_NO_RWG,
 769                   i32, ptr, ptr, ptr, ptr, i32)
 770DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_s, TCG_CALL_NO_RWG,
 771                   i32, ptr, ptr, ptr, ptr, i32)
 772DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_s, TCG_CALL_NO_RWG,
 773                   i32, ptr, ptr, ptr, ptr, i32)
 774DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_s, TCG_CALL_NO_RWG,
 775                   i32, ptr, ptr, ptr, ptr, i32)
 776DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_s, TCG_CALL_NO_RWG,
 777                   i32, ptr, ptr, ptr, ptr, i32)
 778
 779DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_d, TCG_CALL_NO_RWG,
 780                   i32, ptr, ptr, ptr, ptr, i32)
 781DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_d, TCG_CALL_NO_RWG,
 782                   i32, ptr, ptr, ptr, ptr, i32)
 783DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_d, TCG_CALL_NO_RWG,
 784                   i32, ptr, ptr, ptr, ptr, i32)
 785DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_d, TCG_CALL_NO_RWG,
 786                   i32, ptr, ptr, ptr, ptr, i32)
 787DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_d, TCG_CALL_NO_RWG,
 788                   i32, ptr, ptr, ptr, ptr, i32)
 789DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_d, TCG_CALL_NO_RWG,
 790                   i32, ptr, ptr, ptr, ptr, i32)
 791
 792DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_b, TCG_CALL_NO_RWG,
 793                   i32, ptr, ptr, ptr, ptr, i32)
 794DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_b, TCG_CALL_NO_RWG,
 795                   i32, ptr, ptr, ptr, ptr, i32)
 796DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_b, TCG_CALL_NO_RWG,
 797                   i32, ptr, ptr, ptr, ptr, i32)
 798DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_b, TCG_CALL_NO_RWG,
 799                   i32, ptr, ptr, ptr, ptr, i32)
 800DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_b, TCG_CALL_NO_RWG,
 801                   i32, ptr, ptr, ptr, ptr, i32)
 802DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_b, TCG_CALL_NO_RWG,
 803                   i32, ptr, ptr, ptr, ptr, i32)
 804DEF_HELPER_FLAGS_5(sve_cmple_ppzw_b, TCG_CALL_NO_RWG,
 805                   i32, ptr, ptr, ptr, ptr, i32)
 806DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_b, TCG_CALL_NO_RWG,
 807                   i32, ptr, ptr, ptr, ptr, i32)
 808DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_b, TCG_CALL_NO_RWG,
 809                   i32, ptr, ptr, ptr, ptr, i32)
 810DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_b, TCG_CALL_NO_RWG,
 811                   i32, ptr, ptr, ptr, ptr, i32)
 812
 813DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_h, TCG_CALL_NO_RWG,
 814                   i32, ptr, ptr, ptr, ptr, i32)
 815DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_h, TCG_CALL_NO_RWG,
 816                   i32, ptr, ptr, ptr, ptr, i32)
 817DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_h, TCG_CALL_NO_RWG,
 818                   i32, ptr, ptr, ptr, ptr, i32)
 819DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_h, TCG_CALL_NO_RWG,
 820                   i32, ptr, ptr, ptr, ptr, i32)
 821DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_h, TCG_CALL_NO_RWG,
 822                   i32, ptr, ptr, ptr, ptr, i32)
 823DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_h, TCG_CALL_NO_RWG,
 824                   i32, ptr, ptr, ptr, ptr, i32)
 825DEF_HELPER_FLAGS_5(sve_cmple_ppzw_h, TCG_CALL_NO_RWG,
 826                   i32, ptr, ptr, ptr, ptr, i32)
 827DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_h, TCG_CALL_NO_RWG,
 828                   i32, ptr, ptr, ptr, ptr, i32)
 829DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_h, TCG_CALL_NO_RWG,
 830                   i32, ptr, ptr, ptr, ptr, i32)
 831DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_h, TCG_CALL_NO_RWG,
 832                   i32, ptr, ptr, ptr, ptr, i32)
 833
 834DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_s, TCG_CALL_NO_RWG,
 835                   i32, ptr, ptr, ptr, ptr, i32)
 836DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_s, TCG_CALL_NO_RWG,
 837                   i32, ptr, ptr, ptr, ptr, i32)
 838DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_s, TCG_CALL_NO_RWG,
 839                   i32, ptr, ptr, ptr, ptr, i32)
 840DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_s, TCG_CALL_NO_RWG,
 841                   i32, ptr, ptr, ptr, ptr, i32)
 842DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_s, TCG_CALL_NO_RWG,
 843                   i32, ptr, ptr, ptr, ptr, i32)
 844DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_s, TCG_CALL_NO_RWG,
 845                   i32, ptr, ptr, ptr, ptr, i32)
 846DEF_HELPER_FLAGS_5(sve_cmple_ppzw_s, TCG_CALL_NO_RWG,
 847                   i32, ptr, ptr, ptr, ptr, i32)
 848DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_s, TCG_CALL_NO_RWG,
 849                   i32, ptr, ptr, ptr, ptr, i32)
 850DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_s, TCG_CALL_NO_RWG,
 851                   i32, ptr, ptr, ptr, ptr, i32)
 852DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_s, TCG_CALL_NO_RWG,
 853                   i32, ptr, ptr, ptr, ptr, i32)
 854
 855DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 856DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 857DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 858DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 859DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 860DEF_HELPER_FLAGS_4(sve_cmple_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 861DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 862DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 863DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 864DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 865
 866DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 867DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 868DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 869DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 870DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 871DEF_HELPER_FLAGS_4(sve_cmple_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 872DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 873DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 874DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 875DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 876
 877DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 878DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 879DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 880DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 881DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 882DEF_HELPER_FLAGS_4(sve_cmple_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 883DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 884DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 885DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 886DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 887
 888DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 889DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 890DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 891DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 892DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 893DEF_HELPER_FLAGS_4(sve_cmple_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 894DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 895DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 896DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 897DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 898
 899DEF_HELPER_FLAGS_5(sve_and_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 900DEF_HELPER_FLAGS_5(sve_bic_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 901DEF_HELPER_FLAGS_5(sve_eor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 902DEF_HELPER_FLAGS_5(sve_sel_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 903DEF_HELPER_FLAGS_5(sve_orr_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 904DEF_HELPER_FLAGS_5(sve_orn_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 905DEF_HELPER_FLAGS_5(sve_nor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 906DEF_HELPER_FLAGS_5(sve_nand_pppp, TCG_CALL_NO_RWG,
 907                   void, ptr, ptr, ptr, ptr, i32)
 908
 909DEF_HELPER_FLAGS_5(sve_brkpa, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 910DEF_HELPER_FLAGS_5(sve_brkpb, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 911DEF_HELPER_FLAGS_5(sve_brkpas, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
 912DEF_HELPER_FLAGS_5(sve_brkpbs, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
 913
 914DEF_HELPER_FLAGS_4(sve_brka_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 915DEF_HELPER_FLAGS_4(sve_brkb_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 916DEF_HELPER_FLAGS_4(sve_brka_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 917DEF_HELPER_FLAGS_4(sve_brkb_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 918
 919DEF_HELPER_FLAGS_4(sve_brkas_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 920DEF_HELPER_FLAGS_4(sve_brkbs_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 921DEF_HELPER_FLAGS_4(sve_brkas_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 922DEF_HELPER_FLAGS_4(sve_brkbs_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 923
 924DEF_HELPER_FLAGS_4(sve_brkn, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 925DEF_HELPER_FLAGS_4(sve_brkns, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 926
 927DEF_HELPER_FLAGS_3(sve_cntp, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 928
 929DEF_HELPER_FLAGS_3(sve_whilel, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
 930DEF_HELPER_FLAGS_3(sve_whileg, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
 931
 932DEF_HELPER_FLAGS_4(sve_subri_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 933DEF_HELPER_FLAGS_4(sve_subri_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 934DEF_HELPER_FLAGS_4(sve_subri_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 935DEF_HELPER_FLAGS_4(sve_subri_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 936
 937DEF_HELPER_FLAGS_4(sve_smaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 938DEF_HELPER_FLAGS_4(sve_smaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 939DEF_HELPER_FLAGS_4(sve_smaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 940DEF_HELPER_FLAGS_4(sve_smaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 941
 942DEF_HELPER_FLAGS_4(sve_smini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 943DEF_HELPER_FLAGS_4(sve_smini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 944DEF_HELPER_FLAGS_4(sve_smini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 945DEF_HELPER_FLAGS_4(sve_smini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 946
 947DEF_HELPER_FLAGS_4(sve_umaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 948DEF_HELPER_FLAGS_4(sve_umaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 949DEF_HELPER_FLAGS_4(sve_umaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 950DEF_HELPER_FLAGS_4(sve_umaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 951
 952DEF_HELPER_FLAGS_4(sve_umini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 953DEF_HELPER_FLAGS_4(sve_umini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 954DEF_HELPER_FLAGS_4(sve_umini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 955DEF_HELPER_FLAGS_4(sve_umini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 956
 957DEF_HELPER_FLAGS_5(gvec_recps_h, TCG_CALL_NO_RWG,
 958                   void, ptr, ptr, ptr, ptr, i32)
 959DEF_HELPER_FLAGS_5(gvec_recps_s, TCG_CALL_NO_RWG,
 960                   void, ptr, ptr, ptr, ptr, i32)
 961DEF_HELPER_FLAGS_5(gvec_recps_d, TCG_CALL_NO_RWG,
 962                   void, ptr, ptr, ptr, ptr, i32)
 963
 964DEF_HELPER_FLAGS_5(gvec_rsqrts_h, TCG_CALL_NO_RWG,
 965                   void, ptr, ptr, ptr, ptr, i32)
 966DEF_HELPER_FLAGS_5(gvec_rsqrts_s, TCG_CALL_NO_RWG,
 967                   void, ptr, ptr, ptr, ptr, i32)
 968DEF_HELPER_FLAGS_5(gvec_rsqrts_d, TCG_CALL_NO_RWG,
 969                   void, ptr, ptr, ptr, ptr, i32)
 970
 971DEF_HELPER_FLAGS_4(sve_faddv_h, TCG_CALL_NO_RWG,
 972                   i64, ptr, ptr, ptr, i32)
 973DEF_HELPER_FLAGS_4(sve_faddv_s, TCG_CALL_NO_RWG,
 974                   i64, ptr, ptr, ptr, i32)
 975DEF_HELPER_FLAGS_4(sve_faddv_d, TCG_CALL_NO_RWG,
 976                   i64, ptr, ptr, ptr, i32)
 977
 978DEF_HELPER_FLAGS_4(sve_fmaxnmv_h, TCG_CALL_NO_RWG,
 979                   i64, ptr, ptr, ptr, i32)
 980DEF_HELPER_FLAGS_4(sve_fmaxnmv_s, TCG_CALL_NO_RWG,
 981                   i64, ptr, ptr, ptr, i32)
 982DEF_HELPER_FLAGS_4(sve_fmaxnmv_d, TCG_CALL_NO_RWG,
 983                   i64, ptr, ptr, ptr, i32)
 984
 985DEF_HELPER_FLAGS_4(sve_fminnmv_h, TCG_CALL_NO_RWG,
 986                   i64, ptr, ptr, ptr, i32)
 987DEF_HELPER_FLAGS_4(sve_fminnmv_s, TCG_CALL_NO_RWG,
 988                   i64, ptr, ptr, ptr, i32)
 989DEF_HELPER_FLAGS_4(sve_fminnmv_d, TCG_CALL_NO_RWG,
 990                   i64, ptr, ptr, ptr, i32)
 991
 992DEF_HELPER_FLAGS_4(sve_fmaxv_h, TCG_CALL_NO_RWG,
 993                   i64, ptr, ptr, ptr, i32)
 994DEF_HELPER_FLAGS_4(sve_fmaxv_s, TCG_CALL_NO_RWG,
 995                   i64, ptr, ptr, ptr, i32)
 996DEF_HELPER_FLAGS_4(sve_fmaxv_d, TCG_CALL_NO_RWG,
 997                   i64, ptr, ptr, ptr, i32)
 998
 999DEF_HELPER_FLAGS_4(sve_fminv_h, TCG_CALL_NO_RWG,
1000                   i64, ptr, ptr, ptr, i32)

1001DEF_HELPER_FLAGS_4(sve_fminv_s, TCG_CALL_NO_RWG,
1002                   i64, ptr, ptr, ptr, i32)
1003DEF_HELPER_FLAGS_4(sve_fminv_d, TCG_CALL_NO_RWG,
1004                   i64, ptr, ptr, ptr, i32)
1005
1006DEF_HELPER_FLAGS_5(sve_fadda_h, TCG_CALL_NO_RWG,
1007                   i64, i64, ptr, ptr, ptr, i32)
1008DEF_HELPER_FLAGS_5(sve_fadda_s, TCG_CALL_NO_RWG,
1009                   i64, i64, ptr, ptr, ptr, i32)
1010DEF_HELPER_FLAGS_5(sve_fadda_d, TCG_CALL_NO_RWG,
1011                   i64, i64, ptr, ptr, ptr, i32)
1012
1013DEF_HELPER_FLAGS_5(sve_fcmge0_h, TCG_CALL_NO_RWG,
1014                   void, ptr, ptr, ptr, ptr, i32)
1015DEF_HELPER_FLAGS_5(sve_fcmge0_s, TCG_CALL_NO_RWG,
1016                   void, ptr, ptr, ptr, ptr, i32)
1017DEF_HELPER_FLAGS_5(sve_fcmge0_d, TCG_CALL_NO_RWG,
1018                   void, ptr, ptr, ptr, ptr, i32)
1019
1020DEF_HELPER_FLAGS_5(sve_fcmgt0_h, TCG_CALL_NO_RWG,
1021                   void, ptr, ptr, ptr, ptr, i32)
1022DEF_HELPER_FLAGS_5(sve_fcmgt0_s, TCG_CALL_NO_RWG,
1023                   void, ptr, ptr, ptr, ptr, i32)
1024DEF_HELPER_FLAGS_5(sve_fcmgt0_d, TCG_CALL_NO_RWG,
1025                   void, ptr, ptr, ptr, ptr, i32)
1026
1027DEF_HELPER_FLAGS_5(sve_fcmlt0_h, TCG_CALL_NO_RWG,
1028                   void, ptr, ptr, ptr, ptr, i32)
1029DEF_HELPER_FLAGS_5(sve_fcmlt0_s, TCG_CALL_NO_RWG,
1030                   void, ptr, ptr, ptr, ptr, i32)
1031DEF_HELPER_FLAGS_5(sve_fcmlt0_d, TCG_CALL_NO_RWG,
1032                   void, ptr, ptr, ptr, ptr, i32)
1033
1034DEF_HELPER_FLAGS_5(sve_fcmle0_h, TCG_CALL_NO_RWG,
1035                   void, ptr, ptr, ptr, ptr, i32)
1036DEF_HELPER_FLAGS_5(sve_fcmle0_s, TCG_CALL_NO_RWG,
1037                   void, ptr, ptr, ptr, ptr, i32)
1038DEF_HELPER_FLAGS_5(sve_fcmle0_d, TCG_CALL_NO_RWG,
1039                   void, ptr, ptr, ptr, ptr, i32)
1040
1041DEF_HELPER_FLAGS_5(sve_fcmeq0_h, TCG_CALL_NO_RWG,
1042                   void, ptr, ptr, ptr, ptr, i32)
1043DEF_HELPER_FLAGS_5(sve_fcmeq0_s, TCG_CALL_NO_RWG,
1044                   void, ptr, ptr, ptr, ptr, i32)
1045DEF_HELPER_FLAGS_5(sve_fcmeq0_d, TCG_CALL_NO_RWG,
1046                   void, ptr, ptr, ptr, ptr, i32)
1047
1048DEF_HELPER_FLAGS_5(sve_fcmne0_h, TCG_CALL_NO_RWG,
1049                   void, ptr, ptr, ptr, ptr, i32)
1050DEF_HELPER_FLAGS_5(sve_fcmne0_s, TCG_CALL_NO_RWG,
1051                   void, ptr, ptr, ptr, ptr, i32)
1052DEF_HELPER_FLAGS_5(sve_fcmne0_d, TCG_CALL_NO_RWG,
1053                   void, ptr, ptr, ptr, ptr, i32)
1054
1055DEF_HELPER_FLAGS_6(sve_fadd_h, TCG_CALL_NO_RWG,
1056                   void, ptr, ptr, ptr, ptr, ptr, i32)
1057DEF_HELPER_FLAGS_6(sve_fadd_s, TCG_CALL_NO_RWG,
1058                   void, ptr, ptr, ptr, ptr, ptr, i32)
1059DEF_HELPER_FLAGS_6(sve_fadd_d, TCG_CALL_NO_RWG,
1060                   void, ptr, ptr, ptr, ptr, ptr, i32)
1061
1062DEF_HELPER_FLAGS_6(sve_fsub_h, TCG_CALL_NO_RWG,
1063                   void, ptr, ptr, ptr, ptr, ptr, i32)
1064DEF_HELPER_FLAGS_6(sve_fsub_s, TCG_CALL_NO_RWG,
1065                   void, ptr, ptr, ptr, ptr, ptr, i32)
1066DEF_HELPER_FLAGS_6(sve_fsub_d, TCG_CALL_NO_RWG,
1067                   void, ptr, ptr, ptr, ptr, ptr, i32)
1068
1069DEF_HELPER_FLAGS_6(sve_fmul_h, TCG_CALL_NO_RWG,
1070                   void, ptr, ptr, ptr, ptr, ptr, i32)
1071DEF_HELPER_FLAGS_6(sve_fmul_s, TCG_CALL_NO_RWG,
1072                   void, ptr, ptr, ptr, ptr, ptr, i32)
1073DEF_HELPER_FLAGS_6(sve_fmul_d, TCG_CALL_NO_RWG,
1074                   void, ptr, ptr, ptr, ptr, ptr, i32)
1075
1076DEF_HELPER_FLAGS_6(sve_fdiv_h, TCG_CALL_NO_RWG,
1077                   void, ptr, ptr, ptr, ptr, ptr, i32)
1078DEF_HELPER_FLAGS_6(sve_fdiv_s, TCG_CALL_NO_RWG,
1079                   void, ptr, ptr, ptr, ptr, ptr, i32)
1080DEF_HELPER_FLAGS_6(sve_fdiv_d, TCG_CALL_NO_RWG,
1081                   void, ptr, ptr, ptr, ptr, ptr, i32)
1082
1083DEF_HELPER_FLAGS_6(sve_fmin_h, TCG_CALL_NO_RWG,
1084                   void, ptr, ptr, ptr, ptr, ptr, i32)
1085DEF_HELPER_FLAGS_6(sve_fmin_s, TCG_CALL_NO_RWG,
1086                   void, ptr, ptr, ptr, ptr, ptr, i32)
1087DEF_HELPER_FLAGS_6(sve_fmin_d, TCG_CALL_NO_RWG,
1088                   void, ptr, ptr, ptr, ptr, ptr, i32)
1089
1090DEF_HELPER_FLAGS_6(sve_fmax_h, TCG_CALL_NO_RWG,
1091                   void, ptr, ptr, ptr, ptr, ptr, i32)
1092DEF_HELPER_FLAGS_6(sve_fmax_s, TCG_CALL_NO_RWG,
1093                   void, ptr, ptr, ptr, ptr, ptr, i32)
1094DEF_HELPER_FLAGS_6(sve_fmax_d, TCG_CALL_NO_RWG,
1095                   void, ptr, ptr, ptr, ptr, ptr, i32)
1096
1097DEF_HELPER_FLAGS_6(sve_fminnum_h, TCG_CALL_NO_RWG,
1098                   void, ptr, ptr, ptr, ptr, ptr, i32)
1099DEF_HELPER_FLAGS_6(sve_fminnum_s, TCG_CALL_NO_RWG,
1100                   void, ptr, ptr, ptr, ptr, ptr, i32)
1101DEF_HELPER_FLAGS_6(sve_fminnum_d, TCG_CALL_NO_RWG,
1102                   void, ptr, ptr, ptr, ptr, ptr, i32)
1103
1104DEF_HELPER_FLAGS_6(sve_fmaxnum_h, TCG_CALL_NO_RWG,
1105                   void, ptr, ptr, ptr, ptr, ptr, i32)
1106DEF_HELPER_FLAGS_6(sve_fmaxnum_s, TCG_CALL_NO_RWG,
1107                   void, ptr, ptr, ptr, ptr, ptr, i32)
1108DEF_HELPER_FLAGS_6(sve_fmaxnum_d, TCG_CALL_NO_RWG,
1109                   void, ptr, ptr, ptr, ptr, ptr, i32)
1110
1111DEF_HELPER_FLAGS_6(sve_fabd_h, TCG_CALL_NO_RWG,
1112                   void, ptr, ptr, ptr, ptr, ptr, i32)
1113DEF_HELPER_FLAGS_6(sve_fabd_s, TCG_CALL_NO_RWG,
1114                   void, ptr, ptr, ptr, ptr, ptr, i32)
1115DEF_HELPER_FLAGS_6(sve_fabd_d, TCG_CALL_NO_RWG,
1116                   void, ptr, ptr, ptr, ptr, ptr, i32)
1117
1118DEF_HELPER_FLAGS_6(sve_fscalbn_h, TCG_CALL_NO_RWG,
1119                   void, ptr, ptr, ptr, ptr, ptr, i32)
1120DEF_HELPER_FLAGS_6(sve_fscalbn_s, TCG_CALL_NO_RWG,
1121                   void, ptr, ptr, ptr, ptr, ptr, i32)
1122DEF_HELPER_FLAGS_6(sve_fscalbn_d, TCG_CALL_NO_RWG,
1123                   void, ptr, ptr, ptr, ptr, ptr, i32)
1124
1125DEF_HELPER_FLAGS_6(sve_fmulx_h, TCG_CALL_NO_RWG,
1126                   void, ptr, ptr, ptr, ptr, ptr, i32)
1127DEF_HELPER_FLAGS_6(sve_fmulx_s, TCG_CALL_NO_RWG,
1128                   void, ptr, ptr, ptr, ptr, ptr, i32)
1129DEF_HELPER_FLAGS_6(sve_fmulx_d, TCG_CALL_NO_RWG,
1130                   void, ptr, ptr, ptr, ptr, ptr, i32)
1131
1132DEF_HELPER_FLAGS_6(sve_fadds_h, TCG_CALL_NO_RWG,
1133                   void, ptr, ptr, ptr, i64, ptr, i32)
1134DEF_HELPER_FLAGS_6(sve_fadds_s, TCG_CALL_NO_RWG,
1135                   void, ptr, ptr, ptr, i64, ptr, i32)
1136DEF_HELPER_FLAGS_6(sve_fadds_d, TCG_CALL_NO_RWG,
1137                   void, ptr, ptr, ptr, i64, ptr, i32)
1138
1139DEF_HELPER_FLAGS_6(sve_fsubs_h, TCG_CALL_NO_RWG,
1140                   void, ptr, ptr, ptr, i64, ptr, i32)
1141DEF_HELPER_FLAGS_6(sve_fsubs_s, TCG_CALL_NO_RWG,
1142                   void, ptr, ptr, ptr, i64, ptr, i32)
1143DEF_HELPER_FLAGS_6(sve_fsubs_d, TCG_CALL_NO_RWG,
1144                   void, ptr, ptr, ptr, i64, ptr, i32)
1145
1146DEF_HELPER_FLAGS_6(sve_fmuls_h, TCG_CALL_NO_RWG,
1147                   void, ptr, ptr, ptr, i64, ptr, i32)
1148DEF_HELPER_FLAGS_6(sve_fmuls_s, TCG_CALL_NO_RWG,
1149                   void, ptr, ptr, ptr, i64, ptr, i32)
1150DEF_HELPER_FLAGS_6(sve_fmuls_d, TCG_CALL_NO_RWG,
1151                   void, ptr, ptr, ptr, i64, ptr, i32)
1152
1153DEF_HELPER_FLAGS_6(sve_fsubrs_h, TCG_CALL_NO_RWG,
1154                   void, ptr, ptr, ptr, i64, ptr, i32)
1155DEF_HELPER_FLAGS_6(sve_fsubrs_s, TCG_CALL_NO_RWG,
1156                   void, ptr, ptr, ptr, i64, ptr, i32)
1157DEF_HELPER_FLAGS_6(sve_fsubrs_d, TCG_CALL_NO_RWG,
1158                   void, ptr, ptr, ptr, i64, ptr, i32)
1159
1160DEF_HELPER_FLAGS_6(sve_fmaxnms_h, TCG_CALL_NO_RWG,
1161                   void, ptr, ptr, ptr, i64, ptr, i32)
1162DEF_HELPER_FLAGS_6(sve_fmaxnms_s, TCG_CALL_NO_RWG,
1163                   void, ptr, ptr, ptr, i64, ptr, i32)
1164DEF_HELPER_FLAGS_6(sve_fmaxnms_d, TCG_CALL_NO_RWG,
1165                   void, ptr, ptr, ptr, i64, ptr, i32)
1166
1167DEF_HELPER_FLAGS_6(sve_fminnms_h, TCG_CALL_NO_RWG,
1168                   void, ptr, ptr, ptr, i64, ptr, i32)
1169DEF_HELPER_FLAGS_6(sve_fminnms_s, TCG_CALL_NO_RWG,
1170                   void, ptr, ptr, ptr, i64, ptr, i32)
1171DEF_HELPER_FLAGS_6(sve_fminnms_d, TCG_CALL_NO_RWG,
1172                   void, ptr, ptr, ptr, i64, ptr, i32)
1173
1174DEF_HELPER_FLAGS_6(sve_fmaxs_h, TCG_CALL_NO_RWG,
1175                   void, ptr, ptr, ptr, i64, ptr, i32)
1176DEF_HELPER_FLAGS_6(sve_fmaxs_s, TCG_CALL_NO_RWG,
1177                   void, ptr, ptr, ptr, i64, ptr, i32)
1178DEF_HELPER_FLAGS_6(sve_fmaxs_d, TCG_CALL_NO_RWG,
1179                   void, ptr, ptr, ptr, i64, ptr, i32)
1180
1181DEF_HELPER_FLAGS_6(sve_fmins_h, TCG_CALL_NO_RWG,
1182                   void, ptr, ptr, ptr, i64, ptr, i32)
1183DEF_HELPER_FLAGS_6(sve_fmins_s, TCG_CALL_NO_RWG,
1184                   void, ptr, ptr, ptr, i64, ptr, i32)
1185DEF_HELPER_FLAGS_6(sve_fmins_d, TCG_CALL_NO_RWG,
1186                   void, ptr, ptr, ptr, i64, ptr, i32)
1187
1188DEF_HELPER_FLAGS_5(sve_fcvt_sh, TCG_CALL_NO_RWG,
1189                   void, ptr, ptr, ptr, ptr, i32)
1190DEF_HELPER_FLAGS_5(sve_fcvt_dh, TCG_CALL_NO_RWG,
1191                   void, ptr, ptr, ptr, ptr, i32)
1192DEF_HELPER_FLAGS_5(sve_fcvt_hs, TCG_CALL_NO_RWG,
1193                   void, ptr, ptr, ptr, ptr, i32)
1194DEF_HELPER_FLAGS_5(sve_fcvt_ds, TCG_CALL_NO_RWG,
1195                   void, ptr, ptr, ptr, ptr, i32)
1196DEF_HELPER_FLAGS_5(sve_fcvt_hd, TCG_CALL_NO_RWG,
1197                   void, ptr, ptr, ptr, ptr, i32)
1198DEF_HELPER_FLAGS_5(sve_fcvt_sd, TCG_CALL_NO_RWG,
1199                   void, ptr, ptr, ptr, ptr, i32)
1200DEF_HELPER_FLAGS_5(sve_bfcvt, TCG_CALL_NO_RWG,
1201                   void, ptr, ptr, ptr, ptr, i32)
1202
1203DEF_HELPER_FLAGS_5(sve_fcvtzs_hh, TCG_CALL_NO_RWG,
1204                   void, ptr, ptr, ptr, ptr, i32)
1205DEF_HELPER_FLAGS_5(sve_fcvtzs_hs, TCG_CALL_NO_RWG,
1206                   void, ptr, ptr, ptr, ptr, i32)
1207DEF_HELPER_FLAGS_5(sve_fcvtzs_ss, TCG_CALL_NO_RWG,
1208                   void, ptr, ptr, ptr, ptr, i32)
1209DEF_HELPER_FLAGS_5(sve_fcvtzs_ds, TCG_CALL_NO_RWG,
1210                   void, ptr, ptr, ptr, ptr, i32)
1211DEF_HELPER_FLAGS_5(sve_fcvtzs_hd, TCG_CALL_NO_RWG,
1212                   void, ptr, ptr, ptr, ptr, i32)
1213DEF_HELPER_FLAGS_5(sve_fcvtzs_sd, TCG_CALL_NO_RWG,
1214                   void, ptr, ptr, ptr, ptr, i32)
1215DEF_HELPER_FLAGS_5(sve_fcvtzs_dd, TCG_CALL_NO_RWG,
1216                   void, ptr, ptr, ptr, ptr, i32)
1217
1218DEF_HELPER_FLAGS_5(sve_fcvtzu_hh, TCG_CALL_NO_RWG,
1219                   void, ptr, ptr, ptr, ptr, i32)
1220DEF_HELPER_FLAGS_5(sve_fcvtzu_hs, TCG_CALL_NO_RWG,
1221                   void, ptr, ptr, ptr, ptr, i32)
1222DEF_HELPER_FLAGS_5(sve_fcvtzu_ss, TCG_CALL_NO_RWG,
1223                   void, ptr, ptr, ptr, ptr, i32)
1224DEF_HELPER_FLAGS_5(sve_fcvtzu_ds, TCG_CALL_NO_RWG,
1225                   void, ptr, ptr, ptr, ptr, i32)
1226DEF_HELPER_FLAGS_5(sve_fcvtzu_hd, TCG_CALL_NO_RWG,
1227                   void, ptr, ptr, ptr, ptr, i32)
1228DEF_HELPER_FLAGS_5(sve_fcvtzu_sd, TCG_CALL_NO_RWG,
1229                   void, ptr, ptr, ptr, ptr, i32)
1230DEF_HELPER_FLAGS_5(sve_fcvtzu_dd, TCG_CALL_NO_RWG,
1231                   void, ptr, ptr, ptr, ptr, i32)
1232
1233DEF_HELPER_FLAGS_5(sve_frint_h, TCG_CALL_NO_RWG,
1234                   void, ptr, ptr, ptr, ptr, i32)
1235DEF_HELPER_FLAGS_5(sve_frint_s, TCG_CALL_NO_RWG,
1236                   void, ptr, ptr, ptr, ptr, i32)
1237DEF_HELPER_FLAGS_5(sve_frint_d, TCG_CALL_NO_RWG,
1238                   void, ptr, ptr, ptr, ptr, i32)
1239
1240DEF_HELPER_FLAGS_5(sve_frintx_h, TCG_CALL_NO_RWG,
1241                   void, ptr, ptr, ptr, ptr, i32)
1242DEF_HELPER_FLAGS_5(sve_frintx_s, TCG_CALL_NO_RWG,
1243                   void, ptr, ptr, ptr, ptr, i32)
1244DEF_HELPER_FLAGS_5(sve_frintx_d, TCG_CALL_NO_RWG,
1245                   void, ptr, ptr, ptr, ptr, i32)
1246
1247DEF_HELPER_FLAGS_5(sve_frecpx_h, TCG_CALL_NO_RWG,
1248                   void, ptr, ptr, ptr, ptr, i32)
1249DEF_HELPER_FLAGS_5(sve_frecpx_s, TCG_CALL_NO_RWG,
1250                   void, ptr, ptr, ptr, ptr, i32)
1251DEF_HELPER_FLAGS_5(sve_frecpx_d, TCG_CALL_NO_RWG,
1252                   void, ptr, ptr, ptr, ptr, i32)
1253
1254DEF_HELPER_FLAGS_5(sve_fsqrt_h, TCG_CALL_NO_RWG,
1255                   void, ptr, ptr, ptr, ptr, i32)
1256DEF_HELPER_FLAGS_5(sve_fsqrt_s, TCG_CALL_NO_RWG,
1257                   void, ptr, ptr, ptr, ptr, i32)
1258DEF_HELPER_FLAGS_5(sve_fsqrt_d, TCG_CALL_NO_RWG,
1259                   void, ptr, ptr, ptr, ptr, i32)
1260
1261DEF_HELPER_FLAGS_5(sve_scvt_hh, TCG_CALL_NO_RWG,
1262                   void, ptr, ptr, ptr, ptr, i32)
1263DEF_HELPER_FLAGS_5(sve_scvt_sh, TCG_CALL_NO_RWG,
1264                   void, ptr, ptr, ptr, ptr, i32)
1265DEF_HELPER_FLAGS_5(sve_scvt_dh, TCG_CALL_NO_RWG,
1266                   void, ptr, ptr, ptr, ptr, i32)
1267DEF_HELPER_FLAGS_5(sve_scvt_ss, TCG_CALL_NO_RWG,
1268                   void, ptr, ptr, ptr, ptr, i32)
1269DEF_HELPER_FLAGS_5(sve_scvt_sd, TCG_CALL_NO_RWG,
1270                   void, ptr, ptr, ptr, ptr, i32)
1271DEF_HELPER_FLAGS_5(sve_scvt_ds, TCG_CALL_NO_RWG,
1272                   void, ptr, ptr, ptr, ptr, i32)
1273DEF_HELPER_FLAGS_5(sve_scvt_dd, TCG_CALL_NO_RWG,
1274                   void, ptr, ptr, ptr, ptr, i32)
1275
1276DEF_HELPER_FLAGS_5(sve_ucvt_hh, TCG_CALL_NO_RWG,
1277                   void, ptr, ptr, ptr, ptr, i32)
1278DEF_HELPER_FLAGS_5(sve_ucvt_sh, TCG_CALL_NO_RWG,
1279                   void, ptr, ptr, ptr, ptr, i32)
1280DEF_HELPER_FLAGS_5(sve_ucvt_dh, TCG_CALL_NO_RWG,
1281                   void, ptr, ptr, ptr, ptr, i32)
1282DEF_HELPER_FLAGS_5(sve_ucvt_ss, TCG_CALL_NO_RWG,
1283                   void, ptr, ptr, ptr, ptr, i32)
1284DEF_HELPER_FLAGS_5(sve_ucvt_sd, TCG_CALL_NO_RWG,
1285                   void, ptr, ptr, ptr, ptr, i32)
1286DEF_HELPER_FLAGS_5(sve_ucvt_ds, TCG_CALL_NO_RWG,
1287                   void, ptr, ptr, ptr, ptr, i32)
1288DEF_HELPER_FLAGS_5(sve_ucvt_dd, TCG_CALL_NO_RWG,
1289                   void, ptr, ptr, ptr, ptr, i32)
1290
1291DEF_HELPER_FLAGS_6(sve_fcmge_h, TCG_CALL_NO_RWG,
1292                   void, ptr, ptr, ptr, ptr, ptr, i32)
1293DEF_HELPER_FLAGS_6(sve_fcmge_s, TCG_CALL_NO_RWG,
1294                   void, ptr, ptr, ptr, ptr, ptr, i32)
1295DEF_HELPER_FLAGS_6(sve_fcmge_d, TCG_CALL_NO_RWG,
1296                   void, ptr, ptr, ptr, ptr, ptr, i32)
1297
1298DEF_HELPER_FLAGS_6(sve_fcmgt_h, TCG_CALL_NO_RWG,
1299                   void, ptr, ptr, ptr, ptr, ptr, i32)
1300DEF_HELPER_FLAGS_6(sve_fcmgt_s, TCG_CALL_NO_RWG,
1301                   void, ptr, ptr, ptr, ptr, ptr, i32)
1302DEF_HELPER_FLAGS_6(sve_fcmgt_d, TCG_CALL_NO_RWG,
1303                   void, ptr, ptr, ptr, ptr, ptr, i32)
1304
1305DEF_HELPER_FLAGS_6(sve_fcmeq_h, TCG_CALL_NO_RWG,
1306                   void, ptr, ptr, ptr, ptr, ptr, i32)
1307DEF_HELPER_FLAGS_6(sve_fcmeq_s, TCG_CALL_NO_RWG,
1308                   void, ptr, ptr, ptr, ptr, ptr, i32)
1309DEF_HELPER_FLAGS_6(sve_fcmeq_d, TCG_CALL_NO_RWG,
1310                   void, ptr, ptr, ptr, ptr, ptr, i32)
1311
1312DEF_HELPER_FLAGS_6(sve_fcmne_h, TCG_CALL_NO_RWG,
1313                   void, ptr, ptr, ptr, ptr, ptr, i32)
1314DEF_HELPER_FLAGS_6(sve_fcmne_s, TCG_CALL_NO_RWG,
1315                   void, ptr, ptr, ptr, ptr, ptr, i32)
1316DEF_HELPER_FLAGS_6(sve_fcmne_d, TCG_CALL_NO_RWG,
1317                   void, ptr, ptr, ptr, ptr, ptr, i32)
1318
1319DEF_HELPER_FLAGS_6(sve_fcmuo_h, TCG_CALL_NO_RWG,
1320                   void, ptr, ptr, ptr, ptr, ptr, i32)
1321DEF_HELPER_FLAGS_6(sve_fcmuo_s, TCG_CALL_NO_RWG,
1322                   void, ptr, ptr, ptr, ptr, ptr, i32)
1323DEF_HELPER_FLAGS_6(sve_fcmuo_d, TCG_CALL_NO_RWG,
1324                   void, ptr, ptr, ptr, ptr, ptr, i32)
1325
1326DEF_HELPER_FLAGS_6(sve_facge_h, TCG_CALL_NO_RWG,
1327                   void, ptr, ptr, ptr, ptr, ptr, i32)
1328DEF_HELPER_FLAGS_6(sve_facge_s, TCG_CALL_NO_RWG,
1329                   void, ptr, ptr, ptr, ptr, ptr, i32)
1330DEF_HELPER_FLAGS_6(sve_facge_d, TCG_CALL_NO_RWG,
1331                   void, ptr, ptr, ptr, ptr, ptr, i32)
1332
1333DEF_HELPER_FLAGS_6(sve_facgt_h, TCG_CALL_NO_RWG,
1334                   void, ptr, ptr, ptr, ptr, ptr, i32)
1335DEF_HELPER_FLAGS_6(sve_facgt_s, TCG_CALL_NO_RWG,
1336                   void, ptr, ptr, ptr, ptr, ptr, i32)
1337DEF_HELPER_FLAGS_6(sve_facgt_d, TCG_CALL_NO_RWG,
1338                   void, ptr, ptr, ptr, ptr, ptr, i32)
1339
1340DEF_HELPER_FLAGS_6(sve_fcadd_h, TCG_CALL_NO_RWG,
1341                   void, ptr, ptr, ptr, ptr, ptr, i32)
1342DEF_HELPER_FLAGS_6(sve_fcadd_s, TCG_CALL_NO_RWG,
1343                   void, ptr, ptr, ptr, ptr, ptr, i32)
1344DEF_HELPER_FLAGS_6(sve_fcadd_d, TCG_CALL_NO_RWG,
1345                   void, ptr, ptr, ptr, ptr, ptr, i32)
1346
1347DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_h, TCG_CALL_NO_RWG,
1348                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1349DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_s, TCG_CALL_NO_RWG,
1350                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1351DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_d, TCG_CALL_NO_RWG,
1352                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1353
1354DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_h, TCG_CALL_NO_RWG,
1355                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1356DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_s, TCG_CALL_NO_RWG,
1357                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1358DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_d, TCG_CALL_NO_RWG,
1359                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1360
1361DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_h, TCG_CALL_NO_RWG,
1362                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1363DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_s, TCG_CALL_NO_RWG,
1364                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1365DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_d, TCG_CALL_NO_RWG,
1366                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1367
1368DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_h, TCG_CALL_NO_RWG,
1369                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1370DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_s, TCG_CALL_NO_RWG,
1371                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1372DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_d, TCG_CALL_NO_RWG,
1373                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1374
1375DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_h, TCG_CALL_NO_RWG,
1376                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1377DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_s, TCG_CALL_NO_RWG,
1378                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1379DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_d, TCG_CALL_NO_RWG,
1380                   void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1381
1382DEF_HELPER_FLAGS_5(sve_ftmad_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
1383DEF_HELPER_FLAGS_5(sve_ftmad_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
1384DEF_HELPER_FLAGS_5(sve_ftmad_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
1385
1386DEF_HELPER_FLAGS_4(sve2_saddl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1387DEF_HELPER_FLAGS_4(sve2_saddl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1388DEF_HELPER_FLAGS_4(sve2_saddl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1389
1390DEF_HELPER_FLAGS_4(sve2_ssubl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1391DEF_HELPER_FLAGS_4(sve2_ssubl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1392DEF_HELPER_FLAGS_4(sve2_ssubl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1393
1394DEF_HELPER_FLAGS_4(sve2_sabdl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1395DEF_HELPER_FLAGS_4(sve2_sabdl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1396DEF_HELPER_FLAGS_4(sve2_sabdl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1397
1398DEF_HELPER_FLAGS_4(sve2_uaddl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1399DEF_HELPER_FLAGS_4(sve2_uaddl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1400DEF_HELPER_FLAGS_4(sve2_uaddl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1401
1402DEF_HELPER_FLAGS_4(sve2_usubl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1403DEF_HELPER_FLAGS_4(sve2_usubl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1404DEF_HELPER_FLAGS_4(sve2_usubl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1405
1406DEF_HELPER_FLAGS_4(sve2_uabdl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1407DEF_HELPER_FLAGS_4(sve2_uabdl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1408DEF_HELPER_FLAGS_4(sve2_uabdl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1409
1410DEF_HELPER_FLAGS_4(sve2_saddw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1411DEF_HELPER_FLAGS_4(sve2_saddw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1412DEF_HELPER_FLAGS_4(sve2_saddw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1413
1414DEF_HELPER_FLAGS_4(sve2_ssubw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1415DEF_HELPER_FLAGS_4(sve2_ssubw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1416DEF_HELPER_FLAGS_4(sve2_ssubw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1417
1418DEF_HELPER_FLAGS_4(sve2_uaddw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1419DEF_HELPER_FLAGS_4(sve2_uaddw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1420DEF_HELPER_FLAGS_4(sve2_uaddw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1421
1422DEF_HELPER_FLAGS_4(sve2_usubw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1423DEF_HELPER_FLAGS_4(sve2_usubw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1424DEF_HELPER_FLAGS_4(sve2_usubw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
1425
1426DEF_HELPER_FLAGS_4(sve_ld1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1427DEF_HELPER_FLAGS_4(sve_ld2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1428DEF_HELPER_FLAGS_4(sve_ld3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1429DEF_HELPER_FLAGS_4(sve_ld4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1430
1431DEF_HELPER_FLAGS_4(sve_ld1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1432DEF_HELPER_FLAGS_4(sve_ld2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1433DEF_HELPER_FLAGS_4(sve_ld3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1434DEF_HELPER_FLAGS_4(sve_ld4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1435
1436DEF_HELPER_FLAGS_4(sve_ld1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1437DEF_HELPER_FLAGS_4(sve_ld2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1438DEF_HELPER_FLAGS_4(sve_ld3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1439DEF_HELPER_FLAGS_4(sve_ld4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1440
1441DEF_HELPER_FLAGS_4(sve_ld1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1442DEF_HELPER_FLAGS_4(sve_ld2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1443DEF_HELPER_FLAGS_4(sve_ld3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1444DEF_HELPER_FLAGS_4(sve_ld4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1445
1446DEF_HELPER_FLAGS_4(sve_ld1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1447DEF_HELPER_FLAGS_4(sve_ld2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1448DEF_HELPER_FLAGS_4(sve_ld3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1449DEF_HELPER_FLAGS_4(sve_ld4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1450
1451DEF_HELPER_FLAGS_4(sve_ld1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1452DEF_HELPER_FLAGS_4(sve_ld2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1453DEF_HELPER_FLAGS_4(sve_ld3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1454DEF_HELPER_FLAGS_4(sve_ld4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1455
1456DEF_HELPER_FLAGS_4(sve_ld1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1457DEF_HELPER_FLAGS_4(sve_ld2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1458DEF_HELPER_FLAGS_4(sve_ld3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1459DEF_HELPER_FLAGS_4(sve_ld4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1460
1461DEF_HELPER_FLAGS_4(sve_ld1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1462DEF_HELPER_FLAGS_4(sve_ld1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1463DEF_HELPER_FLAGS_4(sve_ld1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1464DEF_HELPER_FLAGS_4(sve_ld1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1465DEF_HELPER_FLAGS_4(sve_ld1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1466DEF_HELPER_FLAGS_4(sve_ld1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1467
1468DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1469DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1470DEF_HELPER_FLAGS_4(sve_ld1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1471DEF_HELPER_FLAGS_4(sve_ld1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1472
1473DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1474DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1475DEF_HELPER_FLAGS_4(sve_ld1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1476DEF_HELPER_FLAGS_4(sve_ld1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1477
1478DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1479DEF_HELPER_FLAGS_4(sve_ld1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1480
1481DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1482DEF_HELPER_FLAGS_4(sve_ld1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1483
1484DEF_HELPER_FLAGS_4(sve_ld1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1485DEF_HELPER_FLAGS_4(sve_ld2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1486DEF_HELPER_FLAGS_4(sve_ld3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1487DEF_HELPER_FLAGS_4(sve_ld4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1488
1489DEF_HELPER_FLAGS_4(sve_ld1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1490DEF_HELPER_FLAGS_4(sve_ld2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1491DEF_HELPER_FLAGS_4(sve_ld3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1492DEF_HELPER_FLAGS_4(sve_ld4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1493
1494DEF_HELPER_FLAGS_4(sve_ld1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1495DEF_HELPER_FLAGS_4(sve_ld2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1496DEF_HELPER_FLAGS_4(sve_ld3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1497DEF_HELPER_FLAGS_4(sve_ld4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1498
1499DEF_HELPER_FLAGS_4(sve_ld1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1500DEF_HELPER_FLAGS_4(sve_ld2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1501DEF_HELPER_FLAGS_4(sve_ld3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1502DEF_HELPER_FLAGS_4(sve_ld4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1503
1504DEF_HELPER_FLAGS_4(sve_ld1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1505DEF_HELPER_FLAGS_4(sve_ld2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1506DEF_HELPER_FLAGS_4(sve_ld3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1507DEF_HELPER_FLAGS_4(sve_ld4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1508
1509DEF_HELPER_FLAGS_4(sve_ld1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1510DEF_HELPER_FLAGS_4(sve_ld2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1511DEF_HELPER_FLAGS_4(sve_ld3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1512DEF_HELPER_FLAGS_4(sve_ld4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1513
1514DEF_HELPER_FLAGS_4(sve_ld1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1515DEF_HELPER_FLAGS_4(sve_ld2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1516DEF_HELPER_FLAGS_4(sve_ld3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1517DEF_HELPER_FLAGS_4(sve_ld4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1518
1519DEF_HELPER_FLAGS_4(sve_ld1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1520DEF_HELPER_FLAGS_4(sve_ld1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1521DEF_HELPER_FLAGS_4(sve_ld1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1522DEF_HELPER_FLAGS_4(sve_ld1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1523DEF_HELPER_FLAGS_4(sve_ld1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1524DEF_HELPER_FLAGS_4(sve_ld1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1525
1526DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1527DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1528DEF_HELPER_FLAGS_4(sve_ld1hss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1529DEF_HELPER_FLAGS_4(sve_ld1hds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1530
1531DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1532DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1533DEF_HELPER_FLAGS_4(sve_ld1hss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1534DEF_HELPER_FLAGS_4(sve_ld1hds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1535
1536DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1537DEF_HELPER_FLAGS_4(sve_ld1sds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1538
1539DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1540DEF_HELPER_FLAGS_4(sve_ld1sds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1541
1542DEF_HELPER_FLAGS_4(sve_ldff1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1543DEF_HELPER_FLAGS_4(sve_ldff1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1544DEF_HELPER_FLAGS_4(sve_ldff1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1545DEF_HELPER_FLAGS_4(sve_ldff1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1546DEF_HELPER_FLAGS_4(sve_ldff1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1547DEF_HELPER_FLAGS_4(sve_ldff1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1548DEF_HELPER_FLAGS_4(sve_ldff1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1549
1550DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1551DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1552DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1553DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1554DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1555
1556DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1557DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1558DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1559DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1560DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1561
1562DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1563DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1564DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1565
1566DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1567DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1568DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1569
1570DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1571DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1572
1573DEF_HELPER_FLAGS_4(sve_ldff1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1574DEF_HELPER_FLAGS_4(sve_ldff1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1575DEF_HELPER_FLAGS_4(sve_ldff1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1576DEF_HELPER_FLAGS_4(sve_ldff1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1577DEF_HELPER_FLAGS_4(sve_ldff1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1578DEF_HELPER_FLAGS_4(sve_ldff1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1579DEF_HELPER_FLAGS_4(sve_ldff1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1580
1581DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r_mte, TCG_CALL_NO_WG,
1582                   void, env, ptr, tl, i32)
1583DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r_mte, TCG_CALL_NO_WG,
1584                   void, env, ptr, tl, i32)
1585DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r_mte, TCG_CALL_NO_WG,
1586                   void, env, ptr, tl, i32)
1587DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r_mte, TCG_CALL_NO_WG,
1588                   void, env, ptr, tl, i32)
1589DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r_mte, TCG_CALL_NO_WG,
1590                   void, env, ptr, tl, i32)
1591
1592DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r_mte, TCG_CALL_NO_WG,
1593                   void, env, ptr, tl, i32)
1594DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r_mte, TCG_CALL_NO_WG,
1595                   void, env, ptr, tl, i32)
1596DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r_mte, TCG_CALL_NO_WG,
1597                   void, env, ptr, tl, i32)
1598DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r_mte, TCG_CALL_NO_WG,
1599                   void, env, ptr, tl, i32)
1600DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r_mte, TCG_CALL_NO_WG,
1601                   void, env, ptr, tl, i32)
1602
1603DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r_mte, TCG_CALL_NO_WG,
1604                   void, env, ptr, tl, i32)
1605DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r_mte, TCG_CALL_NO_WG,
1606                   void, env, ptr, tl, i32)
1607DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r_mte, TCG_CALL_NO_WG,
1608                   void, env, ptr, tl, i32)
1609
1610DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r_mte, TCG_CALL_NO_WG,
1611                   void, env, ptr, tl, i32)
1612DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r_mte, TCG_CALL_NO_WG,
1613                   void, env, ptr, tl, i32)
1614DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r_mte, TCG_CALL_NO_WG,
1615                   void, env, ptr, tl, i32)
1616
1617DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r_mte, TCG_CALL_NO_WG,
1618                   void, env, ptr, tl, i32)
1619DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r_mte, TCG_CALL_NO_WG,
1620                   void, env, ptr, tl, i32)
1621
1622DEF_HELPER_FLAGS_4(sve_ldnf1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1623DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1624DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1625DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1626DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1627DEF_HELPER_FLAGS_4(sve_ldnf1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1628DEF_HELPER_FLAGS_4(sve_ldnf1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1629
1630DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1631DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1632DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1633DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1634DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1635
1636DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1637DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1638DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1639DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1640DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1641
1642DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1643DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1644DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1645
1646DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1647DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1648DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1649
1650DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1651DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1652
1653DEF_HELPER_FLAGS_4(sve_ldnf1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1654DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1655DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1656DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1657DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1658DEF_HELPER_FLAGS_4(sve_ldnf1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1659DEF_HELPER_FLAGS_4(sve_ldnf1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1660
1661DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r_mte, TCG_CALL_NO_WG,
1662                   void, env, ptr, tl, i32)
1663DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r_mte, TCG_CALL_NO_WG,
1664                   void, env, ptr, tl, i32)
1665DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r_mte, TCG_CALL_NO_WG,
1666                   void, env, ptr, tl, i32)
1667DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r_mte, TCG_CALL_NO_WG,
1668                   void, env, ptr, tl, i32)
1669DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r_mte, TCG_CALL_NO_WG,
1670                   void, env, ptr, tl, i32)
1671
1672DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r_mte, TCG_CALL_NO_WG,
1673                   void, env, ptr, tl, i32)
1674DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r_mte, TCG_CALL_NO_WG,
1675                   void, env, ptr, tl, i32)
1676DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r_mte, TCG_CALL_NO_WG,
1677                   void, env, ptr, tl, i32)
1678DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r_mte, TCG_CALL_NO_WG,
1679                   void, env, ptr, tl, i32)
1680DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r_mte, TCG_CALL_NO_WG,
1681                   void, env, ptr, tl, i32)
1682
1683DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r_mte, TCG_CALL_NO_WG,
1684                   void, env, ptr, tl, i32)
1685DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r_mte, TCG_CALL_NO_WG,
1686                   void, env, ptr, tl, i32)
1687DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r_mte, TCG_CALL_NO_WG,
1688                   void, env, ptr, tl, i32)
1689
1690DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r_mte, TCG_CALL_NO_WG,
1691                   void, env, ptr, tl, i32)
1692DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r_mte, TCG_CALL_NO_WG,
1693                   void, env, ptr, tl, i32)
1694DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r_mte, TCG_CALL_NO_WG,
1695                   void, env, ptr, tl, i32)
1696
1697DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r_mte, TCG_CALL_NO_WG,
1698                   void, env, ptr, tl, i32)
1699DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r_mte, TCG_CALL_NO_WG,
1700                   void, env, ptr, tl, i32)
1701
1702DEF_HELPER_FLAGS_4(sve_st1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1703DEF_HELPER_FLAGS_4(sve_st2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1704DEF_HELPER_FLAGS_4(sve_st3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1705DEF_HELPER_FLAGS_4(sve_st4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1706
1707DEF_HELPER_FLAGS_4(sve_st1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1708DEF_HELPER_FLAGS_4(sve_st2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1709DEF_HELPER_FLAGS_4(sve_st3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1710DEF_HELPER_FLAGS_4(sve_st4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1711
1712DEF_HELPER_FLAGS_4(sve_st1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1713DEF_HELPER_FLAGS_4(sve_st2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1714DEF_HELPER_FLAGS_4(sve_st3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1715DEF_HELPER_FLAGS_4(sve_st4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1716
1717DEF_HELPER_FLAGS_4(sve_st1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1718DEF_HELPER_FLAGS_4(sve_st2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1719DEF_HELPER_FLAGS_4(sve_st3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1720DEF_HELPER_FLAGS_4(sve_st4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1721
1722DEF_HELPER_FLAGS_4(sve_st1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1723DEF_HELPER_FLAGS_4(sve_st2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1724DEF_HELPER_FLAGS_4(sve_st3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1725DEF_HELPER_FLAGS_4(sve_st4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1726
1727DEF_HELPER_FLAGS_4(sve_st1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1728DEF_HELPER_FLAGS_4(sve_st2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1729DEF_HELPER_FLAGS_4(sve_st3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1730DEF_HELPER_FLAGS_4(sve_st4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1731
1732DEF_HELPER_FLAGS_4(sve_st1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1733DEF_HELPER_FLAGS_4(sve_st2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1734DEF_HELPER_FLAGS_4(sve_st3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1735DEF_HELPER_FLAGS_4(sve_st4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1736
1737DEF_HELPER_FLAGS_4(sve_st1bh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1738DEF_HELPER_FLAGS_4(sve_st1bs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1739DEF_HELPER_FLAGS_4(sve_st1bd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1740
1741DEF_HELPER_FLAGS_4(sve_st1hs_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1742DEF_HELPER_FLAGS_4(sve_st1hd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1743DEF_HELPER_FLAGS_4(sve_st1hs_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1744DEF_HELPER_FLAGS_4(sve_st1hd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1745
1746DEF_HELPER_FLAGS_4(sve_st1sd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1747DEF_HELPER_FLAGS_4(sve_st1sd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1748
1749DEF_HELPER_FLAGS_4(sve_st1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1750DEF_HELPER_FLAGS_4(sve_st2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1751DEF_HELPER_FLAGS_4(sve_st3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1752DEF_HELPER_FLAGS_4(sve_st4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1753
1754DEF_HELPER_FLAGS_4(sve_st1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1755DEF_HELPER_FLAGS_4(sve_st2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1756DEF_HELPER_FLAGS_4(sve_st3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1757DEF_HELPER_FLAGS_4(sve_st4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1758
1759DEF_HELPER_FLAGS_4(sve_st1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1760DEF_HELPER_FLAGS_4(sve_st2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1761DEF_HELPER_FLAGS_4(sve_st3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1762DEF_HELPER_FLAGS_4(sve_st4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1763
1764DEF_HELPER_FLAGS_4(sve_st1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1765DEF_HELPER_FLAGS_4(sve_st2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1766DEF_HELPER_FLAGS_4(sve_st3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1767DEF_HELPER_FLAGS_4(sve_st4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1768
1769DEF_HELPER_FLAGS_4(sve_st1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1770DEF_HELPER_FLAGS_4(sve_st2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1771DEF_HELPER_FLAGS_4(sve_st3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1772DEF_HELPER_FLAGS_4(sve_st4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1773
1774DEF_HELPER_FLAGS_4(sve_st1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1775DEF_HELPER_FLAGS_4(sve_st2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1776DEF_HELPER_FLAGS_4(sve_st3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1777DEF_HELPER_FLAGS_4(sve_st4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1778
1779DEF_HELPER_FLAGS_4(sve_st1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1780DEF_HELPER_FLAGS_4(sve_st2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1781DEF_HELPER_FLAGS_4(sve_st3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1782DEF_HELPER_FLAGS_4(sve_st4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1783
1784DEF_HELPER_FLAGS_4(sve_st1bh_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1785DEF_HELPER_FLAGS_4(sve_st1bs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1786DEF_HELPER_FLAGS_4(sve_st1bd_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1787
1788DEF_HELPER_FLAGS_4(sve_st1hs_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1789DEF_HELPER_FLAGS_4(sve_st1hd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1790DEF_HELPER_FLAGS_4(sve_st1hs_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1791DEF_HELPER_FLAGS_4(sve_st1hd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1792
1793DEF_HELPER_FLAGS_4(sve_st1sd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1794DEF_HELPER_FLAGS_4(sve_st1sd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1795
1796DEF_HELPER_FLAGS_6(sve_ldbsu_zsu, TCG_CALL_NO_WG,
1797                   void, env, ptr, ptr, ptr, tl, i32)
1798DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu, TCG_CALL_NO_WG,
1799                   void, env, ptr, ptr, ptr, tl, i32)
1800DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu, TCG_CALL_NO_WG,
1801                   void, env, ptr, ptr, ptr, tl, i32)
1802DEF_HELPER_FLAGS_6(sve_ldss_le_zsu, TCG_CALL_NO_WG,
1803                   void, env, ptr, ptr, ptr, tl, i32)
1804DEF_HELPER_FLAGS_6(sve_ldss_be_zsu, TCG_CALL_NO_WG,
1805                   void, env, ptr, ptr, ptr, tl, i32)
1806DEF_HELPER_FLAGS_6(sve_ldbss_zsu, TCG_CALL_NO_WG,
1807                   void, env, ptr, ptr, ptr, tl, i32)
1808DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu, TCG_CALL_NO_WG,
1809                   void, env, ptr, ptr, ptr, tl, i32)
1810DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu, TCG_CALL_NO_WG,
1811                   void, env, ptr, ptr, ptr, tl, i32)
1812
1813DEF_HELPER_FLAGS_6(sve_ldbsu_zss, TCG_CALL_NO_WG,
1814                   void, env, ptr, ptr, ptr, tl, i32)
1815DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss, TCG_CALL_NO_WG,
1816                   void, env, ptr, ptr, ptr, tl, i32)
1817DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss, TCG_CALL_NO_WG,
1818                   void, env, ptr, ptr, ptr, tl, i32)
1819DEF_HELPER_FLAGS_6(sve_ldss_le_zss, TCG_CALL_NO_WG,
1820                   void, env, ptr, ptr, ptr, tl, i32)
1821DEF_HELPER_FLAGS_6(sve_ldss_be_zss, TCG_CALL_NO_WG,
1822                   void, env, ptr, ptr, ptr, tl, i32)
1823DEF_HELPER_FLAGS_6(sve_ldbss_zss, TCG_CALL_NO_WG,
1824                   void, env, ptr, ptr, ptr, tl, i32)
1825DEF_HELPER_FLAGS_6(sve_ldhss_le_zss, TCG_CALL_NO_WG,
1826                   void, env, ptr, ptr, ptr, tl, i32)
1827DEF_HELPER_FLAGS_6(sve_ldhss_be_zss, TCG_CALL_NO_WG,
1828                   void, env, ptr, ptr, ptr, tl, i32)
1829
1830DEF_HELPER_FLAGS_6(sve_ldbdu_zsu, TCG_CALL_NO_WG,
1831                   void, env, ptr, ptr, ptr, tl, i32)
1832DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu, TCG_CALL_NO_WG,
1833                   void, env, ptr, ptr, ptr, tl, i32)
1834DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu, TCG_CALL_NO_WG,
1835                   void, env, ptr, ptr, ptr, tl, i32)
1836DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu, TCG_CALL_NO_WG,
1837                   void, env, ptr, ptr, ptr, tl, i32)
1838DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu, TCG_CALL_NO_WG,
1839                   void, env, ptr, ptr, ptr, tl, i32)
1840DEF_HELPER_FLAGS_6(sve_lddd_le_zsu, TCG_CALL_NO_WG,
1841                   void, env, ptr, ptr, ptr, tl, i32)
1842DEF_HELPER_FLAGS_6(sve_lddd_be_zsu, TCG_CALL_NO_WG,
1843                   void, env, ptr, ptr, ptr, tl, i32)
1844DEF_HELPER_FLAGS_6(sve_ldbds_zsu, TCG_CALL_NO_WG,
1845                   void, env, ptr, ptr, ptr, tl, i32)
1846DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu, TCG_CALL_NO_WG,
1847                   void, env, ptr, ptr, ptr, tl, i32)
1848DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu, TCG_CALL_NO_WG,
1849                   void, env, ptr, ptr, ptr, tl, i32)
1850DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu, TCG_CALL_NO_WG,
1851                   void, env, ptr, ptr, ptr, tl, i32)
1852DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu, TCG_CALL_NO_WG,
1853                   void, env, ptr, ptr, ptr, tl, i32)
1854
1855DEF_HELPER_FLAGS_6(sve_ldbdu_zss, TCG_CALL_NO_WG,
1856                   void, env, ptr, ptr, ptr, tl, i32)
1857DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss, TCG_CALL_NO_WG,
1858                   void, env, ptr, ptr, ptr, tl, i32)
1859DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss, TCG_CALL_NO_WG,
1860                   void, env, ptr, ptr, ptr, tl, i32)
1861DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss, TCG_CALL_NO_WG,
1862                   void, env, ptr, ptr, ptr, tl, i32)
1863DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss, TCG_CALL_NO_WG,
1864                   void, env, ptr, ptr, ptr, tl, i32)
1865DEF_HELPER_FLAGS_6(sve_lddd_le_zss, TCG_CALL_NO_WG,
1866                   void, env, ptr, ptr, ptr, tl, i32)
1867DEF_HELPER_FLAGS_6(sve_lddd_be_zss, TCG_CALL_NO_WG,
1868                   void, env, ptr, ptr, ptr, tl, i32)
1869DEF_HELPER_FLAGS_6(sve_ldbds_zss, TCG_CALL_NO_WG,
1870                   void, env, ptr, ptr, ptr, tl, i32)
1871DEF_HELPER_FLAGS_6(sve_ldhds_le_zss, TCG_CALL_NO_WG,
1872                   void, env, ptr, ptr, ptr, tl, i32)
1873DEF_HELPER_FLAGS_6(sve_ldhds_be_zss, TCG_CALL_NO_WG,
1874                   void, env, ptr, ptr, ptr, tl, i32)
1875DEF_HELPER_FLAGS_6(sve_ldsds_le_zss, TCG_CALL_NO_WG,
1876                   void, env, ptr, ptr, ptr, tl, i32)
1877DEF_HELPER_FLAGS_6(sve_ldsds_be_zss, TCG_CALL_NO_WG,
1878                   void, env, ptr, ptr, ptr, tl, i32)
1879
1880DEF_HELPER_FLAGS_6(sve_ldbdu_zd, TCG_CALL_NO_WG,
1881                   void, env, ptr, ptr, ptr, tl, i32)
1882DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd, TCG_CALL_NO_WG,
1883                   void, env, ptr, ptr, ptr, tl, i32)
1884DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd, TCG_CALL_NO_WG,
1885                   void, env, ptr, ptr, ptr, tl, i32)
1886DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd, TCG_CALL_NO_WG,
1887                   void, env, ptr, ptr, ptr, tl, i32)
1888DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd, TCG_CALL_NO_WG,
1889                   void, env, ptr, ptr, ptr, tl, i32)
1890DEF_HELPER_FLAGS_6(sve_lddd_le_zd, TCG_CALL_NO_WG,
1891                   void, env, ptr, ptr, ptr, tl, i32)
1892DEF_HELPER_FLAGS_6(sve_lddd_be_zd, TCG_CALL_NO_WG,
1893                   void, env, ptr, ptr, ptr, tl, i32)
1894DEF_HELPER_FLAGS_6(sve_ldbds_zd, TCG_CALL_NO_WG,
1895                   void, env, ptr, ptr, ptr, tl, i32)
1896DEF_HELPER_FLAGS_6(sve_ldhds_le_zd, TCG_CALL_NO_WG,
1897                   void, env, ptr, ptr, ptr, tl, i32)
1898DEF_HELPER_FLAGS_6(sve_ldhds_be_zd, TCG_CALL_NO_WG,
1899                   void, env, ptr, ptr, ptr, tl, i32)
1900DEF_HELPER_FLAGS_6(sve_ldsds_le_zd, TCG_CALL_NO_WG,
1901                   void, env, ptr, ptr, ptr, tl, i32)
1902DEF_HELPER_FLAGS_6(sve_ldsds_be_zd, TCG_CALL_NO_WG,
1903                   void, env, ptr, ptr, ptr, tl, i32)
1904
1905DEF_HELPER_FLAGS_6(sve_ldbsu_zsu_mte, TCG_CALL_NO_WG,
1906                   void, env, ptr, ptr, ptr, tl, i32)
1907DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu_mte, TCG_CALL_NO_WG,
1908                   void, env, ptr, ptr, ptr, tl, i32)
1909DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu_mte, TCG_CALL_NO_WG,
1910                   void, env, ptr, ptr, ptr, tl, i32)
1911DEF_HELPER_FLAGS_6(sve_ldss_le_zsu_mte, TCG_CALL_NO_WG,
1912                   void, env, ptr, ptr, ptr, tl, i32)
1913DEF_HELPER_FLAGS_6(sve_ldss_be_zsu_mte, TCG_CALL_NO_WG,
1914                   void, env, ptr, ptr, ptr, tl, i32)
1915DEF_HELPER_FLAGS_6(sve_ldbss_zsu_mte, TCG_CALL_NO_WG,
1916                   void, env, ptr, ptr, ptr, tl, i32)
1917DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu_mte, TCG_CALL_NO_WG,
1918                   void, env, ptr, ptr, ptr, tl, i32)
1919DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu_mte, TCG_CALL_NO_WG,
1920                   void, env, ptr, ptr, ptr, tl, i32)
1921
1922DEF_HELPER_FLAGS_6(sve_ldbsu_zss_mte, TCG_CALL_NO_WG,
1923                   void, env, ptr, ptr, ptr, tl, i32)
1924DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss_mte, TCG_CALL_NO_WG,
1925                   void, env, ptr, ptr, ptr, tl, i32)
1926DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss_mte, TCG_CALL_NO_WG,
1927                   void, env, ptr, ptr, ptr, tl, i32)
1928DEF_HELPER_FLAGS_6(sve_ldss_le_zss_mte, TCG_CALL_NO_WG,
1929                   void, env, ptr, ptr, ptr, tl, i32)
1930DEF_HELPER_FLAGS_6(sve_ldss_be_zss_mte, TCG_CALL_NO_WG,
1931                   void, env, ptr, ptr, ptr, tl, i32)
1932DEF_HELPER_FLAGS_6(sve_ldbss_zss_mte, TCG_CALL_NO_WG,
1933                   void, env, ptr, ptr, ptr, tl, i32)
1934DEF_HELPER_FLAGS_6(sve_ldhss_le_zss_mte, TCG_CALL_NO_WG,
1935                   void, env, ptr, ptr, ptr, tl, i32)
1936DEF_HELPER_FLAGS_6(sve_ldhss_be_zss_mte, TCG_CALL_NO_WG,
1937                   void, env, ptr, ptr, ptr, tl, i32)
1938
1939DEF_HELPER_FLAGS_6(sve_ldbdu_zsu_mte, TCG_CALL_NO_WG,
1940                   void, env, ptr, ptr, ptr, tl, i32)
1941DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu_mte, TCG_CALL_NO_WG,
1942                   void, env, ptr, ptr, ptr, tl, i32)
1943DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu_mte, TCG_CALL_NO_WG,
1944                   void, env, ptr, ptr, ptr, tl, i32)
1945DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu_mte, TCG_CALL_NO_WG,
1946                   void, env, ptr, ptr, ptr, tl, i32)
1947DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu_mte, TCG_CALL_NO_WG,
1948                   void, env, ptr, ptr, ptr, tl, i32)
1949DEF_HELPER_FLAGS_6(sve_lddd_le_zsu_mte, TCG_CALL_NO_WG,
1950                   void, env, ptr, ptr, ptr, tl, i32)
1951DEF_HELPER_FLAGS_6(sve_lddd_be_zsu_mte, TCG_CALL_NO_WG,
1952                   void, env, ptr, ptr, ptr, tl, i32)
1953DEF_HELPER_FLAGS_6(sve_ldbds_zsu_mte, TCG_CALL_NO_WG,
1954                   void, env, ptr, ptr, ptr, tl, i32)
1955DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu_mte, TCG_CALL_NO_WG,
1956                   void, env, ptr, ptr, ptr, tl, i32)
1957DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu_mte, TCG_CALL_NO_WG,
1958                   void, env, ptr, ptr, ptr, tl, i32)
1959DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu_mte, TCG_CALL_NO_WG,
1960                   void, env, ptr, ptr, ptr, tl, i32)
1961DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu_mte, TCG_CALL_NO_WG,
1962                   void, env, ptr, ptr, ptr, tl, i32)
1963
1964DEF_HELPER_FLAGS_6(sve_ldbdu_zss_mte, TCG_CALL_NO_WG,
1965                   void, env, ptr, ptr, ptr, tl, i32)
1966DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss_mte, TCG_CALL_NO_WG,
1967                   void, env, ptr, ptr, ptr, tl, i32)
1968DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss_mte, TCG_CALL_NO_WG,
1969                   void, env, ptr, ptr, ptr, tl, i32)
1970DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss_mte, TCG_CALL_NO_WG,
1971                   void, env, ptr, ptr, ptr, tl, i32)
1972DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss_mte, TCG_CALL_NO_WG,
1973                   void, env, ptr, ptr, ptr, tl, i32)
1974DEF_HELPER_FLAGS_6(sve_lddd_le_zss_mte, TCG_CALL_NO_WG,
1975                   void, env, ptr, ptr, ptr, tl, i32)
1976DEF_HELPER_FLAGS_6(sve_lddd_be_zss_mte, TCG_CALL_NO_WG,
1977                   void, env, ptr, ptr, ptr, tl, i32)
1978DEF_HELPER_FLAGS_6(sve_ldbds_zss_mte, TCG_CALL_NO_WG,
1979                   void, env, ptr, ptr, ptr, tl, i32)
1980DEF_HELPER_FLAGS_6(sve_ldhds_le_zss_mte, TCG_CALL_NO_WG,
1981                   void, env, ptr, ptr, ptr, tl, i32)
1982DEF_HELPER_FLAGS_6(sve_ldhds_be_zss_mte, TCG_CALL_NO_WG,
1983                   void, env, ptr, ptr, ptr, tl, i32)
1984DEF_HELPER_FLAGS_6(sve_ldsds_le_zss_mte, TCG_CALL_NO_WG,
1985                   void, env, ptr, ptr, ptr, tl, i32)
1986DEF_HELPER_FLAGS_6(sve_ldsds_be_zss_mte, TCG_CALL_NO_WG,
1987                   void, env, ptr, ptr, ptr, tl, i32)
1988
1989DEF_HELPER_FLAGS_6(sve_ldbdu_zd_mte, TCG_CALL_NO_WG,
1990                   void, env, ptr, ptr, ptr, tl, i32)
1991DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd_mte, TCG_CALL_NO_WG,
1992                   void, env, ptr, ptr, ptr, tl, i32)
1993DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd_mte, TCG_CALL_NO_WG,
1994                   void, env, ptr, ptr, ptr, tl, i32)
1995DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd_mte, TCG_CALL_NO_WG,
1996                   void, env, ptr, ptr, ptr, tl, i32)
1997DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd_mte, TCG_CALL_NO_WG,
1998                   void, env, ptr, ptr, ptr, tl, i32)
1999DEF_HELPER_FLAGS_6(sve_lddd_le_zd_mte, TCG_CALL_NO_WG,
2000                   void, env, ptr, ptr, ptr, tl, i32)

2001DEF_HELPER_FLAGS_6(sve_lddd_be_zd_mte, TCG_CALL_NO_WG,
2002                   void, env, ptr, ptr, ptr, tl, i32)
2003DEF_HELPER_FLAGS_6(sve_ldbds_zd_mte, TCG_CALL_NO_WG,
2004                   void, env, ptr, ptr, ptr, tl, i32)
2005DEF_HELPER_FLAGS_6(sve_ldhds_le_zd_mte, TCG_CALL_NO_WG,
2006                   void, env, ptr, ptr, ptr, tl, i32)
2007DEF_HELPER_FLAGS_6(sve_ldhds_be_zd_mte, TCG_CALL_NO_WG,
2008                   void, env, ptr, ptr, ptr, tl, i32)
2009DEF_HELPER_FLAGS_6(sve_ldsds_le_zd_mte, TCG_CALL_NO_WG,
2010                   void, env, ptr, ptr, ptr, tl, i32)
2011DEF_HELPER_FLAGS_6(sve_ldsds_be_zd_mte, TCG_CALL_NO_WG,
2012                   void, env, ptr, ptr, ptr, tl, i32)
2013
2014DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu, TCG_CALL_NO_WG,
2015                   void, env, ptr, ptr, ptr, tl, i32)
2016DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu, TCG_CALL_NO_WG,
2017                   void, env, ptr, ptr, ptr, tl, i32)
2018DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu, TCG_CALL_NO_WG,
2019                   void, env, ptr, ptr, ptr, tl, i32)
2020DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu, TCG_CALL_NO_WG,
2021                   void, env, ptr, ptr, ptr, tl, i32)
2022DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu, TCG_CALL_NO_WG,
2023                   void, env, ptr, ptr, ptr, tl, i32)
2024DEF_HELPER_FLAGS_6(sve_ldffbss_zsu, TCG_CALL_NO_WG,
2025                   void, env, ptr, ptr, ptr, tl, i32)
2026DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu, TCG_CALL_NO_WG,
2027                   void, env, ptr, ptr, ptr, tl, i32)
2028DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu, TCG_CALL_NO_WG,
2029                   void, env, ptr, ptr, ptr, tl, i32)
2030
2031DEF_HELPER_FLAGS_6(sve_ldffbsu_zss, TCG_CALL_NO_WG,
2032                   void, env, ptr, ptr, ptr, tl, i32)
2033DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss, TCG_CALL_NO_WG,
2034                   void, env, ptr, ptr, ptr, tl, i32)
2035DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss, TCG_CALL_NO_WG,
2036                   void, env, ptr, ptr, ptr, tl, i32)
2037DEF_HELPER_FLAGS_6(sve_ldffss_le_zss, TCG_CALL_NO_WG,
2038                   void, env, ptr, ptr, ptr, tl, i32)
2039DEF_HELPER_FLAGS_6(sve_ldffss_be_zss, TCG_CALL_NO_WG,
2040                   void, env, ptr, ptr, ptr, tl, i32)
2041DEF_HELPER_FLAGS_6(sve_ldffbss_zss, TCG_CALL_NO_WG,
2042                   void, env, ptr, ptr, ptr, tl, i32)
2043DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss, TCG_CALL_NO_WG,
2044                   void, env, ptr, ptr, ptr, tl, i32)
2045DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss, TCG_CALL_NO_WG,
2046                   void, env, ptr, ptr, ptr, tl, i32)
2047
2048DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu, TCG_CALL_NO_WG,
2049                   void, env, ptr, ptr, ptr, tl, i32)
2050DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu, TCG_CALL_NO_WG,
2051                   void, env, ptr, ptr, ptr, tl, i32)
2052DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu, TCG_CALL_NO_WG,
2053                   void, env, ptr, ptr, ptr, tl, i32)
2054DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu, TCG_CALL_NO_WG,
2055                   void, env, ptr, ptr, ptr, tl, i32)
2056DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu, TCG_CALL_NO_WG,
2057                   void, env, ptr, ptr, ptr, tl, i32)
2058DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu, TCG_CALL_NO_WG,
2059                   void, env, ptr, ptr, ptr, tl, i32)
2060DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu, TCG_CALL_NO_WG,
2061                   void, env, ptr, ptr, ptr, tl, i32)
2062DEF_HELPER_FLAGS_6(sve_ldffbds_zsu, TCG_CALL_NO_WG,
2063                   void, env, ptr, ptr, ptr, tl, i32)
2064DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu, TCG_CALL_NO_WG,
2065                   void, env, ptr, ptr, ptr, tl, i32)
2066DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu, TCG_CALL_NO_WG,
2067                   void, env, ptr, ptr, ptr, tl, i32)
2068DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu, TCG_CALL_NO_WG,
2069                   void, env, ptr, ptr, ptr, tl, i32)
2070DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu, TCG_CALL_NO_WG,
2071                   void, env, ptr, ptr, ptr, tl, i32)
2072
2073DEF_HELPER_FLAGS_6(sve_ldffbdu_zss, TCG_CALL_NO_WG,
2074                   void, env, ptr, ptr, ptr, tl, i32)
2075DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss, TCG_CALL_NO_WG,
2076                   void, env, ptr, ptr, ptr, tl, i32)
2077DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss, TCG_CALL_NO_WG,
2078                   void, env, ptr, ptr, ptr, tl, i32)
2079DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss, TCG_CALL_NO_WG,
2080                   void, env, ptr, ptr, ptr, tl, i32)
2081DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss, TCG_CALL_NO_WG,
2082                   void, env, ptr, ptr, ptr, tl, i32)
2083DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss, TCG_CALL_NO_WG,
2084                   void, env, ptr, ptr, ptr, tl, i32)
2085DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss, TCG_CALL_NO_WG,
2086                   void, env, ptr, ptr, ptr, tl, i32)
2087DEF_HELPER_FLAGS_6(sve_ldffbds_zss, TCG_CALL_NO_WG,
2088                   void, env, ptr, ptr, ptr, tl, i32)
2089DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss, TCG_CALL_NO_WG,
2090                   void, env, ptr, ptr, ptr, tl, i32)
2091DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss, TCG_CALL_NO_WG,
2092                   void, env, ptr, ptr, ptr, tl, i32)
2093DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss, TCG_CALL_NO_WG,
2094                   void, env, ptr, ptr, ptr, tl, i32)
2095DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss, TCG_CALL_NO_WG,
2096                   void, env, ptr, ptr, ptr, tl, i32)
2097
2098DEF_HELPER_FLAGS_6(sve_ldffbdu_zd, TCG_CALL_NO_WG,
2099                   void, env, ptr, ptr, ptr, tl, i32)
2100DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd, TCG_CALL_NO_WG,
2101                   void, env, ptr, ptr, ptr, tl, i32)
2102DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd, TCG_CALL_NO_WG,
2103                   void, env, ptr, ptr, ptr, tl, i32)
2104DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd, TCG_CALL_NO_WG,
2105                   void, env, ptr, ptr, ptr, tl, i32)
2106DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd, TCG_CALL_NO_WG,
2107                   void, env, ptr, ptr, ptr, tl, i32)
2108DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd, TCG_CALL_NO_WG,
2109                   void, env, ptr, ptr, ptr, tl, i32)
2110DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd, TCG_CALL_NO_WG,
2111                   void, env, ptr, ptr, ptr, tl, i32)
2112DEF_HELPER_FLAGS_6(sve_ldffbds_zd, TCG_CALL_NO_WG,
2113                   void, env, ptr, ptr, ptr, tl, i32)
2114DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd, TCG_CALL_NO_WG,
2115                   void, env, ptr, ptr, ptr, tl, i32)
2116DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd, TCG_CALL_NO_WG,
2117                   void, env, ptr, ptr, ptr, tl, i32)
2118DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd, TCG_CALL_NO_WG,
2119                   void, env, ptr, ptr, ptr, tl, i32)
2120DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd, TCG_CALL_NO_WG,
2121                   void, env, ptr, ptr, ptr, tl, i32)
2122
2123DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu_mte, TCG_CALL_NO_WG,
2124                   void, env, ptr, ptr, ptr, tl, i32)
2125DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu_mte, TCG_CALL_NO_WG,
2126                   void, env, ptr, ptr, ptr, tl, i32)
2127DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu_mte, TCG_CALL_NO_WG,
2128                   void, env, ptr, ptr, ptr, tl, i32)
2129DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu_mte, TCG_CALL_NO_WG,
2130                   void, env, ptr, ptr, ptr, tl, i32)
2131DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu_mte, TCG_CALL_NO_WG,
2132                   void, env, ptr, ptr, ptr, tl, i32)
2133DEF_HELPER_FLAGS_6(sve_ldffbss_zsu_mte, TCG_CALL_NO_WG,
2134                   void, env, ptr, ptr, ptr, tl, i32)
2135DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu_mte, TCG_CALL_NO_WG,
2136                   void, env, ptr, ptr, ptr, tl, i32)
2137DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu_mte, TCG_CALL_NO_WG,
2138                   void, env, ptr, ptr, ptr, tl, i32)
2139
2140DEF_HELPER_FLAGS_6(sve_ldffbsu_zss_mte, TCG_CALL_NO_WG,
2141                   void, env, ptr, ptr, ptr, tl, i32)
2142DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss_mte, TCG_CALL_NO_WG,
2143                   void, env, ptr, ptr, ptr, tl, i32)
2144DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss_mte, TCG_CALL_NO_WG,
2145                   void, env, ptr, ptr, ptr, tl, i32)
2146DEF_HELPER_FLAGS_6(sve_ldffss_le_zss_mte, TCG_CALL_NO_WG,
2147                   void, env, ptr, ptr, ptr, tl, i32)
2148DEF_HELPER_FLAGS_6(sve_ldffss_be_zss_mte, TCG_CALL_NO_WG,
2149                   void, env, ptr, ptr, ptr, tl, i32)
2150DEF_HELPER_FLAGS_6(sve_ldffbss_zss_mte, TCG_CALL_NO_WG,
2151                   void, env, ptr, ptr, ptr, tl, i32)
2152DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss_mte, TCG_CALL_NO_WG,
2153                   void, env, ptr, ptr, ptr, tl, i32)
2154DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss_mte, TCG_CALL_NO_WG,
2155                   void, env, ptr, ptr, ptr, tl, i32)
2156
2157DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu_mte, TCG_CALL_NO_WG,
2158                   void, env, ptr, ptr, ptr, tl, i32)
2159DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu_mte, TCG_CALL_NO_WG,
2160                   void, env, ptr, ptr, ptr, tl, i32)
2161DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu_mte, TCG_CALL_NO_WG,
2162                   void, env, ptr, ptr, ptr, tl, i32)
2163DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu_mte, TCG_CALL_NO_WG,
2164                   void, env, ptr, ptr, ptr, tl, i32)
2165DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu_mte, TCG_CALL_NO_WG,
2166                   void, env, ptr, ptr, ptr, tl, i32)
2167DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu_mte, TCG_CALL_NO_WG,
2168                   void, env, ptr, ptr, ptr, tl, i32)
2169DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu_mte, TCG_CALL_NO_WG,
2170                   void, env, ptr, ptr, ptr, tl, i32)
2171DEF_HELPER_FLAGS_6(sve_ldffbds_zsu_mte, TCG_CALL_NO_WG,
2172                   void, env, ptr, ptr, ptr, tl, i32)
2173DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu_mte, TCG_CALL_NO_WG,
2174                   void, env, ptr, ptr, ptr, tl, i32)
2175DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu_mte, TCG_CALL_NO_WG,
2176                   void, env, ptr, ptr, ptr, tl, i32)
2177DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu_mte, TCG_CALL_NO_WG,
2178                   void, env, ptr, ptr, ptr, tl, i32)
2179DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu_mte, TCG_CALL_NO_WG,
2180                   void, env, ptr, ptr, ptr, tl, i32)
2181
2182DEF_HELPER_FLAGS_6(sve_ldffbdu_zss_mte, TCG_CALL_NO_WG,
2183                   void, env, ptr, ptr, ptr, tl, i32)
2184DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss_mte, TCG_CALL_NO_WG,
2185                   void, env, ptr, ptr, ptr, tl, i32)
2186DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss_mte, TCG_CALL_NO_WG,
2187                   void, env, ptr, ptr, ptr, tl, i32)
2188DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss_mte, TCG_CALL_NO_WG,
2189                   void, env, ptr, ptr, ptr, tl, i32)
2190DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss_mte, TCG_CALL_NO_WG,
2191                   void, env, ptr, ptr, ptr, tl, i32)
2192DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss_mte, TCG_CALL_NO_WG,
2193                   void, env, ptr, ptr, ptr, tl, i32)
2194DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss_mte, TCG_CALL_NO_WG,
2195                   void, env, ptr, ptr, ptr, tl, i32)
2196DEF_HELPER_FLAGS_6(sve_ldffbds_zss_mte, TCG_CALL_NO_WG,
2197                   void, env, ptr, ptr, ptr, tl, i32)
2198DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss_mte, TCG_CALL_NO_WG,
2199                   void, env, ptr, ptr, ptr, tl, i32)
2200DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss_mte, TCG_CALL_NO_WG,
2201                   void, env, ptr, ptr, ptr, tl, i32)
2202DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss_mte, TCG_CALL_NO_WG,
2203                   void, env, ptr, ptr, ptr, tl, i32)
2204DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss_mte, TCG_CALL_NO_WG,
2205                   void, env, ptr, ptr, ptr, tl, i32)
2206
2207DEF_HELPER_FLAGS_6(sve_ldffbdu_zd_mte, TCG_CALL_NO_WG,
2208                   void, env, ptr, ptr, ptr, tl, i32)
2209DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd_mte, TCG_CALL_NO_WG,
2210                   void, env, ptr, ptr, ptr, tl, i32)
2211DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd_mte, TCG_CALL_NO_WG,
2212                   void, env, ptr, ptr, ptr, tl, i32)
2213DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd_mte, TCG_CALL_NO_WG,
2214                   void, env, ptr, ptr, ptr, tl, i32)
2215DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd_mte, TCG_CALL_NO_WG,
2216                   void, env, ptr, ptr, ptr, tl, i32)
2217DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd_mte, TCG_CALL_NO_WG,
2218                   void, env, ptr, ptr, ptr, tl, i32)
2219DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd_mte, TCG_CALL_NO_WG,
2220                   void, env, ptr, ptr, ptr, tl, i32)
2221DEF_HELPER_FLAGS_6(sve_ldffbds_zd_mte, TCG_CALL_NO_WG,
2222                   void, env, ptr, ptr, ptr, tl, i32)
2223DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd_mte, TCG_CALL_NO_WG,
2224                   void, env, ptr, ptr, ptr, tl, i32)
2225DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd_mte, TCG_CALL_NO_WG,
2226                   void, env, ptr, ptr, ptr, tl, i32)
2227DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd_mte, TCG_CALL_NO_WG,
2228                   void, env, ptr, ptr, ptr, tl, i32)
2229DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd_mte, TCG_CALL_NO_WG,
2230                   void, env, ptr, ptr, ptr, tl, i32)
2231
2232DEF_HELPER_FLAGS_6(sve_stbs_zsu, TCG_CALL_NO_WG,
2233                   void, env, ptr, ptr, ptr, tl, i32)
2234DEF_HELPER_FLAGS_6(sve_sths_le_zsu, TCG_CALL_NO_WG,
2235                   void, env, ptr, ptr, ptr, tl, i32)
2236DEF_HELPER_FLAGS_6(sve_sths_be_zsu, TCG_CALL_NO_WG,
2237                   void, env, ptr, ptr, ptr, tl, i32)
2238DEF_HELPER_FLAGS_6(sve_stss_le_zsu, TCG_CALL_NO_WG,
2239                   void, env, ptr, ptr, ptr, tl, i32)
2240DEF_HELPER_FLAGS_6(sve_stss_be_zsu, TCG_CALL_NO_WG,
2241                   void, env, ptr, ptr, ptr, tl, i32)
2242
2243DEF_HELPER_FLAGS_6(sve_stbs_zss, TCG_CALL_NO_WG,
2244                   void, env, ptr, ptr, ptr, tl, i32)
2245DEF_HELPER_FLAGS_6(sve_sths_le_zss, TCG_CALL_NO_WG,
2246                   void, env, ptr, ptr, ptr, tl, i32)
2247DEF_HELPER_FLAGS_6(sve_sths_be_zss, TCG_CALL_NO_WG,
2248                   void, env, ptr, ptr, ptr, tl, i32)
2249DEF_HELPER_FLAGS_6(sve_stss_le_zss, TCG_CALL_NO_WG,
2250                   void, env, ptr, ptr, ptr, tl, i32)
2251DEF_HELPER_FLAGS_6(sve_stss_be_zss, TCG_CALL_NO_WG,
2252                   void, env, ptr, ptr, ptr, tl, i32)
2253
2254DEF_HELPER_FLAGS_6(sve_stbd_zsu, TCG_CALL_NO_WG,
2255                   void, env, ptr, ptr, ptr, tl, i32)
2256DEF_HELPER_FLAGS_6(sve_sthd_le_zsu, TCG_CALL_NO_WG,
2257                   void, env, ptr, ptr, ptr, tl, i32)
2258DEF_HELPER_FLAGS_6(sve_sthd_be_zsu, TCG_CALL_NO_WG,
2259                   void, env, ptr, ptr, ptr, tl, i32)
2260DEF_HELPER_FLAGS_6(sve_stsd_le_zsu, TCG_CALL_NO_WG,
2261                   void, env, ptr, ptr, ptr, tl, i32)
2262DEF_HELPER_FLAGS_6(sve_stsd_be_zsu, TCG_CALL_NO_WG,
2263                   void, env, ptr, ptr, ptr, tl, i32)
2264DEF_HELPER_FLAGS_6(sve_stdd_le_zsu, TCG_CALL_NO_WG,
2265                   void, env, ptr, ptr, ptr, tl, i32)
2266DEF_HELPER_FLAGS_6(sve_stdd_be_zsu, TCG_CALL_NO_WG,
2267                   void, env, ptr, ptr, ptr, tl, i32)
2268
2269DEF_HELPER_FLAGS_6(sve_stbd_zss, TCG_CALL_NO_WG,
2270                   void, env, ptr, ptr, ptr, tl, i32)
2271DEF_HELPER_FLAGS_6(sve_sthd_le_zss, TCG_CALL_NO_WG,
2272                   void, env, ptr, ptr, ptr, tl, i32)
2273DEF_HELPER_FLAGS_6(sve_sthd_be_zss, TCG_CALL_NO_WG,
2274                   void, env, ptr, ptr, ptr, tl, i32)
2275DEF_HELPER_FLAGS_6(sve_stsd_le_zss, TCG_CALL_NO_WG,
2276                   void, env, ptr, ptr, ptr, tl, i32)
2277DEF_HELPER_FLAGS_6(sve_stsd_be_zss, TCG_CALL_NO_WG,
2278                   void, env, ptr, ptr, ptr, tl, i32)
2279DEF_HELPER_FLAGS_6(sve_stdd_le_zss, TCG_CALL_NO_WG,
2280                   void, env, ptr, ptr, ptr, tl, i32)
2281DEF_HELPER_FLAGS_6(sve_stdd_be_zss, TCG_CALL_NO_WG,
2282                   void, env, ptr, ptr, ptr, tl, i32)
2283
2284DEF_HELPER_FLAGS_6(sve_stbd_zd, TCG_CALL_NO_WG,
2285                   void, env, ptr, ptr, ptr, tl, i32)
2286DEF_HELPER_FLAGS_6(sve_sthd_le_zd, TCG_CALL_NO_WG,
2287                   void, env, ptr, ptr, ptr, tl, i32)
2288DEF_HELPER_FLAGS_6(sve_sthd_be_zd, TCG_CALL_NO_WG,
2289                   void, env, ptr, ptr, ptr, tl, i32)
2290DEF_HELPER_FLAGS_6(sve_stsd_le_zd, TCG_CALL_NO_WG,
2291                   void, env, ptr, ptr, ptr, tl, i32)
2292DEF_HELPER_FLAGS_6(sve_stsd_be_zd, TCG_CALL_NO_WG,
2293                   void, env, ptr, ptr, ptr, tl, i32)
2294DEF_HELPER_FLAGS_6(sve_stdd_le_zd, TCG_CALL_NO_WG,
2295                   void, env, ptr, ptr, ptr, tl, i32)
2296DEF_HELPER_FLAGS_6(sve_stdd_be_zd, TCG_CALL_NO_WG,
2297                   void, env, ptr, ptr, ptr, tl, i32)
2298
2299DEF_HELPER_FLAGS_6(sve_stbs_zsu_mte, TCG_CALL_NO_WG,
2300                   void, env, ptr, ptr, ptr, tl, i32)
2301DEF_HELPER_FLAGS_6(sve_sths_le_zsu_mte, TCG_CALL_NO_WG,
2302                   void, env, ptr, ptr, ptr, tl, i32)
2303DEF_HELPER_FLAGS_6(sve_sths_be_zsu_mte, TCG_CALL_NO_WG,
2304                   void, env, ptr, ptr, ptr, tl, i32)
2305DEF_HELPER_FLAGS_6(sve_stss_le_zsu_mte, TCG_CALL_NO_WG,
2306                   void, env, ptr, ptr, ptr, tl, i32)
2307DEF_HELPER_FLAGS_6(sve_stss_be_zsu_mte, TCG_CALL_NO_WG,
2308                   void, env, ptr, ptr, ptr, tl, i32)
2309
2310DEF_HELPER_FLAGS_6(sve_stbs_zss_mte, TCG_CALL_NO_WG,
2311                   void, env, ptr, ptr, ptr, tl, i32)
2312DEF_HELPER_FLAGS_6(sve_sths_le_zss_mte, TCG_CALL_NO_WG,
2313                   void, env, ptr, ptr, ptr, tl, i32)
2314DEF_HELPER_FLAGS_6(sve_sths_be_zss_mte, TCG_CALL_NO_WG,
2315                   void, env, ptr, ptr, ptr, tl, i32)
2316DEF_HELPER_FLAGS_6(sve_stss_le_zss_mte, TCG_CALL_NO_WG,
2317                   void, env, ptr, ptr, ptr, tl, i32)
2318DEF_HELPER_FLAGS_6(sve_stss_be_zss_mte, TCG_CALL_NO_WG,
2319                   void, env, ptr, ptr, ptr, tl, i32)
2320
2321DEF_HELPER_FLAGS_6(sve_stbd_zsu_mte, TCG_CALL_NO_WG,
2322                   void, env, ptr, ptr, ptr, tl, i32)
2323DEF_HELPER_FLAGS_6(sve_sthd_le_zsu_mte, TCG_CALL_NO_WG,
2324                   void, env, ptr, ptr, ptr, tl, i32)
2325DEF_HELPER_FLAGS_6(sve_sthd_be_zsu_mte, TCG_CALL_NO_WG,
2326                   void, env, ptr, ptr, ptr, tl, i32)
2327DEF_HELPER_FLAGS_6(sve_stsd_le_zsu_mte, TCG_CALL_NO_WG,
2328                   void, env, ptr, ptr, ptr, tl, i32)
2329DEF_HELPER_FLAGS_6(sve_stsd_be_zsu_mte, TCG_CALL_NO_WG,
2330                   void, env, ptr, ptr, ptr, tl, i32)
2331DEF_HELPER_FLAGS_6(sve_stdd_le_zsu_mte, TCG_CALL_NO_WG,
2332                   void, env, ptr, ptr, ptr, tl, i32)
2333DEF_HELPER_FLAGS_6(sve_stdd_be_zsu_mte, TCG_CALL_NO_WG,
2334                   void, env, ptr, ptr, ptr, tl, i32)
2335
2336DEF_HELPER_FLAGS_6(sve_stbd_zss_mte, TCG_CALL_NO_WG,
2337                   void, env, ptr, ptr, ptr, tl, i32)
2338DEF_HELPER_FLAGS_6(sve_sthd_le_zss_mte, TCG_CALL_NO_WG,
2339                   void, env, ptr, ptr, ptr, tl, i32)
2340DEF_HELPER_FLAGS_6(sve_sthd_be_zss_mte, TCG_CALL_NO_WG,
2341                   void, env, ptr, ptr, ptr, tl, i32)
2342DEF_HELPER_FLAGS_6(sve_stsd_le_zss_mte, TCG_CALL_NO_WG,
2343                   void, env, ptr, ptr, ptr, tl, i32)
2344DEF_HELPER_FLAGS_6(sve_stsd_be_zss_mte, TCG_CALL_NO_WG,
2345                   void, env, ptr, ptr, ptr, tl, i32)
2346DEF_HELPER_FLAGS_6(sve_stdd_le_zss_mte, TCG_CALL_NO_WG,
2347                   void, env, ptr, ptr, ptr, tl, i32)
2348DEF_HELPER_FLAGS_6(sve_stdd_be_zss_mte, TCG_CALL_NO_WG,
2349                   void, env, ptr, ptr, ptr, tl, i32)
2350
2351DEF_HELPER_FLAGS_6(sve_stbd_zd_mte, TCG_CALL_NO_WG,
2352                   void, env, ptr, ptr, ptr, tl, i32)
2353DEF_HELPER_FLAGS_6(sve_sthd_le_zd_mte, TCG_CALL_NO_WG,
2354                   void, env, ptr, ptr, ptr, tl, i32)
2355DEF_HELPER_FLAGS_6(sve_sthd_be_zd_mte, TCG_CALL_NO_WG,
2356                   void, env, ptr, ptr, ptr, tl, i32)
2357DEF_HELPER_FLAGS_6(sve_stsd_le_zd_mte, TCG_CALL_NO_WG,
2358                   void, env, ptr, ptr, ptr, tl, i32)
2359DEF_HELPER_FLAGS_6(sve_stsd_be_zd_mte, TCG_CALL_NO_WG,
2360                   void, env, ptr, ptr, ptr, tl, i32)
2361DEF_HELPER_FLAGS_6(sve_stdd_le_zd_mte, TCG_CALL_NO_WG,
2362                   void, env, ptr, ptr, ptr, tl, i32)
2363DEF_HELPER_FLAGS_6(sve_stdd_be_zd_mte, TCG_CALL_NO_WG,
2364                   void, env, ptr, ptr, ptr, tl, i32)
2365
2366DEF_HELPER_FLAGS_4(sve2_sqdmull_zzz_h, TCG_CALL_NO_RWG,
2367                   void, ptr, ptr, ptr, i32)
2368DEF_HELPER_FLAGS_4(sve2_sqdmull_zzz_s, TCG_CALL_NO_RWG,
2369                   void, ptr, ptr, ptr, i32)
2370DEF_HELPER_FLAGS_4(sve2_sqdmull_zzz_d, TCG_CALL_NO_RWG,
2371                   void, ptr, ptr, ptr, i32)
2372
2373DEF_HELPER_FLAGS_4(sve2_smull_zzz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2374DEF_HELPER_FLAGS_4(sve2_smull_zzz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2375DEF_HELPER_FLAGS_4(sve2_smull_zzz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2376
2377DEF_HELPER_FLAGS_4(sve2_umull_zzz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2378DEF_HELPER_FLAGS_4(sve2_umull_zzz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2379DEF_HELPER_FLAGS_4(sve2_umull_zzz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2380
2381DEF_HELPER_FLAGS_4(sve2_pmull_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2382DEF_HELPER_FLAGS_4(sve2_pmull_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2383
2384DEF_HELPER_FLAGS_3(sve2_sshll_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2385DEF_HELPER_FLAGS_3(sve2_sshll_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2386DEF_HELPER_FLAGS_3(sve2_sshll_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2387
2388DEF_HELPER_FLAGS_3(sve2_ushll_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2389DEF_HELPER_FLAGS_3(sve2_ushll_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2390DEF_HELPER_FLAGS_3(sve2_ushll_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2391
2392DEF_HELPER_FLAGS_4(sve2_eoril_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2393DEF_HELPER_FLAGS_4(sve2_eoril_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2394DEF_HELPER_FLAGS_4(sve2_eoril_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2395DEF_HELPER_FLAGS_4(sve2_eoril_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2396
2397DEF_HELPER_FLAGS_4(sve2_bext_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2398DEF_HELPER_FLAGS_4(sve2_bext_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2399DEF_HELPER_FLAGS_4(sve2_bext_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2400DEF_HELPER_FLAGS_4(sve2_bext_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2401
2402DEF_HELPER_FLAGS_4(sve2_bdep_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2403DEF_HELPER_FLAGS_4(sve2_bdep_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2404DEF_HELPER_FLAGS_4(sve2_bdep_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2405DEF_HELPER_FLAGS_4(sve2_bdep_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2406
2407DEF_HELPER_FLAGS_4(sve2_bgrp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2408DEF_HELPER_FLAGS_4(sve2_bgrp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2409DEF_HELPER_FLAGS_4(sve2_bgrp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2410DEF_HELPER_FLAGS_4(sve2_bgrp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2411
2412DEF_HELPER_FLAGS_4(sve2_cadd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2413DEF_HELPER_FLAGS_4(sve2_cadd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2414DEF_HELPER_FLAGS_4(sve2_cadd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2415DEF_HELPER_FLAGS_4(sve2_cadd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2416
2417DEF_HELPER_FLAGS_4(sve2_sqcadd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2418DEF_HELPER_FLAGS_4(sve2_sqcadd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2419DEF_HELPER_FLAGS_4(sve2_sqcadd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2420DEF_HELPER_FLAGS_4(sve2_sqcadd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2421
2422DEF_HELPER_FLAGS_5(sve2_sabal_h, TCG_CALL_NO_RWG,
2423                   void, ptr, ptr, ptr, ptr, i32)
2424DEF_HELPER_FLAGS_5(sve2_sabal_s, TCG_CALL_NO_RWG,
2425                   void, ptr, ptr, ptr, ptr, i32)
2426DEF_HELPER_FLAGS_5(sve2_sabal_d, TCG_CALL_NO_RWG,
2427                   void, ptr, ptr, ptr, ptr, i32)
2428
2429DEF_HELPER_FLAGS_5(sve2_uabal_h, TCG_CALL_NO_RWG,
2430                   void, ptr, ptr, ptr, ptr, i32)
2431DEF_HELPER_FLAGS_5(sve2_uabal_s, TCG_CALL_NO_RWG,
2432                   void, ptr, ptr, ptr, ptr, i32)
2433DEF_HELPER_FLAGS_5(sve2_uabal_d, TCG_CALL_NO_RWG,
2434                   void, ptr, ptr, ptr, ptr, i32)
2435
2436DEF_HELPER_FLAGS_5(sve2_adcl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2437DEF_HELPER_FLAGS_5(sve2_adcl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2438
2439DEF_HELPER_FLAGS_3(sve2_sqxtnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2440DEF_HELPER_FLAGS_3(sve2_sqxtnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2441DEF_HELPER_FLAGS_3(sve2_sqxtnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2442
2443DEF_HELPER_FLAGS_3(sve2_uqxtnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2444DEF_HELPER_FLAGS_3(sve2_uqxtnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2445DEF_HELPER_FLAGS_3(sve2_uqxtnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2446
2447DEF_HELPER_FLAGS_3(sve2_sqxtunb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2448DEF_HELPER_FLAGS_3(sve2_sqxtunb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2449DEF_HELPER_FLAGS_3(sve2_sqxtunb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2450
2451DEF_HELPER_FLAGS_3(sve2_sqxtnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2452DEF_HELPER_FLAGS_3(sve2_sqxtnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2453DEF_HELPER_FLAGS_3(sve2_sqxtnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2454
2455DEF_HELPER_FLAGS_3(sve2_uqxtnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2456DEF_HELPER_FLAGS_3(sve2_uqxtnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2457DEF_HELPER_FLAGS_3(sve2_uqxtnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2458
2459DEF_HELPER_FLAGS_3(sve2_sqxtunt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2460DEF_HELPER_FLAGS_3(sve2_sqxtunt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2461DEF_HELPER_FLAGS_3(sve2_sqxtunt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2462
2463DEF_HELPER_FLAGS_3(sve2_shrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2464DEF_HELPER_FLAGS_3(sve2_shrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2465DEF_HELPER_FLAGS_3(sve2_shrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2466
2467DEF_HELPER_FLAGS_3(sve2_shrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2468DEF_HELPER_FLAGS_3(sve2_shrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2469DEF_HELPER_FLAGS_3(sve2_shrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2470
2471DEF_HELPER_FLAGS_3(sve2_rshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2472DEF_HELPER_FLAGS_3(sve2_rshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2473DEF_HELPER_FLAGS_3(sve2_rshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2474
2475DEF_HELPER_FLAGS_3(sve2_rshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2476DEF_HELPER_FLAGS_3(sve2_rshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2477DEF_HELPER_FLAGS_3(sve2_rshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2478
2479DEF_HELPER_FLAGS_3(sve2_sqshrunb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2480DEF_HELPER_FLAGS_3(sve2_sqshrunb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2481DEF_HELPER_FLAGS_3(sve2_sqshrunb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2482
2483DEF_HELPER_FLAGS_3(sve2_sqshrunt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2484DEF_HELPER_FLAGS_3(sve2_sqshrunt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2485DEF_HELPER_FLAGS_3(sve2_sqshrunt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2486
2487DEF_HELPER_FLAGS_3(sve2_sqrshrunb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2488DEF_HELPER_FLAGS_3(sve2_sqrshrunb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2489DEF_HELPER_FLAGS_3(sve2_sqrshrunb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2490
2491DEF_HELPER_FLAGS_3(sve2_sqrshrunt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2492DEF_HELPER_FLAGS_3(sve2_sqrshrunt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2493DEF_HELPER_FLAGS_3(sve2_sqrshrunt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2494
2495DEF_HELPER_FLAGS_3(sve2_sqshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2496DEF_HELPER_FLAGS_3(sve2_sqshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2497DEF_HELPER_FLAGS_3(sve2_sqshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2498
2499DEF_HELPER_FLAGS_3(sve2_sqshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2500DEF_HELPER_FLAGS_3(sve2_sqshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2501DEF_HELPER_FLAGS_3(sve2_sqshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2502
2503DEF_HELPER_FLAGS_3(sve2_sqrshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2504DEF_HELPER_FLAGS_3(sve2_sqrshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2505DEF_HELPER_FLAGS_3(sve2_sqrshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2506
2507DEF_HELPER_FLAGS_3(sve2_sqrshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2508DEF_HELPER_FLAGS_3(sve2_sqrshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2509DEF_HELPER_FLAGS_3(sve2_sqrshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2510
2511DEF_HELPER_FLAGS_3(sve2_uqshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2512DEF_HELPER_FLAGS_3(sve2_uqshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2513DEF_HELPER_FLAGS_3(sve2_uqshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2514
2515DEF_HELPER_FLAGS_3(sve2_uqshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2516DEF_HELPER_FLAGS_3(sve2_uqshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2517DEF_HELPER_FLAGS_3(sve2_uqshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2518
2519DEF_HELPER_FLAGS_3(sve2_uqrshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2520DEF_HELPER_FLAGS_3(sve2_uqrshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2521DEF_HELPER_FLAGS_3(sve2_uqrshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2522
2523DEF_HELPER_FLAGS_3(sve2_uqrshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2524DEF_HELPER_FLAGS_3(sve2_uqrshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2525DEF_HELPER_FLAGS_3(sve2_uqrshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2526
2527DEF_HELPER_FLAGS_4(sve2_addhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2528DEF_HELPER_FLAGS_4(sve2_addhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2529DEF_HELPER_FLAGS_4(sve2_addhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2530
2531DEF_HELPER_FLAGS_4(sve2_addhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2532DEF_HELPER_FLAGS_4(sve2_addhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2533DEF_HELPER_FLAGS_4(sve2_addhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2534
2535DEF_HELPER_FLAGS_4(sve2_raddhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2536DEF_HELPER_FLAGS_4(sve2_raddhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2537DEF_HELPER_FLAGS_4(sve2_raddhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2538
2539DEF_HELPER_FLAGS_4(sve2_raddhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2540DEF_HELPER_FLAGS_4(sve2_raddhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2541DEF_HELPER_FLAGS_4(sve2_raddhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2542
2543DEF_HELPER_FLAGS_4(sve2_subhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2544DEF_HELPER_FLAGS_4(sve2_subhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2545DEF_HELPER_FLAGS_4(sve2_subhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2546
2547DEF_HELPER_FLAGS_4(sve2_subhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2548DEF_HELPER_FLAGS_4(sve2_subhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2549DEF_HELPER_FLAGS_4(sve2_subhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2550
2551DEF_HELPER_FLAGS_4(sve2_rsubhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2552DEF_HELPER_FLAGS_4(sve2_rsubhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2553DEF_HELPER_FLAGS_4(sve2_rsubhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2554
2555DEF_HELPER_FLAGS_4(sve2_rsubhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2556DEF_HELPER_FLAGS_4(sve2_rsubhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2557DEF_HELPER_FLAGS_4(sve2_rsubhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2558
2559DEF_HELPER_FLAGS_5(sve2_match_ppzz_b, TCG_CALL_NO_RWG,
2560                   i32, ptr, ptr, ptr, ptr, i32)
2561DEF_HELPER_FLAGS_5(sve2_match_ppzz_h, TCG_CALL_NO_RWG,
2562                   i32, ptr, ptr, ptr, ptr, i32)
2563
2564DEF_HELPER_FLAGS_5(sve2_nmatch_ppzz_b, TCG_CALL_NO_RWG,
2565                   i32, ptr, ptr, ptr, ptr, i32)
2566DEF_HELPER_FLAGS_5(sve2_nmatch_ppzz_h, TCG_CALL_NO_RWG,
2567                   i32, ptr, ptr, ptr, ptr, i32)
2568
2569DEF_HELPER_FLAGS_5(sve2_histcnt_s, TCG_CALL_NO_RWG,
2570                   void, ptr, ptr, ptr, ptr, i32)
2571DEF_HELPER_FLAGS_5(sve2_histcnt_d, TCG_CALL_NO_RWG,
2572                   void, ptr, ptr, ptr, ptr, i32)
2573
2574DEF_HELPER_FLAGS_4(sve2_histseg, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2575
2576DEF_HELPER_FLAGS_4(sve2_xar_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2577DEF_HELPER_FLAGS_4(sve2_xar_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2578DEF_HELPER_FLAGS_4(sve2_xar_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2579
2580DEF_HELPER_FLAGS_6(sve2_faddp_zpzz_h, TCG_CALL_NO_RWG,
2581                   void, ptr, ptr, ptr, ptr, ptr, i32)
2582DEF_HELPER_FLAGS_6(sve2_faddp_zpzz_s, TCG_CALL_NO_RWG,
2583                   void, ptr, ptr, ptr, ptr, ptr, i32)
2584DEF_HELPER_FLAGS_6(sve2_faddp_zpzz_d, TCG_CALL_NO_RWG,
2585                   void, ptr, ptr, ptr, ptr, ptr, i32)
2586
2587DEF_HELPER_FLAGS_6(sve2_fmaxnmp_zpzz_h, TCG_CALL_NO_RWG,
2588                   void, ptr, ptr, ptr, ptr, ptr, i32)
2589DEF_HELPER_FLAGS_6(sve2_fmaxnmp_zpzz_s, TCG_CALL_NO_RWG,
2590                   void, ptr, ptr, ptr, ptr, ptr, i32)
2591DEF_HELPER_FLAGS_6(sve2_fmaxnmp_zpzz_d, TCG_CALL_NO_RWG,
2592                   void, ptr, ptr, ptr, ptr, ptr, i32)
2593
2594DEF_HELPER_FLAGS_6(sve2_fminnmp_zpzz_h, TCG_CALL_NO_RWG,
2595                   void, ptr, ptr, ptr, ptr, ptr, i32)
2596DEF_HELPER_FLAGS_6(sve2_fminnmp_zpzz_s, TCG_CALL_NO_RWG,
2597                   void, ptr, ptr, ptr, ptr, ptr, i32)
2598DEF_HELPER_FLAGS_6(sve2_fminnmp_zpzz_d, TCG_CALL_NO_RWG,
2599                   void, ptr, ptr, ptr, ptr, ptr, i32)
2600
2601DEF_HELPER_FLAGS_6(sve2_fmaxp_zpzz_h, TCG_CALL_NO_RWG,
2602                   void, ptr, ptr, ptr, ptr, ptr, i32)
2603DEF_HELPER_FLAGS_6(sve2_fmaxp_zpzz_s, TCG_CALL_NO_RWG,
2604                   void, ptr, ptr, ptr, ptr, ptr, i32)
2605DEF_HELPER_FLAGS_6(sve2_fmaxp_zpzz_d, TCG_CALL_NO_RWG,
2606                   void, ptr, ptr, ptr, ptr, ptr, i32)
2607
2608DEF_HELPER_FLAGS_6(sve2_fminp_zpzz_h, TCG_CALL_NO_RWG,
2609                   void, ptr, ptr, ptr, ptr, ptr, i32)
2610DEF_HELPER_FLAGS_6(sve2_fminp_zpzz_s, TCG_CALL_NO_RWG,
2611                   void, ptr, ptr, ptr, ptr, ptr, i32)
2612DEF_HELPER_FLAGS_6(sve2_fminp_zpzz_d, TCG_CALL_NO_RWG,
2613                   void, ptr, ptr, ptr, ptr, ptr, i32)
2614
2615DEF_HELPER_FLAGS_5(sve2_eor3, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2616DEF_HELPER_FLAGS_5(sve2_bcax, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2617DEF_HELPER_FLAGS_5(sve2_bsl1n, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2618DEF_HELPER_FLAGS_5(sve2_bsl2n, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2619DEF_HELPER_FLAGS_5(sve2_nbsl, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2620
2621DEF_HELPER_FLAGS_5(sve2_sqdmlal_zzzw_h, TCG_CALL_NO_RWG,
2622                   void, ptr, ptr, ptr, ptr, i32)
2623DEF_HELPER_FLAGS_5(sve2_sqdmlal_zzzw_s, TCG_CALL_NO_RWG,
2624                   void, ptr, ptr, ptr, ptr, i32)
2625DEF_HELPER_FLAGS_5(sve2_sqdmlal_zzzw_d, TCG_CALL_NO_RWG,
2626                   void, ptr, ptr, ptr, ptr, i32)
2627
2628DEF_HELPER_FLAGS_5(sve2_sqdmlsl_zzzw_h, TCG_CALL_NO_RWG,
2629                   void, ptr, ptr, ptr, ptr, i32)
2630DEF_HELPER_FLAGS_5(sve2_sqdmlsl_zzzw_s, TCG_CALL_NO_RWG,
2631                   void, ptr, ptr, ptr, ptr, i32)
2632DEF_HELPER_FLAGS_5(sve2_sqdmlsl_zzzw_d, TCG_CALL_NO_RWG,
2633                   void, ptr, ptr, ptr, ptr, i32)
2634
2635DEF_HELPER_FLAGS_5(sve2_smlal_zzzw_h, TCG_CALL_NO_RWG,
2636                   void, ptr, ptr, ptr, ptr, i32)
2637DEF_HELPER_FLAGS_5(sve2_smlal_zzzw_s, TCG_CALL_NO_RWG,
2638                   void, ptr, ptr, ptr, ptr, i32)
2639DEF_HELPER_FLAGS_5(sve2_smlal_zzzw_d, TCG_CALL_NO_RWG,
2640                   void, ptr, ptr, ptr, ptr, i32)
2641
2642DEF_HELPER_FLAGS_5(sve2_umlal_zzzw_h, TCG_CALL_NO_RWG,
2643                   void, ptr, ptr, ptr, ptr, i32)
2644DEF_HELPER_FLAGS_5(sve2_umlal_zzzw_s, TCG_CALL_NO_RWG,
2645                   void, ptr, ptr, ptr, ptr, i32)
2646DEF_HELPER_FLAGS_5(sve2_umlal_zzzw_d, TCG_CALL_NO_RWG,
2647                   void, ptr, ptr, ptr, ptr, i32)
2648
2649DEF_HELPER_FLAGS_5(sve2_smlsl_zzzw_h, TCG_CALL_NO_RWG,
2650                   void, ptr, ptr, ptr, ptr, i32)
2651DEF_HELPER_FLAGS_5(sve2_smlsl_zzzw_s, TCG_CALL_NO_RWG,
2652                   void, ptr, ptr, ptr, ptr, i32)
2653DEF_HELPER_FLAGS_5(sve2_smlsl_zzzw_d, TCG_CALL_NO_RWG,
2654                   void, ptr, ptr, ptr, ptr, i32)
2655
2656DEF_HELPER_FLAGS_5(sve2_umlsl_zzzw_h, TCG_CALL_NO_RWG,
2657                   void, ptr, ptr, ptr, ptr, i32)
2658DEF_HELPER_FLAGS_5(sve2_umlsl_zzzw_s, TCG_CALL_NO_RWG,
2659                   void, ptr, ptr, ptr, ptr, i32)
2660DEF_HELPER_FLAGS_5(sve2_umlsl_zzzw_d, TCG_CALL_NO_RWG,
2661                   void, ptr, ptr, ptr, ptr, i32)
2662
2663DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_b, TCG_CALL_NO_RWG,
2664                   void, ptr, ptr, ptr, ptr, i32)
2665DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_h, TCG_CALL_NO_RWG,
2666                   void, ptr, ptr, ptr, ptr, i32)
2667DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_s, TCG_CALL_NO_RWG,
2668                   void, ptr, ptr, ptr, ptr, i32)
2669DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_d, TCG_CALL_NO_RWG,
2670                   void, ptr, ptr, ptr, ptr, i32)
2671
2672DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_b, TCG_CALL_NO_RWG,
2673                   void, ptr, ptr, ptr, ptr, i32)
2674DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_h, TCG_CALL_NO_RWG,
2675                   void, ptr, ptr, ptr, ptr, i32)
2676DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_s, TCG_CALL_NO_RWG,
2677                   void, ptr, ptr, ptr, ptr, i32)
2678DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_d, TCG_CALL_NO_RWG,
2679                   void, ptr, ptr, ptr, ptr, i32)
2680
2681DEF_HELPER_FLAGS_6(fmmla_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, ptr, i32)
2682DEF_HELPER_FLAGS_6(fmmla_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, ptr, i32)
2683
2684DEF_HELPER_FLAGS_5(sve2_sqrdmlah_idx_h, TCG_CALL_NO_RWG,
2685                   void, ptr, ptr, ptr, ptr, i32)
2686DEF_HELPER_FLAGS_5(sve2_sqrdmlah_idx_s, TCG_CALL_NO_RWG,
2687                   void, ptr, ptr, ptr, ptr, i32)
2688DEF_HELPER_FLAGS_5(sve2_sqrdmlah_idx_d, TCG_CALL_NO_RWG,
2689                   void, ptr, ptr, ptr, ptr, i32)
2690
2691DEF_HELPER_FLAGS_5(sve2_sqrdmlsh_idx_h, TCG_CALL_NO_RWG,
2692                   void, ptr, ptr, ptr, ptr, i32)
2693DEF_HELPER_FLAGS_5(sve2_sqrdmlsh_idx_s, TCG_CALL_NO_RWG,
2694                   void, ptr, ptr, ptr, ptr, i32)
2695DEF_HELPER_FLAGS_5(sve2_sqrdmlsh_idx_d, TCG_CALL_NO_RWG,
2696                   void, ptr, ptr, ptr, ptr, i32)
2697
2698DEF_HELPER_FLAGS_5(sve2_sqdmlal_idx_s, TCG_CALL_NO_RWG,
2699                   void, ptr, ptr, ptr, ptr, i32)
2700DEF_HELPER_FLAGS_5(sve2_sqdmlal_idx_d, TCG_CALL_NO_RWG,
2701                   void, ptr, ptr, ptr, ptr, i32)
2702DEF_HELPER_FLAGS_5(sve2_sqdmlsl_idx_s, TCG_CALL_NO_RWG,
2703                   void, ptr, ptr, ptr, ptr, i32)
2704DEF_HELPER_FLAGS_5(sve2_sqdmlsl_idx_d, TCG_CALL_NO_RWG,
2705                   void, ptr, ptr, ptr, ptr, i32)
2706
2707DEF_HELPER_FLAGS_4(sve2_sqdmull_idx_s, TCG_CALL_NO_RWG,
2708                   void, ptr, ptr, ptr, i32)
2709DEF_HELPER_FLAGS_4(sve2_sqdmull_idx_d, TCG_CALL_NO_RWG,
2710                   void, ptr, ptr, ptr, i32)
2711
2712DEF_HELPER_FLAGS_5(sve2_smlal_idx_s, TCG_CALL_NO_RWG,
2713                   void, ptr, ptr, ptr, ptr, i32)
2714DEF_HELPER_FLAGS_5(sve2_smlal_idx_d, TCG_CALL_NO_RWG,
2715                   void, ptr, ptr, ptr, ptr, i32)
2716DEF_HELPER_FLAGS_5(sve2_smlsl_idx_s, TCG_CALL_NO_RWG,
2717                   void, ptr, ptr, ptr, ptr, i32)
2718DEF_HELPER_FLAGS_5(sve2_smlsl_idx_d, TCG_CALL_NO_RWG,
2719                   void, ptr, ptr, ptr, ptr, i32)
2720DEF_HELPER_FLAGS_5(sve2_umlal_idx_s, TCG_CALL_NO_RWG,
2721                   void, ptr, ptr, ptr, ptr, i32)
2722DEF_HELPER_FLAGS_5(sve2_umlal_idx_d, TCG_CALL_NO_RWG,
2723                   void, ptr, ptr, ptr, ptr, i32)
2724DEF_HELPER_FLAGS_5(sve2_umlsl_idx_s, TCG_CALL_NO_RWG,
2725                   void, ptr, ptr, ptr, ptr, i32)
2726DEF_HELPER_FLAGS_5(sve2_umlsl_idx_d, TCG_CALL_NO_RWG,
2727                   void, ptr, ptr, ptr, ptr, i32)
2728
2729DEF_HELPER_FLAGS_4(sve2_smull_idx_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2730DEF_HELPER_FLAGS_4(sve2_smull_idx_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2731DEF_HELPER_FLAGS_4(sve2_umull_idx_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2732DEF_HELPER_FLAGS_4(sve2_umull_idx_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2733
2734DEF_HELPER_FLAGS_5(sve2_cmla_idx_h, TCG_CALL_NO_RWG,
2735                   void, ptr, ptr, ptr, ptr, i32)
2736DEF_HELPER_FLAGS_5(sve2_cmla_idx_s, TCG_CALL_NO_RWG,
2737                   void, ptr, ptr, ptr, ptr, i32)
2738DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_idx_h, TCG_CALL_NO_RWG,
2739                   void, ptr, ptr, ptr, ptr, i32)
2740DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_idx_s, TCG_CALL_NO_RWG,
2741                   void, ptr, ptr, ptr, ptr, i32)
2742
2743DEF_HELPER_FLAGS_5(sve2_cdot_zzzz_s, TCG_CALL_NO_RWG,
2744                   void, ptr, ptr, ptr, ptr, i32)
2745DEF_HELPER_FLAGS_5(sve2_cdot_zzzz_d, TCG_CALL_NO_RWG,
2746                   void, ptr, ptr, ptr, ptr, i32)
2747
2748DEF_HELPER_FLAGS_5(sve2_cdot_idx_s, TCG_CALL_NO_RWG,
2749                   void, ptr, ptr, ptr, ptr, i32)
2750DEF_HELPER_FLAGS_5(sve2_cdot_idx_d, TCG_CALL_NO_RWG,
2751                   void, ptr, ptr, ptr, ptr, i32)
2752
2753DEF_HELPER_FLAGS_5(sve2_fcvtnt_sh, TCG_CALL_NO_RWG,
2754                   void, ptr, ptr, ptr, ptr, i32)
2755DEF_HELPER_FLAGS_5(sve2_fcvtnt_ds, TCG_CALL_NO_RWG,
2756                   void, ptr, ptr, ptr, ptr, i32)
2757DEF_HELPER_FLAGS_5(sve_bfcvtnt, TCG_CALL_NO_RWG,
2758                   void, ptr, ptr, ptr, ptr, i32)
2759
2760DEF_HELPER_FLAGS_5(sve2_fcvtlt_hs, TCG_CALL_NO_RWG,
2761                   void, ptr, ptr, ptr, ptr, i32)
2762DEF_HELPER_FLAGS_5(sve2_fcvtlt_sd, TCG_CALL_NO_RWG,
2763                   void, ptr, ptr, ptr, ptr, i32)
2764
2765DEF_HELPER_FLAGS_5(flogb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2766DEF_HELPER_FLAGS_5(flogb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2767DEF_HELPER_FLAGS_5(flogb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2768
2769DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_b, TCG_CALL_NO_RWG,
2770                   void, ptr, ptr, ptr, i32)
2771DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_h, TCG_CALL_NO_RWG,
2772                   void, ptr, ptr, ptr, i32)
2773DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_s, TCG_CALL_NO_RWG,
2774                   void, ptr, ptr, ptr, i32)
2775DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_d, TCG_CALL_NO_RWG,
2776                   void, ptr, ptr, ptr, i32)
2777
2778DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_b, TCG_CALL_NO_RWG,
2779                   void, ptr, ptr, ptr, i32)
2780DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_h, TCG_CALL_NO_RWG,
2781                   void, ptr, ptr, ptr, i32)
2782DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_s, TCG_CALL_NO_RWG,
2783                   void, ptr, ptr, ptr, i32)
2784DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_d, TCG_CALL_NO_RWG,
2785                   void, ptr, ptr, ptr, i32)
2786
2787DEF_HELPER_FLAGS_4(sve2_srshr_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2788DEF_HELPER_FLAGS_4(sve2_srshr_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2789DEF_HELPER_FLAGS_4(sve2_srshr_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2790DEF_HELPER_FLAGS_4(sve2_srshr_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2791
2792DEF_HELPER_FLAGS_4(sve2_urshr_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2793DEF_HELPER_FLAGS_4(sve2_urshr_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2794DEF_HELPER_FLAGS_4(sve2_urshr_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2795DEF_HELPER_FLAGS_4(sve2_urshr_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2796
2797DEF_HELPER_FLAGS_4(sve2_sqshlu_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2798DEF_HELPER_FLAGS_4(sve2_sqshlu_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2799DEF_HELPER_FLAGS_4(sve2_sqshlu_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2800DEF_HELPER_FLAGS_4(sve2_sqshlu_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2801