1 /* 2 * Header file for wrappers around MSA instructions assembler invocations 3 * 4 * Copyright (C) 2019 Wave Computing, Inc. 5 * Copyright (C) 2019 Aleksandar Markovic <amarkovic@wavecomp.com> 6 * 7 * This program is free software: you can redistribute it and/or modify 8 * it under the terms of the GNU General Public License as published by 9 * the Free Software Foundation, either version 2 of the License, or 10 * (at your option) any later version. 11 * 12 * This program is distributed in the hope that it will be useful, 13 * but WITHOUT ANY WARRANTY; without even the implied warranty of 14 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the 15 * GNU General Public License for more details. 16 * 17 * You should have received a copy of the GNU General Public License 18 * along with this program. If not, see <https://www.gnu.org/licenses/>. 19 * 20 */ 21 22 #ifndef WRAPPERS_MSA_H 23 #define WRAPPERS_MSA_H 24 25 26 #define RESET_MSA_REGISTER(wi) \ 27 __asm__ volatile ( \ 28 "xor.v $" #wi ", $" #wi ", $" #wi "\n\t" \ 29 : \ 30 : \ 31 : \ 32 ) 33 34 35 static inline void reset_msa_registers() 36 { 37 38 RESET_MSA_REGISTER(w0); 39 RESET_MSA_REGISTER(w1); 40 RESET_MSA_REGISTER(w2); 41 RESET_MSA_REGISTER(w3); 42 RESET_MSA_REGISTER(w4); 43 RESET_MSA_REGISTER(w5); 44 RESET_MSA_REGISTER(w6); 45 RESET_MSA_REGISTER(w7); 46 RESET_MSA_REGISTER(w8); 47 RESET_MSA_REGISTER(w9); 48 RESET_MSA_REGISTER(w10); 49 RESET_MSA_REGISTER(w11); 50 RESET_MSA_REGISTER(w12); 51 RESET_MSA_REGISTER(w13); 52 RESET_MSA_REGISTER(w14); 53 RESET_MSA_REGISTER(w15); 54 RESET_MSA_REGISTER(w16); 55 RESET_MSA_REGISTER(w17); 56 RESET_MSA_REGISTER(w18); 57 RESET_MSA_REGISTER(w19); 58 RESET_MSA_REGISTER(w20); 59 RESET_MSA_REGISTER(w21); 60 RESET_MSA_REGISTER(w22); 61 RESET_MSA_REGISTER(w23); 62 RESET_MSA_REGISTER(w24); 63 RESET_MSA_REGISTER(w25); 64 RESET_MSA_REGISTER(w26); 65 RESET_MSA_REGISTER(w27); 66 RESET_MSA_REGISTER(w28); 67 RESET_MSA_REGISTER(w29); 68 RESET_MSA_REGISTER(w30); 69 RESET_MSA_REGISTER(w31); 70 71 } 72 73 74 #define DO_MSA__WD__WS(suffix, mnemonic) \ 75 static inline void do_msa_##suffix(const void *input, \ 76 const void *output) \ 77 { \ 78 __asm__ volatile ( \ 79 "move $t0, %0\n\t" \ 80 "ld.d $w11, 0($t0)\n\t" \ 81 #mnemonic " $w10, $w11\n\t" \ 82 "move $t0, %1\n\t" \ 83 "st.d $w10, 0($t0)\n\t" \ 84 : \ 85 : "r" (input), "r" (output) \ 86 : "t0", "memory" \ 87 ); \ 88 } 89 90 #define DO_MSA__WD__WD(suffix, mnemonic) \ 91 static inline void do_msa_##suffix(const void *input, \ 92 const void *output) \ 93 { \ 94 __asm__ volatile ( \ 95 "move $t0, %0\n\t" \ 96 "ld.d $w11, 0($t0)\n\t" \ 97 #mnemonic " $w10, $w10\n\t" \ 98 "move $t0, %1\n\t" \ 99 "st.d $w10, 0($t0)\n\t" \ 100 : \ 101 : "r" (input), "r" (output) \ 102 : "t0", "memory" \ 103 ); \ 104 } 105 106 107 #define DO_MSA__WD__WS_WT(suffix, mnemonic) \ 108 static inline void do_msa_##suffix(const void *input1, \ 109 const void *input2, \ 110 const void *output) \ 111 { \ 112 __asm__ volatile ( \ 113 "move $t0, %0\n\t" \ 114 "ld.d $w11, 0($t0)\n\t" \ 115 "move $t0, %1\n\t" \ 116 "ld.d $w12, 0($t0)\n\t" \ 117 #mnemonic " $w10, $w11, $w12\n\t" \ 118 "move $t0, %2\n\t" \ 119 "st.d $w10, 0($t0)\n\t" \ 120 : \ 121 : "r" (input1), "r" (input2), "r" (output) \ 122 : "t0", "memory" \ 123 ); \ 124 } 125 126 #define DO_MSA__WD__WD_WT(suffix, mnemonic) \ 127 static inline void do_msa_##suffix(const void *input1, \ 128 const void *input2, \ 129 const void *output) \ 130 { \ 131 __asm__ volatile ( \ 132 "move $t0, %0\n\t" \ 133 "ld.d $w11, 0($t0)\n\t" \ 134 "move $t0, %1\n\t" \ 135 "ld.d $w12, 0($t0)\n\t" \ 136 #mnemonic " $w10, $w10, $w12\n\t" \ 137 "move $t0, %2\n\t" \ 138 "st.d $w10, 0($t0)\n\t" \ 139 : \ 140 : "r" (input1), "r" (input2), "r" (output) \ 141 : "t0", "memory" \ 142 ); \ 143 } 144 145 #define DO_MSA__WD__WS_WD(suffix, mnemonic) \ 146 static inline void do_msa_##suffix(const void *input1, \ 147 const void *input2, \ 148 const void *output) \ 149 { \ 150 __asm__ volatile ( \ 151 "move $t0, %0\n\t" \ 152 "ld.d $w11, 0($t0)\n\t" \ 153 "move $t0, %1\n\t" \ 154 "ld.d $w12, 0($t0)\n\t" \ 155 #mnemonic " $w10, $w11, $w10\n\t" \ 156 "move $t0, %2\n\t" \ 157 "st.d $w10, 0($t0)\n\t" \ 158 : \ 159 : "r" (input1), "r" (input2), "r" (output) \ 160 : "t0", "memory" \ 161 ); \ 162 } 163 164 165 /* 166 * Bit Count 167 * --------- 168 */ 169 170 DO_MSA__WD__WS(NLOC_B, nloc.b) 171 DO_MSA__WD__WS(NLOC_H, nloc.h) 172 DO_MSA__WD__WS(NLOC_W, nloc.w) 173 DO_MSA__WD__WS(NLOC_D, nloc.d) 174 175 DO_MSA__WD__WS(NLZC_B, nlzc.b) 176 DO_MSA__WD__WS(NLZC_H, nlzc.h) 177 DO_MSA__WD__WS(NLZC_W, nlzc.w) 178 DO_MSA__WD__WS(NLZC_D, nlzc.d) 179 180 DO_MSA__WD__WS(PCNT_B, pcnt.b) 181 DO_MSA__WD__WS(PCNT_H, pcnt.h) 182 DO_MSA__WD__WS(PCNT_W, pcnt.w) 183 DO_MSA__WD__WS(PCNT_D, pcnt.d) 184 185 186 /* 187 * Bit move 188 * -------- 189 */ 190 191 DO_MSA__WD__WS_WT(BINSL_B, binsl.b) 192 DO_MSA__WD__WD_WT(BINSL_B__DDT, binsl.b) 193 DO_MSA__WD__WS_WD(BINSL_B__DSD, binsl.b) 194 DO_MSA__WD__WS_WT(BINSL_H, binsl.h) 195 DO_MSA__WD__WD_WT(BINSL_H__DDT, binsl.h) 196 DO_MSA__WD__WS_WD(BINSL_H__DSD, binsl.h) 197 DO_MSA__WD__WS_WT(BINSL_W, binsl.w) 198 DO_MSA__WD__WD_WT(BINSL_W__DDT, binsl.w) 199 DO_MSA__WD__WS_WD(BINSL_W__DSD, binsl.w) 200 DO_MSA__WD__WS_WT(BINSL_D, binsl.d) 201 DO_MSA__WD__WD_WT(BINSL_D__DDT, binsl.d) 202 DO_MSA__WD__WS_WD(BINSL_D__DSD, binsl.d) 203 204 DO_MSA__WD__WS_WT(BINSR_B, binsr.b) 205 DO_MSA__WD__WD_WT(BINSR_B__DDT, binsr.b) 206 DO_MSA__WD__WS_WD(BINSR_B__DSD, binsr.b) 207 DO_MSA__WD__WS_WT(BINSR_H, binsr.h) 208 DO_MSA__WD__WD_WT(BINSR_H__DDT, binsr.h) 209 DO_MSA__WD__WS_WD(BINSR_H__DSD, binsr.h) 210 DO_MSA__WD__WS_WT(BINSR_W, binsr.w) 211 DO_MSA__WD__WD_WT(BINSR_W__DDT, binsr.w) 212 DO_MSA__WD__WS_WD(BINSR_W__DSD, binsr.w) 213 DO_MSA__WD__WS_WT(BINSR_D, binsr.d) 214 DO_MSA__WD__WD_WT(BINSR_D__DDT, binsr.d) 215 DO_MSA__WD__WS_WD(BINSR_D__DSD, binsr.d) 216 217 DO_MSA__WD__WS_WT(BMNZ_V, bmnz.v) 218 DO_MSA__WD__WD_WT(BMNZ_V__DDT, bmnz.v) 219 DO_MSA__WD__WS_WD(BMNZ_V__DSD, bmnz.v) 220 DO_MSA__WD__WS_WT(BMZ_V, bmz.v) 221 DO_MSA__WD__WD_WT(BMZ_V__DDT, bmz.v) 222 DO_MSA__WD__WS_WD(BMZ_V__DSD, bmz.v) 223 DO_MSA__WD__WS_WT(BSEL_V, bsel.v) 224 DO_MSA__WD__WD_WT(BSEL_V__DDT, bsel.v) 225 DO_MSA__WD__WS_WD(BSEL_V__DSD, bsel.v) 226 227 228 /* 229 * Bit Set 230 * ------- 231 */ 232 233 DO_MSA__WD__WS_WT(BCLR_B, bclr.b) 234 DO_MSA__WD__WS_WT(BCLR_H, bclr.h) 235 DO_MSA__WD__WS_WT(BCLR_W, bclr.w) 236 DO_MSA__WD__WS_WT(BCLR_D, bclr.d) 237 238 DO_MSA__WD__WS_WT(BSET_B, bset.b) 239 DO_MSA__WD__WS_WT(BSET_H, bset.h) 240 DO_MSA__WD__WS_WT(BSET_W, bset.w) 241 DO_MSA__WD__WS_WT(BSET_D, bset.d) 242 243 DO_MSA__WD__WS_WT(BNEG_B, bneg.b) 244 DO_MSA__WD__WS_WT(BNEG_H, bneg.h) 245 DO_MSA__WD__WS_WT(BNEG_W, bneg.w) 246 DO_MSA__WD__WS_WT(BNEG_D, bneg.d) 247 248 249 /* 250 * Fixed Multiply 251 * -------------- 252 */ 253 254 DO_MSA__WD__WS_WT(MADD_Q_H, madd_q.h) 255 DO_MSA__WD__WS_WT(MADD_Q_W, madd_q.w) 256 257 DO_MSA__WD__WS_WT(MADDR_Q_H, maddr_q.h) 258 DO_MSA__WD__WS_WT(MADDR_Q_W, maddr_q.w) 259 260 DO_MSA__WD__WS_WT(MSUB_Q_H, msub_q.h) 261 DO_MSA__WD__WS_WT(MSUB_Q_W, msub_q.w) 262 263 DO_MSA__WD__WS_WT(MSUBR_Q_H, msubr_q.h) 264 DO_MSA__WD__WS_WT(MSUBR_Q_W, msubr_q.w) 265 266 DO_MSA__WD__WS_WT(MUL_Q_H, mul_q.h) 267 DO_MSA__WD__WS_WT(MUL_Q_W, mul_q.w) 268 269 DO_MSA__WD__WS_WT(MULR_Q_H, mulr_q.h) 270 DO_MSA__WD__WS_WT(MULR_Q_W, mulr_q.w) 271 272 273 /* 274 * Float Max Min 275 * ------------- 276 */ 277 278 DO_MSA__WD__WS_WT(FMAX_W, fmax.w) 279 DO_MSA__WD__WS_WT(FMAX_D, fmax.d) 280 281 DO_MSA__WD__WS_WT(FMAX_A_W, fmax_a.w) 282 DO_MSA__WD__WS_WT(FMAX_A_D, fmax_a.d) 283 284 DO_MSA__WD__WS_WT(FMIN_W, fmin.w) 285 DO_MSA__WD__WS_WT(FMIN_D, fmin.d) 286 287 DO_MSA__WD__WS_WT(FMIN_A_W, fmin_a.w) 288 DO_MSA__WD__WS_WT(FMIN_A_D, fmin_a.d) 289 290 291 /* 292 * Int Add 293 * ------- 294 */ 295 296 DO_MSA__WD__WS_WT(ADD_A_B, add_a.b) 297 DO_MSA__WD__WS_WT(ADD_A_H, add_a.h) 298 DO_MSA__WD__WS_WT(ADD_A_W, add_a.w) 299 DO_MSA__WD__WS_WT(ADD_A_D, add_a.d) 300 301 DO_MSA__WD__WS_WT(ADDS_A_B, adds_a.b) 302 DO_MSA__WD__WS_WT(ADDS_A_H, adds_a.h) 303 DO_MSA__WD__WS_WT(ADDS_A_W, adds_a.w) 304 DO_MSA__WD__WS_WT(ADDS_A_D, adds_a.d) 305 306 DO_MSA__WD__WS_WT(ADDS_S_B, adds_s.b) 307 DO_MSA__WD__WS_WT(ADDS_S_H, adds_s.h) 308 DO_MSA__WD__WS_WT(ADDS_S_W, adds_s.w) 309 DO_MSA__WD__WS_WT(ADDS_S_D, adds_s.d) 310 311 DO_MSA__WD__WS_WT(ADDS_U_B, adds_u.b) 312 DO_MSA__WD__WS_WT(ADDS_U_H, adds_u.h) 313 DO_MSA__WD__WS_WT(ADDS_U_W, adds_u.w) 314 DO_MSA__WD__WS_WT(ADDS_U_D, adds_u.d) 315 316 DO_MSA__WD__WS_WT(ADDV_B, addv.b) 317 DO_MSA__WD__WS_WT(ADDV_H, addv.h) 318 DO_MSA__WD__WS_WT(ADDV_W, addv.w) 319 DO_MSA__WD__WS_WT(ADDV_D, addv.d) 320 321 DO_MSA__WD__WS_WT(HADD_S_H, hadd_s.h) 322 DO_MSA__WD__WS_WT(HADD_S_W, hadd_s.w) 323 DO_MSA__WD__WS_WT(HADD_S_D, hadd_s.d) 324 325 DO_MSA__WD__WS_WT(HADD_U_H, hadd_u.h) 326 DO_MSA__WD__WS_WT(HADD_U_W, hadd_u.w) 327 DO_MSA__WD__WS_WT(HADD_U_D, hadd_u.d) 328 329 330 /* 331 * Int Average 332 * ----------- 333 */ 334 335 DO_MSA__WD__WS_WT(AVE_S_B, ave_s.b) 336 DO_MSA__WD__WS_WT(AVE_S_H, ave_s.h) 337 DO_MSA__WD__WS_WT(AVE_S_W, ave_s.w) 338 DO_MSA__WD__WS_WT(AVE_S_D, ave_s.d) 339 340 DO_MSA__WD__WS_WT(AVE_U_B, ave_u.b) 341 DO_MSA__WD__WS_WT(AVE_U_H, ave_u.h) 342 DO_MSA__WD__WS_WT(AVE_U_W, ave_u.w) 343 DO_MSA__WD__WS_WT(AVE_U_D, ave_u.d) 344 345 DO_MSA__WD__WS_WT(AVER_S_B, aver_s.b) 346 DO_MSA__WD__WS_WT(AVER_S_H, aver_s.h) 347 DO_MSA__WD__WS_WT(AVER_S_W, aver_s.w) 348 DO_MSA__WD__WS_WT(AVER_S_D, aver_s.d) 349 350 DO_MSA__WD__WS_WT(AVER_U_B, aver_u.b) 351 DO_MSA__WD__WS_WT(AVER_U_H, aver_u.h) 352 DO_MSA__WD__WS_WT(AVER_U_W, aver_u.w) 353 DO_MSA__WD__WS_WT(AVER_U_D, aver_u.d) 354 355 356 /* 357 * Int Compare 358 * ----------- 359 */ 360 361 DO_MSA__WD__WS_WT(CEQ_B, ceq.b) 362 DO_MSA__WD__WS_WT(CEQ_H, ceq.h) 363 DO_MSA__WD__WS_WT(CEQ_W, ceq.w) 364 DO_MSA__WD__WS_WT(CEQ_D, ceq.d) 365 366 DO_MSA__WD__WS_WT(CLE_S_B, cle_s.b) 367 DO_MSA__WD__WS_WT(CLE_S_H, cle_s.h) 368 DO_MSA__WD__WS_WT(CLE_S_W, cle_s.w) 369 DO_MSA__WD__WS_WT(CLE_S_D, cle_s.d) 370 371 DO_MSA__WD__WS_WT(CLE_U_B, cle_u.b) 372 DO_MSA__WD__WS_WT(CLE_U_H, cle_u.h) 373 DO_MSA__WD__WS_WT(CLE_U_W, cle_u.w) 374 DO_MSA__WD__WS_WT(CLE_U_D, cle_u.d) 375 376 DO_MSA__WD__WS_WT(CLT_S_B, clt_s.b) 377 DO_MSA__WD__WS_WT(CLT_S_H, clt_s.h) 378 DO_MSA__WD__WS_WT(CLT_S_W, clt_s.w) 379 DO_MSA__WD__WS_WT(CLT_S_D, clt_s.d) 380 381 DO_MSA__WD__WS_WT(CLT_U_B, clt_u.b) 382 DO_MSA__WD__WS_WT(CLT_U_H, clt_u.h) 383 DO_MSA__WD__WS_WT(CLT_U_W, clt_u.w) 384 DO_MSA__WD__WS_WT(CLT_U_D, clt_u.d) 385 386 387 /* 388 * Int Divide 389 * ---------- 390 */ 391 392 DO_MSA__WD__WS_WT(DIV_S_B, div_s.b) 393 DO_MSA__WD__WS_WT(DIV_S_H, div_s.h) 394 DO_MSA__WD__WS_WT(DIV_S_W, div_s.w) 395 DO_MSA__WD__WS_WT(DIV_S_D, div_s.d) 396 397 DO_MSA__WD__WS_WT(DIV_U_B, div_u.b) 398 DO_MSA__WD__WS_WT(DIV_U_H, div_u.h) 399 DO_MSA__WD__WS_WT(DIV_U_W, div_u.w) 400 DO_MSA__WD__WS_WT(DIV_U_D, div_u.d) 401 402 403 /* 404 * Int Dot Product 405 * --------------- 406 */ 407 408 DO_MSA__WD__WS_WT(DOTP_S_H, dotp_s.h) 409 DO_MSA__WD__WS_WT(DOTP_S_W, dotp_s.w) 410 DO_MSA__WD__WS_WT(DOTP_S_D, dotp_s.d) 411 412 DO_MSA__WD__WS_WT(DOTP_U_H, dotp_u.h) 413 DO_MSA__WD__WS_WT(DOTP_U_W, dotp_u.w) 414 DO_MSA__WD__WS_WT(DOTP_U_D, dotp_u.d) 415 416 417 /* 418 * Int Max Min 419 * ----------- 420 */ 421 422 DO_MSA__WD__WS_WT(MAX_A_B, max_a.b) 423 DO_MSA__WD__WS_WT(MAX_A_H, max_a.h) 424 DO_MSA__WD__WS_WT(MAX_A_W, max_a.w) 425 DO_MSA__WD__WS_WT(MAX_A_D, max_a.d) 426 427 DO_MSA__WD__WS_WT(MAX_S_B, max_s.b) 428 DO_MSA__WD__WS_WT(MAX_S_H, max_s.h) 429 DO_MSA__WD__WS_WT(MAX_S_W, max_s.w) 430 DO_MSA__WD__WS_WT(MAX_S_D, max_s.d) 431 432 DO_MSA__WD__WS_WT(MAX_U_B, max_u.b) 433 DO_MSA__WD__WS_WT(MAX_U_H, max_u.h) 434 DO_MSA__WD__WS_WT(MAX_U_W, max_u.w) 435 DO_MSA__WD__WS_WT(MAX_U_D, max_u.d) 436 437 DO_MSA__WD__WS_WT(MIN_A_B, min_a.b) 438 DO_MSA__WD__WS_WT(MIN_A_H, min_a.h) 439 DO_MSA__WD__WS_WT(MIN_A_W, min_a.w) 440 DO_MSA__WD__WS_WT(MIN_A_D, min_a.d) 441 442 DO_MSA__WD__WS_WT(MIN_S_B, min_s.b) 443 DO_MSA__WD__WS_WT(MIN_S_H, min_s.h) 444 DO_MSA__WD__WS_WT(MIN_S_W, min_s.w) 445 DO_MSA__WD__WS_WT(MIN_S_D, min_s.d) 446 447 DO_MSA__WD__WS_WT(MIN_U_B, min_u.b) 448 DO_MSA__WD__WS_WT(MIN_U_H, min_u.h) 449 DO_MSA__WD__WS_WT(MIN_U_W, min_u.w) 450 DO_MSA__WD__WS_WT(MIN_U_D, min_u.d) 451 452 453 /* 454 * Int Modulo 455 * ---------- 456 */ 457 458 DO_MSA__WD__WS_WT(MOD_S_B, mod_s.b) 459 DO_MSA__WD__WS_WT(MOD_S_H, mod_s.h) 460 DO_MSA__WD__WS_WT(MOD_S_W, mod_s.w) 461 DO_MSA__WD__WS_WT(MOD_S_D, mod_s.d) 462 463 DO_MSA__WD__WS_WT(MOD_U_B, mod_u.b) 464 DO_MSA__WD__WS_WT(MOD_U_H, mod_u.h) 465 DO_MSA__WD__WS_WT(MOD_U_W, mod_u.w) 466 DO_MSA__WD__WS_WT(MOD_U_D, mod_u.d) 467 468 469 /* 470 * Int Multiply 471 * ------------ 472 */ 473 474 DO_MSA__WD__WS_WT(MADDV_B, maddv.b) 475 DO_MSA__WD__WS_WT(MADDV_H, maddv.h) 476 DO_MSA__WD__WS_WT(MADDV_W, maddv.w) 477 DO_MSA__WD__WS_WT(MADDV_D, maddv.d) 478 479 DO_MSA__WD__WS_WT(MSUBV_B, msubv.b) 480 DO_MSA__WD__WS_WT(MSUBV_H, msubv.h) 481 DO_MSA__WD__WS_WT(MSUBV_W, msubv.w) 482 DO_MSA__WD__WS_WT(MSUBV_D, msubv.d) 483 484 DO_MSA__WD__WS_WT(MULV_B, mulv.b) 485 DO_MSA__WD__WS_WT(MULV_H, mulv.h) 486 DO_MSA__WD__WS_WT(MULV_W, mulv.w) 487 DO_MSA__WD__WS_WT(MULV_D, mulv.d) 488 489 490 /* 491 * Int Subtract 492 * ------------ 493 */ 494 495 DO_MSA__WD__WS_WT(ASUB_S_B, asub_s.b) 496 DO_MSA__WD__WS_WT(ASUB_S_H, asub_s.h) 497 DO_MSA__WD__WS_WT(ASUB_S_W, asub_s.w) 498 DO_MSA__WD__WS_WT(ASUB_S_D, asub_s.d) 499 500 DO_MSA__WD__WS_WT(ASUB_U_B, asub_u.b) 501 DO_MSA__WD__WS_WT(ASUB_U_H, asub_u.h) 502 DO_MSA__WD__WS_WT(ASUB_U_W, asub_u.w) 503 DO_MSA__WD__WS_WT(ASUB_U_D, asub_u.d) 504 505 DO_MSA__WD__WS_WT(HSUB_S_H, hsub_s.h) 506 DO_MSA__WD__WS_WT(HSUB_S_W, hsub_s.w) 507 DO_MSA__WD__WS_WT(HSUB_S_D, hsub_s.d) 508 509 DO_MSA__WD__WS_WT(HSUB_U_H, hsub_u.h) 510 DO_MSA__WD__WS_WT(HSUB_U_W, hsub_u.w) 511 DO_MSA__WD__WS_WT(HSUB_U_D, hsub_u.d) 512 513 DO_MSA__WD__WS_WT(SUBS_S_B, subs_s.b) 514 DO_MSA__WD__WS_WT(SUBS_S_H, subs_s.h) 515 DO_MSA__WD__WS_WT(SUBS_S_W, subs_s.w) 516 DO_MSA__WD__WS_WT(SUBS_S_D, subs_s.d) 517 518 DO_MSA__WD__WS_WT(SUBS_U_B, subs_u.b) 519 DO_MSA__WD__WS_WT(SUBS_U_H, subs_u.h) 520 DO_MSA__WD__WS_WT(SUBS_U_W, subs_u.w) 521 DO_MSA__WD__WS_WT(SUBS_U_D, subs_u.d) 522 523 DO_MSA__WD__WS_WT(SUBSUS_U_B, subsus_u.b) 524 DO_MSA__WD__WS_WT(SUBSUS_U_H, subsus_u.h) 525 DO_MSA__WD__WS_WT(SUBSUS_U_W, subsus_u.w) 526 DO_MSA__WD__WS_WT(SUBSUS_U_D, subsus_u.d) 527 528 DO_MSA__WD__WS_WT(SUBSUU_S_B, subsuu_s.b) 529 DO_MSA__WD__WS_WT(SUBSUU_S_H, subsuu_s.h) 530 DO_MSA__WD__WS_WT(SUBSUU_S_W, subsuu_s.w) 531 DO_MSA__WD__WS_WT(SUBSUU_S_D, subsuu_s.d) 532 533 DO_MSA__WD__WS_WT(SUBV_B, subv.b) 534 DO_MSA__WD__WS_WT(SUBV_H, subv.h) 535 DO_MSA__WD__WS_WT(SUBV_W, subv.w) 536 DO_MSA__WD__WS_WT(SUBV_D, subv.d) 537 538 539 /* 540 * Interleave 541 * ---------- 542 */ 543 544 DO_MSA__WD__WS_WT(ILVEV_B, ilvev.b) 545 DO_MSA__WD__WS_WT(ILVEV_H, ilvev.h) 546 DO_MSA__WD__WS_WT(ILVEV_W, ilvev.w) 547 DO_MSA__WD__WS_WT(ILVEV_D, ilvev.d) 548 549 DO_MSA__WD__WS_WT(ILVOD_B, ilvod.b) 550 DO_MSA__WD__WS_WT(ILVOD_H, ilvod.h) 551 DO_MSA__WD__WS_WT(ILVOD_W, ilvod.w) 552 DO_MSA__WD__WS_WT(ILVOD_D, ilvod.d) 553 554 DO_MSA__WD__WS_WT(ILVL_B, ilvl.b) 555 DO_MSA__WD__WS_WT(ILVL_H, ilvl.h) 556 DO_MSA__WD__WS_WT(ILVL_W, ilvl.w) 557 DO_MSA__WD__WS_WT(ILVL_D, ilvl.d) 558 559 DO_MSA__WD__WS_WT(ILVR_B, ilvr.b) 560 DO_MSA__WD__WS_WT(ILVR_H, ilvr.h) 561 DO_MSA__WD__WS_WT(ILVR_W, ilvr.w) 562 DO_MSA__WD__WS_WT(ILVR_D, ilvr.d) 563 564 565 /* 566 * Logic 567 * ----- 568 */ 569 570 DO_MSA__WD__WS_WT(AND_V, and.v) 571 DO_MSA__WD__WS_WT(NOR_V, nor.v) 572 DO_MSA__WD__WS_WT(OR_V, or.v) 573 DO_MSA__WD__WS_WT(XOR_V, xor.v) 574 575 576 /* 577 * Move 578 * ---- 579 */ 580 581 DO_MSA__WD__WS(MOVE_V, move.v) 582 583 584 /* 585 * Pack 586 * ---- 587 */ 588 589 DO_MSA__WD__WS_WT(PCKEV_B, pckev.b) 590 DO_MSA__WD__WD_WT(PCKEV_B__DDT, pckev.b) 591 DO_MSA__WD__WS_WD(PCKEV_B__DSD, pckev.b) 592 DO_MSA__WD__WS_WT(PCKEV_H, pckev.h) 593 DO_MSA__WD__WD_WT(PCKEV_H__DDT, pckev.h) 594 DO_MSA__WD__WS_WD(PCKEV_H__DSD, pckev.h) 595 DO_MSA__WD__WS_WT(PCKEV_W, pckev.w) 596 DO_MSA__WD__WD_WT(PCKEV_W__DDT, pckev.w) 597 DO_MSA__WD__WS_WD(PCKEV_W__DSD, pckev.w) 598 DO_MSA__WD__WS_WT(PCKEV_D, pckev.d) 599 DO_MSA__WD__WD_WT(PCKEV_D__DDT, pckev.d) 600 DO_MSA__WD__WS_WD(PCKEV_D__DSD, pckev.d) 601 602 DO_MSA__WD__WS_WT(PCKOD_B, pckod.b) 603 DO_MSA__WD__WD_WT(PCKOD_B__DDT, pckod.b) 604 DO_MSA__WD__WS_WD(PCKOD_B__DSD, pckod.b) 605 DO_MSA__WD__WS_WT(PCKOD_H, pckod.h) 606 DO_MSA__WD__WD_WT(PCKOD_H__DDT, pckod.h) 607 DO_MSA__WD__WS_WD(PCKOD_H__DSD, pckod.h) 608 DO_MSA__WD__WS_WT(PCKOD_W, pckod.w) 609 DO_MSA__WD__WD_WT(PCKOD_W__DDT, pckod.w) 610 DO_MSA__WD__WS_WD(PCKOD_W__DSD, pckod.w) 611 DO_MSA__WD__WS_WT(PCKOD_D, pckod.d) 612 DO_MSA__WD__WD_WT(PCKOD_D__DDT, pckod.d) 613 DO_MSA__WD__WS_WD(PCKOD_D__DSD, pckod.d) 614 615 DO_MSA__WD__WS_WT(VSHF_B, vshf.b) 616 DO_MSA__WD__WD_WT(VSHF_B__DDT, vshf.b) 617 DO_MSA__WD__WS_WD(VSHF_B__DSD, vshf.b) 618 DO_MSA__WD__WS_WT(VSHF_H, vshf.h) 619 DO_MSA__WD__WD_WT(VSHF_H__DDT, vshf.h) 620 DO_MSA__WD__WS_WD(VSHF_H__DSD, vshf.h) 621 DO_MSA__WD__WS_WT(VSHF_W, vshf.w) 622 DO_MSA__WD__WD_WT(VSHF_W__DDT, vshf.w) 623 DO_MSA__WD__WS_WD(VSHF_W__DSD, vshf.w) 624 DO_MSA__WD__WS_WT(VSHF_D, vshf.d) 625 DO_MSA__WD__WD_WT(VSHF_D__DDT, vshf.d) 626 DO_MSA__WD__WS_WD(VSHF_D__DSD, vshf.d) 627 628 629 /* 630 * Shift 631 * ----- 632 */ 633 634 DO_MSA__WD__WS_WT(SLL_B, sll.b) 635 DO_MSA__WD__WS_WT(SLL_H, sll.h) 636 DO_MSA__WD__WS_WT(SLL_W, sll.w) 637 DO_MSA__WD__WS_WT(SLL_D, sll.d) 638 639 DO_MSA__WD__WS_WT(SRA_B, sra.b) 640 DO_MSA__WD__WS_WT(SRA_H, sra.h) 641 DO_MSA__WD__WS_WT(SRA_W, sra.w) 642 DO_MSA__WD__WS_WT(SRA_D, sra.d) 643 644 DO_MSA__WD__WS_WT(SRAR_B, srar.b) 645 DO_MSA__WD__WS_WT(SRAR_H, srar.h) 646 DO_MSA__WD__WS_WT(SRAR_W, srar.w) 647 DO_MSA__WD__WS_WT(SRAR_D, srar.d) 648 649 DO_MSA__WD__WS_WT(SRL_B, srl.b) 650 DO_MSA__WD__WS_WT(SRL_H, srl.h) 651 DO_MSA__WD__WS_WT(SRL_W, srl.w) 652 DO_MSA__WD__WS_WT(SRL_D, srl.d) 653 654 DO_MSA__WD__WS_WT(SRLR_B, srlr.b) 655 DO_MSA__WD__WS_WT(SRLR_H, srlr.h) 656 DO_MSA__WD__WS_WT(SRLR_W, srlr.w) 657 DO_MSA__WD__WS_WT(SRLR_D, srlr.d) 658 659 660 #endif 661