AInstEmitSimdArithmetic.cs 20 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394395396397398399400401402403404405406407408409410411412413414415416417418419420421422423424425426427428429430431432433434435436437438439440441442443444445446447448449450451452453454455456457458459460461462463464465466467468469470471472473474475476477478479480481482483484485486487488489490491492493494495496497498499500501502503504505506507508509510511512513514515516517518519520521522523524525526527528529530531532533534535536537538539540541542543544545546547548549550551552553554555556557558559560561562563564565566567568569570571572573574575576577578579580581582583584585586587588589590591592593594595596597598599600601602603604605606607608609610611612613614615616617618619620621622623624625626627628629630631632633634635636637638639640641642643644645646647648649650651652653654655656657658659660661662663664665666667668669670671672673674675676677678679680681682683684685686687688689690691692693694695696697698699700701702703704705706707708709710711712713714715716717718719720721722723724725
  1. using ChocolArm64.Decoder;
  2. using ChocolArm64.State;
  3. using ChocolArm64.Translation;
  4. using System;
  5. using System.Reflection;
  6. using System.Reflection.Emit;
  7. using static ChocolArm64.Instruction.AInstEmitSimdHelper;
  8. namespace ChocolArm64.Instruction
  9. {
  10. static partial class AInstEmit
  11. {
  12. public static void Add_V(AILEmitterCtx Context)
  13. {
  14. EmitVectorBinaryOpZx(Context, () => Context.Emit(OpCodes.Add));
  15. }
  16. public static void Addp_S(AILEmitterCtx Context)
  17. {
  18. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  19. EmitVectorExtractZx(Context, Op.Rn, 0, Op.Size);
  20. EmitVectorExtractZx(Context, Op.Rn, 1, Op.Size);
  21. Context.Emit(OpCodes.Add);
  22. EmitScalarSet(Context, Op.Rd, Op.Size);
  23. }
  24. public static void Addp_V(AILEmitterCtx Context)
  25. {
  26. AOpCodeSimdReg Op = (AOpCodeSimdReg)Context.CurrOp;
  27. int Bytes = Context.CurrOp.GetBitsCount() >> 3;
  28. int Elems = Bytes >> Op.Size;
  29. int Half = Elems >> 1;
  30. for (int Index = 0; Index < Elems; Index++)
  31. {
  32. int Elem = (Index & (Half - 1)) << 1;
  33. EmitVectorExtractZx(Context, Index < Half ? Op.Rn : Op.Rm, Elem + 0, Op.Size);
  34. EmitVectorExtractZx(Context, Index < Half ? Op.Rn : Op.Rm, Elem + 1, Op.Size);
  35. Context.Emit(OpCodes.Add);
  36. EmitVectorInsertTmp(Context, Index, Op.Size);
  37. }
  38. Context.EmitLdvectmp();
  39. Context.EmitStvec(Op.Rd);
  40. if (Op.RegisterSize == ARegisterSize.SIMD64)
  41. {
  42. EmitVectorZeroUpper(Context, Op.Rd);
  43. }
  44. }
  45. public static void Addv_V(AILEmitterCtx Context)
  46. {
  47. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  48. int Bytes = Context.CurrOp.GetBitsCount() >> 3;
  49. EmitVectorExtractZx(Context, Op.Rn, 0, Op.Size);
  50. for (int Index = 1; Index < (Bytes >> Op.Size); Index++)
  51. {
  52. EmitVectorExtractZx(Context, Op.Rn, Index, Op.Size);
  53. Context.Emit(OpCodes.Add);
  54. }
  55. EmitScalarSet(Context, Op.Rd, Op.Size);
  56. }
  57. public static void Cnt_V(AILEmitterCtx Context)
  58. {
  59. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  60. int Elems = Op.RegisterSize == ARegisterSize.SIMD128 ? 16 : 8;
  61. for (int Index = 0; Index < Elems; Index++)
  62. {
  63. EmitVectorExtractZx(Context, Op.Rn, Index, 0);
  64. Context.Emit(OpCodes.Conv_U1);
  65. ASoftFallback.EmitCall(Context, nameof(ASoftFallback.CountSetBits8));
  66. Context.Emit(OpCodes.Conv_U8);
  67. EmitVectorInsert(Context, Op.Rd, Index, 0);
  68. }
  69. if (Op.RegisterSize == ARegisterSize.SIMD64)
  70. {
  71. EmitVectorZeroUpper(Context, Op.Rd);
  72. }
  73. }
  74. public static void Fabd_S(AILEmitterCtx Context)
  75. {
  76. EmitScalarBinaryOpF(Context, () =>
  77. {
  78. Context.Emit(OpCodes.Sub);
  79. EmitUnaryMathCall(Context, nameof(Math.Abs));
  80. });
  81. }
  82. public static void Fabs_S(AILEmitterCtx Context)
  83. {
  84. EmitScalarUnaryOpF(Context, () =>
  85. {
  86. EmitUnaryMathCall(Context, nameof(Math.Abs));
  87. });
  88. }
  89. public static void Fadd_S(AILEmitterCtx Context)
  90. {
  91. EmitScalarBinaryOpF(Context, () => Context.Emit(OpCodes.Add));
  92. }
  93. public static void Fadd_V(AILEmitterCtx Context)
  94. {
  95. EmitVectorBinaryOpF(Context, () => Context.Emit(OpCodes.Add));
  96. }
  97. public static void Faddp_V(AILEmitterCtx Context)
  98. {
  99. AOpCodeSimdReg Op = (AOpCodeSimdReg)Context.CurrOp;
  100. int SizeF = Op.Size & 1;
  101. int Bytes = Context.CurrOp.GetBitsCount() >> 3;
  102. int Elems = Bytes >> SizeF + 2;
  103. int Half = Elems >> 1;
  104. for (int Index = 0; Index < Elems; Index++)
  105. {
  106. int Elem = (Index & (Half - 1)) << 1;
  107. EmitVectorExtractF(Context, Index < Half ? Op.Rn : Op.Rm, Elem + 0, SizeF);
  108. EmitVectorExtractF(Context, Index < Half ? Op.Rn : Op.Rm, Elem + 1, SizeF);
  109. Context.Emit(OpCodes.Add);
  110. EmitVectorInsertTmpF(Context, Index, SizeF);
  111. }
  112. Context.EmitLdvectmp();
  113. Context.EmitStvec(Op.Rd);
  114. if (Op.RegisterSize == ARegisterSize.SIMD64)
  115. {
  116. EmitVectorZeroUpper(Context, Op.Rd);
  117. }
  118. }
  119. public static void Fdiv_S(AILEmitterCtx Context)
  120. {
  121. EmitScalarBinaryOpF(Context, () => Context.Emit(OpCodes.Div));
  122. }
  123. public static void Fdiv_V(AILEmitterCtx Context)
  124. {
  125. EmitVectorBinaryOpF(Context, () => Context.Emit(OpCodes.Div));
  126. }
  127. public static void Fmadd_S(AILEmitterCtx Context)
  128. {
  129. EmitScalarTernaryRaOpF(Context, () =>
  130. {
  131. Context.Emit(OpCodes.Mul);
  132. Context.Emit(OpCodes.Add);
  133. });
  134. }
  135. public static void Fmax_S(AILEmitterCtx Context)
  136. {
  137. EmitScalarBinaryOpF(Context, () =>
  138. {
  139. EmitBinaryMathCall(Context, nameof(Math.Max));
  140. });
  141. }
  142. public static void Fmin_S(AILEmitterCtx Context)
  143. {
  144. EmitScalarBinaryOpF(Context, () =>
  145. {
  146. EmitBinaryMathCall(Context, nameof(Math.Min));
  147. });
  148. }
  149. public static void Fmaxnm_S(AILEmitterCtx Context)
  150. {
  151. Fmax_S(Context);
  152. }
  153. public static void Fminnm_S(AILEmitterCtx Context)
  154. {
  155. Fmin_S(Context);
  156. }
  157. public static void Fmla_V(AILEmitterCtx Context)
  158. {
  159. EmitVectorTernaryOpF(Context, () =>
  160. {
  161. Context.Emit(OpCodes.Mul);
  162. Context.Emit(OpCodes.Add);
  163. });
  164. }
  165. public static void Fmla_Ve(AILEmitterCtx Context)
  166. {
  167. EmitVectorTernaryOpByElemF(Context, () =>
  168. {
  169. Context.Emit(OpCodes.Mul);
  170. Context.Emit(OpCodes.Add);
  171. });
  172. }
  173. public static void Fmls_V(AILEmitterCtx Context)
  174. {
  175. EmitVectorTernaryOpF(Context, () =>
  176. {
  177. Context.Emit(OpCodes.Mul);
  178. Context.Emit(OpCodes.Sub);
  179. });
  180. }
  181. public static void Fmls_Ve(AILEmitterCtx Context)
  182. {
  183. EmitVectorTernaryOpByElemF(Context, () =>
  184. {
  185. Context.Emit(OpCodes.Mul);
  186. Context.Emit(OpCodes.Sub);
  187. });
  188. }
  189. public static void Fmsub_S(AILEmitterCtx Context)
  190. {
  191. EmitScalarTernaryRaOpF(Context, () =>
  192. {
  193. Context.Emit(OpCodes.Mul);
  194. Context.Emit(OpCodes.Sub);
  195. });
  196. }
  197. public static void Fmul_S(AILEmitterCtx Context)
  198. {
  199. EmitScalarBinaryOpF(Context, () => Context.Emit(OpCodes.Mul));
  200. }
  201. public static void Fmul_V(AILEmitterCtx Context)
  202. {
  203. EmitVectorBinaryOpF(Context, () => Context.Emit(OpCodes.Mul));
  204. }
  205. public static void Fmul_Ve(AILEmitterCtx Context)
  206. {
  207. EmitVectorBinaryOpByElemF(Context, () => Context.Emit(OpCodes.Mul));
  208. }
  209. public static void Fneg_S(AILEmitterCtx Context)
  210. {
  211. EmitScalarUnaryOpF(Context, () => Context.Emit(OpCodes.Neg));
  212. }
  213. public static void Fneg_V(AILEmitterCtx Context)
  214. {
  215. EmitVectorUnaryOpF(Context, () => Context.Emit(OpCodes.Neg));
  216. }
  217. public static void Fnmadd_S(AILEmitterCtx Context)
  218. {
  219. AOpCodeSimdReg Op = (AOpCodeSimdReg)Context.CurrOp;
  220. int SizeF = Op.Size & 1;
  221. EmitVectorExtractF(Context, Op.Rn, 0, SizeF);
  222. Context.Emit(OpCodes.Neg);
  223. EmitVectorExtractF(Context, Op.Rm, 0, SizeF);
  224. Context.Emit(OpCodes.Mul);
  225. EmitVectorExtractF(Context, Op.Ra, 0, SizeF);
  226. Context.Emit(OpCodes.Sub);
  227. EmitScalarSetF(Context, Op.Rd, SizeF);
  228. }
  229. public static void Fnmsub_S(AILEmitterCtx Context)
  230. {
  231. AOpCodeSimdReg Op = (AOpCodeSimdReg)Context.CurrOp;
  232. int SizeF = Op.Size & 1;
  233. EmitVectorExtractF(Context, Op.Rn, 0, SizeF);
  234. EmitVectorExtractF(Context, Op.Rm, 0, SizeF);
  235. Context.Emit(OpCodes.Mul);
  236. EmitVectorExtractF(Context, Op.Ra, 0, SizeF);
  237. Context.Emit(OpCodes.Sub);
  238. EmitScalarSetF(Context, Op.Rd, SizeF);
  239. }
  240. public static void Fnmul_S(AILEmitterCtx Context)
  241. {
  242. EmitScalarBinaryOpF(Context, () =>
  243. {
  244. Context.Emit(OpCodes.Mul);
  245. Context.Emit(OpCodes.Neg);
  246. });
  247. }
  248. public static void Frinta_S(AILEmitterCtx Context)
  249. {
  250. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  251. EmitVectorExtractF(Context, Op.Rn, 0, Op.Size);
  252. EmitRoundMathCall(Context, MidpointRounding.AwayFromZero);
  253. EmitScalarSetF(Context, Op.Rd, Op.Size);
  254. }
  255. public static void Frinta_V(AILEmitterCtx Context)
  256. {
  257. EmitVectorUnaryOpF(Context, () =>
  258. {
  259. EmitRoundMathCall(Context, MidpointRounding.AwayFromZero);
  260. });
  261. }
  262. public static void Frinti_S(AILEmitterCtx Context)
  263. {
  264. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  265. EmitScalarUnaryOpF(Context, () =>
  266. {
  267. Context.EmitLdarg(ATranslatedSub.StateArgIdx);
  268. Context.EmitCallPropGet(typeof(AThreadState), nameof(AThreadState.Fpcr));
  269. if (Op.Size == 0)
  270. {
  271. ASoftFallback.EmitCall(Context, nameof(ASoftFallback.RoundF));
  272. }
  273. else if (Op.Size == 1)
  274. {
  275. ASoftFallback.EmitCall(Context, nameof(ASoftFallback.Round));
  276. }
  277. else
  278. {
  279. throw new InvalidOperationException();
  280. }
  281. });
  282. }
  283. public static void Frinti_V(AILEmitterCtx Context)
  284. {
  285. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  286. EmitVectorUnaryOpF(Context, () =>
  287. {
  288. Context.EmitLdarg(ATranslatedSub.StateArgIdx);
  289. Context.EmitCallPropGet(typeof(AThreadState), nameof(AThreadState.Fpcr));
  290. if (Op.Size == 2)
  291. {
  292. ASoftFallback.EmitCall(Context, nameof(ASoftFallback.RoundF));
  293. }
  294. else if (Op.Size == 3)
  295. {
  296. ASoftFallback.EmitCall(Context, nameof(ASoftFallback.Round));
  297. }
  298. else
  299. {
  300. throw new InvalidOperationException();
  301. }
  302. });
  303. }
  304. public static void Frintm_S(AILEmitterCtx Context)
  305. {
  306. EmitScalarUnaryOpF(Context, () =>
  307. {
  308. EmitUnaryMathCall(Context, nameof(Math.Floor));
  309. });
  310. }
  311. public static void Frintm_V(AILEmitterCtx Context)
  312. {
  313. EmitVectorUnaryOpF(Context, () =>
  314. {
  315. EmitUnaryMathCall(Context, nameof(Math.Floor));
  316. });
  317. }
  318. public static void Frintn_S(AILEmitterCtx Context)
  319. {
  320. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  321. EmitVectorExtractF(Context, Op.Rn, 0, Op.Size);
  322. EmitRoundMathCall(Context, MidpointRounding.ToEven);
  323. EmitScalarSetF(Context, Op.Rd, Op.Size);
  324. }
  325. public static void Frintn_V(AILEmitterCtx Context)
  326. {
  327. EmitVectorUnaryOpF(Context, () =>
  328. {
  329. EmitRoundMathCall(Context, MidpointRounding.ToEven);
  330. });
  331. }
  332. public static void Frintp_S(AILEmitterCtx Context)
  333. {
  334. EmitScalarUnaryOpF(Context, () =>
  335. {
  336. EmitUnaryMathCall(Context, nameof(Math.Ceiling));
  337. });
  338. }
  339. public static void Frintp_V(AILEmitterCtx Context)
  340. {
  341. EmitVectorUnaryOpF(Context, () =>
  342. {
  343. EmitUnaryMathCall(Context, nameof(Math.Ceiling));
  344. });
  345. }
  346. public static void Frintx_S(AILEmitterCtx Context)
  347. {
  348. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  349. EmitScalarUnaryOpF(Context, () =>
  350. {
  351. Context.EmitLdarg(ATranslatedSub.StateArgIdx);
  352. Context.EmitCallPropGet(typeof(AThreadState), nameof(AThreadState.Fpcr));
  353. if (Op.Size == 0)
  354. {
  355. ASoftFallback.EmitCall(Context, nameof(ASoftFallback.RoundF));
  356. }
  357. else if (Op.Size == 1)
  358. {
  359. ASoftFallback.EmitCall(Context, nameof(ASoftFallback.Round));
  360. }
  361. else
  362. {
  363. throw new InvalidOperationException();
  364. }
  365. });
  366. }
  367. public static void Frintx_V(AILEmitterCtx Context)
  368. {
  369. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  370. EmitVectorUnaryOpF(Context, () =>
  371. {
  372. Context.EmitLdarg(ATranslatedSub.StateArgIdx);
  373. Context.EmitCallPropGet(typeof(AThreadState), nameof(AThreadState.Fpcr));
  374. if (Op.Size == 0)
  375. {
  376. ASoftFallback.EmitCall(Context, nameof(ASoftFallback.RoundF));
  377. }
  378. else if (Op.Size == 1)
  379. {
  380. ASoftFallback.EmitCall(Context, nameof(ASoftFallback.Round));
  381. }
  382. else
  383. {
  384. throw new InvalidOperationException();
  385. }
  386. });
  387. }
  388. public static void Frsqrte_S(AILEmitterCtx Context)
  389. {
  390. EmitScalarUnaryOpF(Context, () =>
  391. {
  392. EmitUnarySoftFloatCall(Context, nameof(ASoftFloat.InvSqrtEstimate));
  393. });
  394. }
  395. public static void Frsqrte_V(AILEmitterCtx Context)
  396. {
  397. EmitVectorUnaryOpF(Context, () =>
  398. {
  399. EmitUnarySoftFloatCall(Context, nameof(ASoftFloat.InvSqrtEstimate));
  400. });
  401. }
  402. public static void Frsqrts_S(AILEmitterCtx Context)
  403. {
  404. EmitScalarBinaryOpF(Context, () => EmitFrsqrts(Context));
  405. }
  406. public static void Frsqrts_V(AILEmitterCtx Context)
  407. {
  408. EmitVectorBinaryOpF(Context, () => EmitFrsqrts(Context));
  409. }
  410. private static void EmitFrsqrts(AILEmitterCtx Context)
  411. {
  412. IAOpCodeSimd Op = (IAOpCodeSimd)Context.CurrOp;
  413. int SizeF = Op.Size & 1;
  414. Context.Emit(OpCodes.Mul);
  415. if (SizeF == 0)
  416. {
  417. Context.EmitLdc_R4(3);
  418. }
  419. else /* if (SizeF == 1) */
  420. {
  421. Context.EmitLdc_R8(3);
  422. }
  423. Context.Emit(OpCodes.Add);
  424. if (SizeF == 0)
  425. {
  426. Context.EmitLdc_R4(0.5f);
  427. }
  428. else /* if (SizeF == 1) */
  429. {
  430. Context.EmitLdc_R8(0.5);
  431. }
  432. Context.Emit(OpCodes.Mul);
  433. }
  434. public static void Fsqrt_S(AILEmitterCtx Context)
  435. {
  436. EmitScalarUnaryOpF(Context, () =>
  437. {
  438. EmitUnaryMathCall(Context, nameof(Math.Sqrt));
  439. });
  440. }
  441. public static void Fsub_S(AILEmitterCtx Context)
  442. {
  443. EmitScalarBinaryOpF(Context, () => Context.Emit(OpCodes.Sub));
  444. }
  445. public static void Fsub_V(AILEmitterCtx Context)
  446. {
  447. EmitVectorBinaryOpF(Context, () => Context.Emit(OpCodes.Sub));
  448. }
  449. public static void Mla_V(AILEmitterCtx Context)
  450. {
  451. EmitVectorTernaryOpZx(Context, () =>
  452. {
  453. Context.Emit(OpCodes.Mul);
  454. Context.Emit(OpCodes.Add);
  455. });
  456. }
  457. public static void Mla_Ve(AILEmitterCtx Context)
  458. {
  459. EmitVectorTernaryOpByElemZx(Context, () =>
  460. {
  461. Context.Emit(OpCodes.Mul);
  462. Context.Emit(OpCodes.Add);
  463. });
  464. }
  465. public static void Mls_V(AILEmitterCtx Context)
  466. {
  467. EmitVectorTernaryOpZx(Context, () =>
  468. {
  469. Context.Emit(OpCodes.Mul);
  470. Context.Emit(OpCodes.Sub);
  471. });
  472. }
  473. public static void Mul_V(AILEmitterCtx Context)
  474. {
  475. EmitVectorBinaryOpZx(Context, () => Context.Emit(OpCodes.Mul));
  476. }
  477. public static void Mul_Ve(AILEmitterCtx Context)
  478. {
  479. EmitVectorBinaryOpByElemZx(Context, () => Context.Emit(OpCodes.Mul));
  480. }
  481. public static void Neg_V(AILEmitterCtx Context)
  482. {
  483. EmitVectorUnaryOpSx(Context, () => Context.Emit(OpCodes.Neg));
  484. }
  485. public static void Saddw_V(AILEmitterCtx Context)
  486. {
  487. EmitVectorWidenRmBinaryOpSx(Context, () => Context.Emit(OpCodes.Add));
  488. }
  489. public static void Smax_V(AILEmitterCtx Context)
  490. {
  491. Type[] Types = new Type[] { typeof(long), typeof(long) };
  492. MethodInfo MthdInfo = typeof(Math).GetMethod(nameof(Math.Max), Types);
  493. EmitVectorBinaryOpSx(Context, () => Context.EmitCall(MthdInfo));
  494. }
  495. public static void Smin_V(AILEmitterCtx Context)
  496. {
  497. Type[] Types = new Type[] { typeof(long), typeof(long) };
  498. MethodInfo MthdInfo = typeof(Math).GetMethod(nameof(Math.Min), Types);
  499. EmitVectorBinaryOpSx(Context, () => Context.EmitCall(MthdInfo));
  500. }
  501. public static void Smlal_V(AILEmitterCtx Context)
  502. {
  503. EmitVectorWidenRnRmTernaryOpSx(Context, () =>
  504. {
  505. Context.Emit(OpCodes.Mul);
  506. Context.Emit(OpCodes.Add);
  507. });
  508. }
  509. public static void Smull_V(AILEmitterCtx Context)
  510. {
  511. EmitVectorWidenRnRmBinaryOpSx(Context, () => Context.Emit(OpCodes.Mul));
  512. }
  513. public static void Sub_S(AILEmitterCtx Context)
  514. {
  515. EmitScalarBinaryOpZx(Context, () => Context.Emit(OpCodes.Sub));
  516. }
  517. public static void Sub_V(AILEmitterCtx Context)
  518. {
  519. EmitVectorBinaryOpZx(Context, () => Context.Emit(OpCodes.Sub));
  520. }
  521. public static void Uabd_V(AILEmitterCtx Context)
  522. {
  523. EmitVectorBinaryOpZx(Context, () => EmitAbd(Context));
  524. }
  525. public static void Uabdl_V(AILEmitterCtx Context)
  526. {
  527. EmitVectorWidenRnRmBinaryOpZx(Context, () => EmitAbd(Context));
  528. }
  529. private static void EmitAbd(AILEmitterCtx Context)
  530. {
  531. Context.Emit(OpCodes.Sub);
  532. Type[] Types = new Type[] { typeof(long) };
  533. Context.EmitCall(typeof(Math).GetMethod(nameof(Math.Abs), Types));
  534. }
  535. public static void Uaddl_V(AILEmitterCtx Context)
  536. {
  537. EmitVectorWidenRnRmBinaryOpZx(Context, () => Context.Emit(OpCodes.Add));
  538. }
  539. public static void Uaddlv_V(AILEmitterCtx Context)
  540. {
  541. AOpCodeSimd Op = (AOpCodeSimd)Context.CurrOp;
  542. int Bytes = Context.CurrOp.GetBitsCount() >> 3;
  543. EmitVectorExtractZx(Context, Op.Rn, 0, Op.Size);
  544. for (int Index = 1; Index < (Bytes >> Op.Size); Index++)
  545. {
  546. EmitVectorExtractZx(Context, Op.Rn, Index, Op.Size);
  547. Context.Emit(OpCodes.Add);
  548. }
  549. EmitScalarSet(Context, Op.Rd, Op.Size + 1);
  550. }
  551. public static void Uaddw_V(AILEmitterCtx Context)
  552. {
  553. EmitVectorWidenRmBinaryOpZx(Context, () => Context.Emit(OpCodes.Add));
  554. }
  555. public static void Uhadd_V(AILEmitterCtx Context)
  556. {
  557. EmitVectorBinaryOpZx(Context, () =>
  558. {
  559. Context.Emit(OpCodes.Add);
  560. Context.EmitLdc_I4(1);
  561. Context.Emit(OpCodes.Shr_Un);
  562. });
  563. }
  564. public static void Umull_V(AILEmitterCtx Context)
  565. {
  566. EmitVectorWidenRnRmBinaryOpZx(Context, () => Context.Emit(OpCodes.Mul));
  567. }
  568. }
  569. }