You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

157 lines
6.3KB

  1. /*
  2. * Copyright (c) 2011 Janne Grunau <janne-libav@jannau.net>
  3. *
  4. * This file is part of FFmpeg.
  5. *
  6. * FFmpeg is free software; you can redistribute it and/or
  7. * modify it under the terms of the GNU Lesser General Public
  8. * License as published by the Free Software Foundation; either
  9. * version 2.1 of the License, or (at your option) any later version.
  10. *
  11. * FFmpeg is distributed in the hope that it will be useful,
  12. * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13. * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  14. * Lesser General Public License for more details.
  15. *
  16. * You should have received a copy of the GNU Lesser General Public
  17. * License along with FFmpeg; if not, write to the Free Software
  18. * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19. */
  20. #include "libavutil/arm/asm.S"
  21. #include "neon.S"
  22. .macro rv34_inv_transform r0
  23. vld1.16 {q14-q15}, [\r0,:128]
  24. vmov.s16 d0, #13
  25. vshll.s16 q12, d29, #3
  26. vshll.s16 q13, d29, #4
  27. vshll.s16 q9, d31, #3
  28. vshll.s16 q1, d31, #4
  29. vmull.s16 q10, d28, d0
  30. vmlal.s16 q10, d30, d0
  31. vmull.s16 q11, d28, d0
  32. vmlsl.s16 q11, d30, d0
  33. vsubw.s16 q12, q12, d29 @ z2 = block[i+4*1]*7
  34. vaddw.s16 q13, q13, d29 @ z3 = block[i+4*1]*17
  35. vsubw.s16 q9, q9, d31
  36. vaddw.s16 q1, q1, d31
  37. vadd.s32 q13, q13, q9 @ z3 = 17*block[i+4*1] + 7*block[i+4*3]
  38. vsub.s32 q12, q12, q1 @ z2 = 7*block[i+4*1] - 17*block[i+4*3]
  39. vadd.s32 q1, q10, q13 @ z0 + z3
  40. vadd.s32 q2, q11, q12 @ z1 + z2
  41. vsub.s32 q8, q10, q13 @ z0 - z3
  42. vsub.s32 q3, q11, q12 @ z1 - z2
  43. vtrn.32 q1, q2
  44. vtrn.32 q3, q8
  45. vswp d3, d6
  46. vswp d5, d16
  47. vmov.s32 d0, #13
  48. vadd.s32 q10, q1, q3
  49. vsub.s32 q11, q1, q3
  50. vshl.s32 q12, q2, #3
  51. vshl.s32 q9, q2, #4
  52. vmul.s32 q13, q11, d0[0]
  53. vshl.s32 q11, q8, #4
  54. vadd.s32 q9, q9, q2
  55. vshl.s32 q15, q8, #3
  56. vsub.s32 q12, q12, q2
  57. vadd.s32 q11, q11, q8
  58. vmul.s32 q14, q10, d0[0]
  59. vsub.s32 q8, q15, q8
  60. vsub.s32 q12, q12, q11
  61. vadd.s32 q9, q9, q8
  62. vadd.s32 q2, q13, q12 @ z1 + z2
  63. vadd.s32 q1, q14, q9 @ z0 + z3
  64. vsub.s32 q3, q13, q12 @ z1 - z2
  65. vsub.s32 q15, q14, q9 @ z0 - z3
  66. .endm
  67. /* void rv34_idct_add_c(uint8_t *dst, int stride, int16_t *block) */
  68. function ff_rv34_idct_add_neon, export=1
  69. mov r3, r0
  70. rv34_inv_transform r2
  71. vmov.i16 q12, #0
  72. vrshrn.s32 d16, q1, #10 @ (z0 + z3) >> 10
  73. vrshrn.s32 d17, q2, #10 @ (z1 + z2) >> 10
  74. vrshrn.s32 d18, q3, #10 @ (z1 - z2) >> 10
  75. vrshrn.s32 d19, q15, #10 @ (z0 - z3) >> 10
  76. vld1.32 {d28[]}, [r0,:32], r1
  77. vld1.32 {d29[]}, [r0,:32], r1
  78. vtrn.32 q8, q9
  79. vld1.32 {d28[1]}, [r0,:32], r1
  80. vld1.32 {d29[1]}, [r0,:32], r1
  81. vst1.16 {q12}, [r2,:128]! @ memset(block, 0, 16)
  82. vst1.16 {q12}, [r2,:128] @ memset(block+16, 0, 16)
  83. vtrn.16 d16, d17
  84. vtrn.32 d28, d29
  85. vtrn.16 d18, d19
  86. vaddw.u8 q0, q8, d28
  87. vaddw.u8 q1, q9, d29
  88. vqmovun.s16 d28, q0
  89. vqmovun.s16 d29, q1
  90. vst1.32 {d28[0]}, [r3,:32], r1
  91. vst1.32 {d28[1]}, [r3,:32], r1
  92. vst1.32 {d29[0]}, [r3,:32], r1
  93. vst1.32 {d29[1]}, [r3,:32], r1
  94. bx lr
  95. endfunc
  96. /* void rv34_inv_transform_noround_neon(int16_t *block); */
  97. function ff_rv34_inv_transform_noround_neon, export=1
  98. rv34_inv_transform r0
  99. vshl.s32 q11, q2, #1
  100. vshl.s32 q10, q1, #1
  101. vshl.s32 q12, q3, #1
  102. vshl.s32 q13, q15, #1
  103. vadd.s32 q11, q11, q2
  104. vadd.s32 q10, q10, q1
  105. vadd.s32 q12, q12, q3
  106. vadd.s32 q13, q13, q15
  107. vshrn.s32 d0, q10, #11 @ (z0 + z3)*3 >> 11
  108. vshrn.s32 d1, q11, #11 @ (z1 + z2)*3 >> 11
  109. vshrn.s32 d2, q12, #11 @ (z1 - z2)*3 >> 11
  110. vshrn.s32 d3, q13, #11 @ (z0 - z3)*3 >> 11
  111. vst4.16 {d0[0], d1[0], d2[0], d3[0]}, [r0,:64]!
  112. vst4.16 {d0[1], d1[1], d2[1], d3[1]}, [r0,:64]!
  113. vst4.16 {d0[2], d1[2], d2[2], d3[2]}, [r0,:64]!
  114. vst4.16 {d0[3], d1[3], d2[3], d3[3]}, [r0,:64]!
  115. bx lr
  116. endfunc
  117. /* void ff_rv34_idct_dc_add_neon(uint8_t *dst, int stride, int dc) */
  118. function ff_rv34_idct_dc_add_neon, export=1
  119. mov r3, r0
  120. vld1.32 {d28[]}, [r0,:32], r1
  121. vld1.32 {d29[]}, [r0,:32], r1
  122. vdup.16 d0, r2
  123. vmov.s16 d1, #169
  124. vld1.32 {d28[1]}, [r0,:32], r1
  125. vmull.s16 q1, d0, d1 @ dc * 13 * 13
  126. vld1.32 {d29[1]}, [r0,:32], r1
  127. vrshrn.s32 d0, q1, #10 @ (dc * 13 * 13 + 0x200) >> 10
  128. vmov d1, d0
  129. vaddw.u8 q2, q0, d28
  130. vaddw.u8 q3, q0, d29
  131. vqmovun.s16 d28, q2
  132. vqmovun.s16 d29, q3
  133. vst1.32 {d28[0]}, [r3,:32], r1
  134. vst1.32 {d29[0]}, [r3,:32], r1
  135. vst1.32 {d28[1]}, [r3,:32], r1
  136. vst1.32 {d29[1]}, [r3,:32], r1
  137. bx lr
  138. endfunc
  139. /* void rv34_inv_transform_dc_noround_c(int16_t *block) */
  140. function ff_rv34_inv_transform_noround_dc_neon, export=1
  141. vld1.16 {d28[]}, [r0,:16] @ block[0]
  142. vmov.i16 d4, #251
  143. vorr.s16 d4, #256 @ 13^2 * 3
  144. vmull.s16 q3, d28, d4
  145. vshrn.s32 d0, q3, #11
  146. vmov.i16 d1, d0
  147. vst1.64 {q0}, [r0,:128]!
  148. vst1.64 {q0}, [r0,:128]!
  149. bx lr
  150. endfunc