1/* Function sinh vectorized with AVX2.
2 Copyright (C) 2021-2024 Free Software Foundation, Inc.
3 This file is part of the GNU C Library.
4
5 The GNU C Library is free software; you can redistribute it and/or
6 modify it under the terms of the GNU Lesser General Public
7 License as published by the Free Software Foundation; either
8 version 2.1 of the License, or (at your option) any later version.
9
10 The GNU C Library is distributed in the hope that it will be useful,
11 but WITHOUT ANY WARRANTY; without even the implied warranty of
12 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
13 Lesser General Public License for more details.
14
15 You should have received a copy of the GNU Lesser General Public
16 License along with the GNU C Library; if not, see
17 https://www.gnu.org/licenses/. */
18
19/*
20 * ALGORITHM DESCRIPTION:
21 *
22 * Compute sinh(x) as (exp(x)-exp(-x))/2,
23 * where exp is calculated as
24 * exp(M*ln2 + ln2*(j/2^k) + r) = 2^M * 2^(j/2^k) * exp(r)
25 *
26 * Special cases:
27 *
28 * sinh(NaN) = quiet NaN, and raise invalid exception
29 * sinh(INF) = that INF
30 * sinh(x) = x for subnormals
31 * sinh(x) overflows for big x and returns MAXLOG+log(2)
32 *
33 */
34
35/* Offsets for data table __svml_dsinh_data_internal
36 */
37#define _dbInvLn2 0
38#define _dbLn2hi 32
39#define _dbLn2lo 64
40#define _dSign 96
41#define _dbT 128
42#define _dbShifter 2176
43#define _iDomainRange 2208
44#define _dPC2 2240
45#define _dPC3 2272
46#define _dPC4 2304
47#define _dPC5 2336
48#define _lIndexMask 2368
49
50#include <sysdep.h>
51
52 .section .text.avx2, "ax", @progbits
53ENTRY(_ZGVdN4v_sinh_avx2)
54 pushq %rbp
55 cfi_def_cfa_offset(16)
56 movq %rsp, %rbp
57 cfi_def_cfa(6, 16)
58 cfi_offset(6, -16)
59 andq $-32, %rsp
60 subq $96, %rsp
61 lea _dbT+8+__svml_dsinh_data_internal(%rip), %r8
62 vmovupd _dbShifter+__svml_dsinh_data_internal(%rip), %ymm12
63
64 /*
65 * Load argument
66 * dM = x*2^K/log(2) + RShifter
67 */
68 vmovupd _dbInvLn2+__svml_dsinh_data_internal(%rip), %ymm5
69 vmovupd _dbLn2hi+__svml_dsinh_data_internal(%rip), %ymm13
70 vmovapd %ymm0, %ymm8
71
72 /*
73 * VLOAD_CONST( D, dPC[0], TAB._dPC1 );
74 * Abs argument
75 */
76 vandpd _dSign+__svml_dsinh_data_internal(%rip), %ymm8, %ymm7
77 vxorpd %ymm8, %ymm7, %ymm6
78 vfmadd213pd %ymm12, %ymm6, %ymm5
79
80 /*
81 * R
82 * dN = dM - RShifter
83 */
84 vsubpd %ymm12, %ymm5, %ymm3
85
86 /*
87 * Index and lookup
88 * j
89 */
90 vandps _lIndexMask+__svml_dsinh_data_internal(%rip), %ymm5, %ymm4
91
92 /*
93 * Check for overflow\underflow
94 *
95 */
96 vextractf128 $1, %ymm6, %xmm9
97 vshufps $221, %xmm9, %xmm6, %xmm10
98
99 /* dR = dX - dN*Log2_hi/2^K */
100 vfnmadd231pd %ymm13, %ymm3, %ymm6
101 vpcmpgtd _iDomainRange+__svml_dsinh_data_internal(%rip), %xmm10, %xmm11
102 vmovmskps %xmm11, %eax
103
104 /* dR = (dX - dN*Log2_hi/2^K) - dN*Log2_lo/2^K */
105 vfnmadd231pd _dbLn2lo+__svml_dsinh_data_internal(%rip), %ymm3, %ymm6
106 vextractf128 $1, %ymm4, %xmm0
107 vmovd %xmm4, %edx
108 vmovd %xmm0, %esi
109 shll $4, %edx
110 vpextrd $2, %xmm4, %ecx
111
112 /* split j and N */
113 vxorps %ymm4, %ymm5, %ymm3
114 shll $4, %esi
115 vpextrd $2, %xmm0, %edi
116 shll $4, %ecx
117
118 /*
119 * G1, G2, G3: dTdif, dTn * 2^N, 2^(-N)
120 * lM now is an EXP(2^N)
121 */
122 vpsllq $45, %ymm3, %ymm4
123 vmovq (%rdx, %r8), %xmm14
124 vmovq (%rsi, %r8), %xmm1
125 vmovhpd (%rcx, %r8), %xmm14, %xmm15
126 shll $4, %edi
127 vmovhpd (%rdi, %r8), %xmm1, %xmm2
128
129 /* dR2 = dR^2 */
130 vmulpd %ymm6, %ymm6, %ymm1
131 vmovq -8(%rdx, %r8), %xmm9
132 vmovq -8(%rsi, %r8), %xmm11
133 vmovhpd -8(%rcx, %r8), %xmm9, %xmm10
134 vmovhpd -8(%rdi, %r8), %xmm11, %xmm12
135 vinsertf128 $1, %xmm2, %ymm15, %ymm2
136
137 /* */
138 vpaddq %ymm4, %ymm2, %ymm5
139
140 /* */
141 vpsubq %ymm4, %ymm2, %ymm14
142
143 /* dG3 = dTn*2^N + dTn*2^-N */
144 vaddpd %ymm14, %ymm5, %ymm2
145
146 /* dG2 = dTn*2^N - dTn*2^-N */
147 vsubpd %ymm14, %ymm5, %ymm14
148
149 /*
150 * sinh(r) = r*((a1=1)+r^2*(a3+r^2*a5)) = r + r*(r^2*(a3+r^2*a5)) ....
151 * dSinh_r = (a3+r^2*a5)
152 */
153 vmovupd _dPC5+__svml_dsinh_data_internal(%rip), %ymm5
154 vfmadd213pd _dPC3+__svml_dsinh_data_internal(%rip), %ymm1, %ymm5
155 vinsertf128 $1, %xmm12, %ymm10, %ymm13
156 vpaddq %ymm4, %ymm13, %ymm0
157
158 /* dSinh_r = r^2*(a3+r^2*a5) */
159 vmulpd %ymm5, %ymm1, %ymm4
160
161 /* dG2 += dG1 */
162 vaddpd %ymm14, %ymm0, %ymm3
163
164 /* dG1 += dG3 */
165 vaddpd %ymm2, %ymm0, %ymm0
166
167 /* dSinh_r = r + r*(r^2*(a3+r^2*a5)) */
168 vfmadd213pd %ymm6, %ymm6, %ymm4
169
170 /*
171 * poly(r) = (dG2+dG1)+dG3*sinh(dR)+dG1*sinh(dR)+(dG1+dG2)*dR2*(a2 +a4*dR2)
172 * dOut = (a2 +a4*dR2)
173 */
174 vmovupd _dPC4+__svml_dsinh_data_internal(%rip), %ymm6
175 vfmadd213pd _dPC2+__svml_dsinh_data_internal(%rip), %ymm1, %ymm6
176
177 /* dOut = dR2*(a2 +a4*dR2) */
178 vmulpd %ymm6, %ymm1, %ymm1
179
180 /* dOut = dG2*dR2*(a2 +a4*dR2) */
181 vmulpd %ymm3, %ymm1, %ymm6
182
183 /* dOut = dG1*sinh(dR)+dG2*dR2*(a2 +a4*dR2) */
184 vfmadd213pd %ymm6, %ymm0, %ymm4
185
186 /* dOut = dG2 + dG1*sinh(dR)+dG2*dR2*(a2 +a4*dR2) */
187 vaddpd %ymm4, %ymm3, %ymm5
188
189 /* Ret H */
190 vorpd %ymm5, %ymm7, %ymm0
191 testl %eax, %eax
192
193 /* Go to special inputs processing branch */
194 jne L(SPECIAL_VALUES_BRANCH)
195 # LOE rbx r12 r13 r14 r15 eax ymm0 ymm8
196
197 /* Restore registers
198 * and exit the function
199 */
200
201L(EXIT):
202 movq %rbp, %rsp
203 popq %rbp
204 cfi_def_cfa(7, 8)
205 cfi_restore(6)
206 ret
207 cfi_def_cfa(6, 16)
208 cfi_offset(6, -16)
209
210 /* Branch to process
211 * special inputs
212 */
213
214L(SPECIAL_VALUES_BRANCH):
215 vmovupd %ymm8, 32(%rsp)
216 vmovupd %ymm0, 64(%rsp)
217 # LOE rbx r12 r13 r14 r15 eax ymm0
218
219 xorl %edx, %edx
220 # LOE rbx r12 r13 r14 r15 eax edx
221
222 vzeroupper
223 movq %r12, 16(%rsp)
224 /* DW_CFA_expression: r12 (r12) (DW_OP_lit8; DW_OP_minus; DW_OP_const4s: -32; DW_OP_and; DW_OP_const4s: -80; DW_OP_plus) */
225 .cfi_escape 0x10, 0x0c, 0x0e, 0x38, 0x1c, 0x0d, 0xe0, 0xff, 0xff, 0xff, 0x1a, 0x0d, 0xb0, 0xff, 0xff, 0xff, 0x22
226 movl %edx, %r12d
227 movq %r13, 8(%rsp)
228 /* DW_CFA_expression: r13 (r13) (DW_OP_lit8; DW_OP_minus; DW_OP_const4s: -32; DW_OP_and; DW_OP_const4s: -88; DW_OP_plus) */
229 .cfi_escape 0x10, 0x0d, 0x0e, 0x38, 0x1c, 0x0d, 0xe0, 0xff, 0xff, 0xff, 0x1a, 0x0d, 0xa8, 0xff, 0xff, 0xff, 0x22
230 movl %eax, %r13d
231 movq %r14, (%rsp)
232 /* DW_CFA_expression: r14 (r14) (DW_OP_lit8; DW_OP_minus; DW_OP_const4s: -32; DW_OP_and; DW_OP_const4s: -96; DW_OP_plus) */
233 .cfi_escape 0x10, 0x0e, 0x0e, 0x38, 0x1c, 0x0d, 0xe0, 0xff, 0xff, 0xff, 0x1a, 0x0d, 0xa0, 0xff, 0xff, 0xff, 0x22
234 # LOE rbx r15 r12d r13d
235
236 /* Range mask
237 * bits check
238 */
239
240L(RANGEMASK_CHECK):
241 btl %r12d, %r13d
242
243 /* Call scalar math function */
244 jc L(SCALAR_MATH_CALL)
245 # LOE rbx r15 r12d r13d
246
247 /* Special inputs
248 * processing loop
249 */
250
251L(SPECIAL_VALUES_LOOP):
252 incl %r12d
253 cmpl $4, %r12d
254
255 /* Check bits in range mask */
256 jl L(RANGEMASK_CHECK)
257 # LOE rbx r15 r12d r13d
258
259 movq 16(%rsp), %r12
260 cfi_restore(12)
261 movq 8(%rsp), %r13
262 cfi_restore(13)
263 movq (%rsp), %r14
264 cfi_restore(14)
265 vmovupd 64(%rsp), %ymm0
266
267 /* Go to exit */
268 jmp L(EXIT)
269 /* DW_CFA_expression: r12 (r12) (DW_OP_lit8; DW_OP_minus; DW_OP_const4s: -32; DW_OP_and; DW_OP_const4s: -80; DW_OP_plus) */
270 .cfi_escape 0x10, 0x0c, 0x0e, 0x38, 0x1c, 0x0d, 0xe0, 0xff, 0xff, 0xff, 0x1a, 0x0d, 0xb0, 0xff, 0xff, 0xff, 0x22
271 /* DW_CFA_expression: r13 (r13) (DW_OP_lit8; DW_OP_minus; DW_OP_const4s: -32; DW_OP_and; DW_OP_const4s: -88; DW_OP_plus) */
272 .cfi_escape 0x10, 0x0d, 0x0e, 0x38, 0x1c, 0x0d, 0xe0, 0xff, 0xff, 0xff, 0x1a, 0x0d, 0xa8, 0xff, 0xff, 0xff, 0x22
273 /* DW_CFA_expression: r14 (r14) (DW_OP_lit8; DW_OP_minus; DW_OP_const4s: -32; DW_OP_and; DW_OP_const4s: -96; DW_OP_plus) */
274 .cfi_escape 0x10, 0x0e, 0x0e, 0x38, 0x1c, 0x0d, 0xe0, 0xff, 0xff, 0xff, 0x1a, 0x0d, 0xa0, 0xff, 0xff, 0xff, 0x22
275 # LOE rbx r12 r13 r14 r15 ymm0
276
277 /* Scalar math function call
278 * to process special input
279 */
280
281L(SCALAR_MATH_CALL):
282 movl %r12d, %r14d
283 vmovsd 32(%rsp, %r14, 8), %xmm0
284 call sinh@PLT
285 # LOE rbx r14 r15 r12d r13d xmm0
286
287 vmovsd %xmm0, 64(%rsp, %r14, 8)
288
289 /* Process special inputs in loop */
290 jmp L(SPECIAL_VALUES_LOOP)
291 # LOE rbx r15 r12d r13d
292END(_ZGVdN4v_sinh_avx2)
293
294 .section .rodata, "a"
295 .align 32
296
297#ifdef __svml_dsinh_data_internal_typedef
298typedef unsigned int VUINT32;
299typedef struct {
300 __declspec(align(32)) VUINT32 _dbInvLn2[4][2];
301 __declspec(align(32)) VUINT32 _dbLn2hi[4][2];
302 __declspec(align(32)) VUINT32 _dbLn2lo[4][2];
303 __declspec(align(32)) VUINT32 _dSign[4][2]; // 0x8000000000000000
304 __declspec(align(32)) VUINT32 _dbT[(1<<7)][2][2]; // precalc poly coeff
305 __declspec(align(32)) VUINT32 _dbShifter[4][2];
306 __declspec(align(32)) VUINT32 _iDomainRange[8][1];
307 __declspec(align(32)) VUINT32 _dPC2[4][2];
308 __declspec(align(32)) VUINT32 _dPC3[4][2];
309 __declspec(align(32)) VUINT32 _dPC4[4][2];
310 __declspec(align(32)) VUINT32 _dPC5[4][2];
311 __declspec(align(32)) VUINT32 _lIndexMask[4][2];
312} __svml_dsinh_data_internal;
313#endif
314__svml_dsinh_data_internal:
315 .quad 0x3FF71547652B82FE, 0x3FF71547652B82FE, 0x3FF71547652B82FE, 0x3FF71547652B82FE /* _dbInvLn2 = 1/log(2) */
316 .align 32
317 .quad 0x3FE62E42FEFA0000, 0x3FE62E42FEFA0000, 0x3FE62E42FEFA0000, 0x3FE62E42FEFA0000 /* _dbLn2hi = log(2) hi */
318 .align 32
319 .quad 0x3D7CF79ABC9E3B3A, 0x3D7CF79ABC9E3B3A, 0x3D7CF79ABC9E3B3A, 0x3D7CF79ABC9E3B3A /* _dbLn2lo = log(2) lo */
320 .align 32
321 .quad 0x8000000000000000, 0x8000000000000000, 0x8000000000000000, 0x8000000000000000 /* _dSign */
322 //_dbT
323 .align 32
324 .quad 0x0000000000000000, 0x3FE0000000000000 // 2^( 0 /128-1) - 2^(- 0 /128-1), 2^(- 0 /128-1)
325 .quad 0x3F762E4A19BD1E74, 0x3FDFD3C22B8F71F1 // 2^( 1 /128-1) - 2^(- 1 /128-1), 2^(- 1 /128-1)
326 .quad 0x3F862E5F6A0DFD36, 0x3FDFA7C1819E90D8 // 2^( 2 /128-1) - 2^(- 2 /128-1), 2^(- 2 /128-1)
327 .quad 0x3F90A2E234040F5F, 0x3FDF7BFDAD9CBE14 // 2^( 3 /128-1) - 2^(- 3 /128-1), 2^(- 3 /128-1)
328 .quad 0x3F962EB4ABCC5A81, 0x3FDF50765B6E4540 // 2^( 4 /128-1) - 2^(- 4 /128-1), 2^(- 4 /128-1)
329 .quad 0x3F9BBAB1C5033244, 0x3FDF252B376BBA97 // 2^( 5 /128-1) - 2^(- 5 /128-1), 2^(- 5 /128-1)
330 .quad 0x3FA0A372144EEB45, 0x3FDEFA1BEE615A27 // 2^( 6 /128-1) - 2^(- 6 /128-1), 2^(- 6 /128-1)
331 .quad 0x3FA369AB3FFBF8B0, 0x3FDECF482D8E67F1 // 2^( 7 /128-1) - 2^(- 7 /128-1), 2^(- 7 /128-1)
332 .quad 0x3FA63009BA740A2A, 0x3FDEA4AFA2A490DA // 2^( 8 /128-1) - 2^(- 8 /128-1), 2^(- 8 /128-1)
333 .quad 0x3FA8F692D8EA1B5A, 0x3FDE7A51FBC74C83 // 2^( 9 /128-1) - 2^(- 9 /128-1), 2^(- 9 /128-1)
334 .quad 0x3FABBD4BF0E31A6F, 0x3FDE502EE78B3FF6 // 2^( 10 /128-1) - 2^(- 10 /128-1), 2^(- 10 /128-1)
335 .quad 0x3FAE843A5840286A, 0x3FDE264614F5A129 // 2^( 11 /128-1) - 2^(- 11 /128-1), 2^(- 11 /128-1)
336 .quad 0x3FB0A5B1B2A46D0A, 0x3FDDFC97337B9B5F // 2^( 12 /128-1) - 2^(- 12 /128-1), 2^(- 12 /128-1)
337 .quad 0x3FB20966375ABCDF, 0x3FDDD321F301B460 // 2^( 13 /128-1) - 2^(- 13 /128-1), 2^(- 13 /128-1)
338 .quad 0x3FB36D3D65DCA4E8, 0x3FDDA9E603DB3285 // 2^( 14 /128-1) - 2^(- 14 /128-1), 2^(- 14 /128-1)
339 .quad 0x3FB4D139EA06642A, 0x3FDD80E316C98398 // 2^( 15 /128-1) - 2^(- 15 /128-1), 2^(- 15 /128-1)
340 .quad 0x3FB6355E6FFBF9BA, 0x3FDD5818DCFBA487 // 2^( 16 /128-1) - 2^(- 16 /128-1), 2^(- 16 /128-1)
341 .quad 0x3FB799ADA42E4788, 0x3FDD2F87080D89F2 // 2^( 17 /128-1) - 2^(- 17 /128-1), 2^(- 17 /128-1)
342 .quad 0x3FB8FE2A336035BC, 0x3FDD072D4A07897C // 2^( 18 /128-1) - 2^(- 18 /128-1), 2^(- 18 /128-1)
343 .quad 0x3FBA62D6CAABD6B6, 0x3FDCDF0B555DC3FA // 2^( 19 /128-1) - 2^(- 19 /128-1), 2^(- 19 /128-1)
344 .quad 0x3FBBC7B617878BAF, 0x3FDCB720DCEF9069 // 2^( 20 /128-1) - 2^(- 20 /128-1), 2^(- 20 /128-1)
345 .quad 0x3FBD2CCAC7CB2A11, 0x3FDC8F6D9406E7B5 // 2^( 21 /128-1) - 2^(- 21 /128-1), 2^(- 21 /128-1)
346 .quad 0x3FBE921789B52185, 0x3FDC67F12E57D14B // 2^( 22 /128-1) - 2^(- 22 /128-1), 2^(- 22 /128-1)
347 .quad 0x3FBFF79F0BEFA2C7, 0x3FDC40AB5FFFD07A // 2^( 23 /128-1) - 2^(- 23 /128-1), 2^(- 23 /128-1)
348 .quad 0x3FC0AEB1FECAE3A9, 0x3FDC199BDD85529C // 2^( 24 /128-1) - 2^(- 24 /128-1), 2^(- 24 /128-1)
349 .quad 0x3FC161B4871C5CEC, 0x3FDBF2C25BD71E09 // 2^( 25 /128-1) - 2^(- 25 /128-1), 2^(- 25 /128-1)
350 .quad 0x3FC214D876F26FD0, 0x3FDBCC1E904BC1D2 // 2^( 26 /128-1) - 2^(- 26 /128-1), 2^(- 26 /128-1)
351 .quad 0x3FC2C81F2693816F, 0x3FDBA5B030A1064A // 2^( 27 /128-1) - 2^(- 27 /128-1), 2^(- 27 /128-1)
352 .quad 0x3FC37B89EE88BEF7, 0x3FDB7F76F2FB5E47 // 2^( 28 /128-1) - 2^(- 28 /128-1), 2^(- 28 /128-1)
353 .quad 0x3FC42F1A27A0B3CD, 0x3FDB59728DE5593A // 2^( 29 /128-1) - 2^(- 29 /128-1), 2^(- 29 /128-1)
354 .quad 0x3FC4E2D12AF1E037, 0x3FDB33A2B84F15FB // 2^( 30 /128-1) - 2^(- 30 /128-1), 2^(- 30 /128-1)
355 .quad 0x3FC596B051DD508D, 0x3FDB0E07298DB666 // 2^( 31 /128-1) - 2^(- 31 /128-1), 2^(- 31 /128-1)
356 .quad 0x3FC64AB8F61134FA, 0x3FDAE89F995AD3AD // 2^( 32 /128-1) - 2^(- 32 /128-1), 2^(- 32 /128-1)
357 .quad 0x3FC6FEEC718B79D1, 0x3FDAC36BBFD3F37A // 2^( 33 /128-1) - 2^(- 33 /128-1), 2^(- 33 /128-1)
358 .quad 0x3FC7B34C1E9C607F, 0x3FDA9E6B5579FDBF // 2^( 34 /128-1) - 2^(- 34 /128-1), 2^(- 34 /128-1)
359 .quad 0x3FC867D957E91912, 0x3FDA799E1330B358 // 2^( 35 /128-1) - 2^(- 35 /128-1), 2^(- 35 /128-1)
360 .quad 0x3FC91C95786E5C72, 0x3FDA5503B23E255D // 2^( 36 /128-1) - 2^(- 36 /128-1), 2^(- 36 /128-1)
361 .quad 0x3FC9D181DB83072F, 0x3FDA309BEC4A2D33 // 2^( 37 /128-1) - 2^(- 37 /128-1), 2^(- 37 /128-1)
362 .quad 0x3FCA869FDCDAB512, 0x3FDA0C667B5DE565 // 2^( 38 /128-1) - 2^(- 38 /128-1), 2^(- 38 /128-1)
363 .quad 0x3FCB3BF0D8885D4C, 0x3FD9E86319E32323 // 2^( 39 /128-1) - 2^(- 39 /128-1), 2^(- 39 /128-1)
364 .quad 0x3FCBF1762B00EF69, 0x3FD9C49182A3F090 // 2^( 40 /128-1) - 2^(- 40 /128-1), 2^(- 40 /128-1)
365 .quad 0x3FCCA731311DF0FB, 0x3FD9A0F170CA07BA // 2^( 41 /128-1) - 2^(- 41 /128-1), 2^(- 41 /128-1)
366 .quad 0x3FCD5D2348201C09, 0x3FD97D829FDE4E50 // 2^( 42 /128-1) - 2^(- 42 /128-1), 2^(- 42 /128-1)
367 .quad 0x3FCE134DCDB1FE3E, 0x3FD95A44CBC8520F // 2^( 43 /128-1) - 2^(- 43 /128-1), 2^(- 43 /128-1)
368 .quad 0x3FCEC9B21FEA98EA, 0x3FD93737B0CDC5E5 // 2^( 44 /128-1) - 2^(- 44 /128-1), 2^(- 44 /128-1)
369 .quad 0x3FCF80519D5001D3, 0x3FD9145B0B91FFC6 // 2^( 45 /128-1) - 2^(- 45 /128-1), 2^(- 45 /128-1)
370 .quad 0x3FD01B96D26D026A, 0x3FD8F1AE99157736 // 2^( 46 /128-1) - 2^(- 46 /128-1), 2^(- 46 /128-1)
371 .quad 0x3FD07723CAFA6331, 0x3FD8CF3216B5448C // 2^( 47 /128-1) - 2^(- 47 /128-1), 2^(- 47 /128-1)
372 .quad 0x3FD0D2D06841B373, 0x3FD8ACE5422AA0DB // 2^( 48 /128-1) - 2^(- 48 /128-1), 2^(- 48 /128-1)
373 .quad 0x3FD12E9D5A715381, 0x3FD88AC7D98A6699 // 2^( 49 /128-1) - 2^(- 49 /128-1), 2^(- 49 /128-1)
374 .quad 0x3FD18A8B51F5C661, 0x3FD868D99B4492ED // 2^( 50 /128-1) - 2^(- 50 /128-1), 2^(- 50 /128-1)
375 .quad 0x3FD1E69AFF7B04D7, 0x3FD8471A4623C7AD // 2^( 51 /128-1) - 2^(- 51 /128-1), 2^(- 51 /128-1)
376 .quad 0x3FD242CD13EDD0F1, 0x3FD82589994CCE13 // 2^( 52 /128-1) - 2^(- 52 /128-1), 2^(- 52 /128-1)
377 .quad 0x3FD29F22407D0A0C, 0x3FD80427543E1A12 // 2^( 53 /128-1) - 2^(- 53 /128-1), 2^(- 53 /128-1)
378 .quad 0x3FD2FB9B369B0153, 0x3FD7E2F336CF4E62 // 2^( 54 /128-1) - 2^(- 54 /128-1), 2^(- 54 /128-1)
379 .quad 0x3FD35838A7FECEC8, 0x3FD7C1ED0130C132 // 2^( 55 /128-1) - 2^(- 55 /128-1), 2^(- 55 /128-1)
380 .quad 0x3FD3B4FB46A5A6CC, 0x3FD7A11473EB0187 // 2^( 56 /128-1) - 2^(- 56 /128-1), 2^(- 56 /128-1)
381 .quad 0x3FD411E3C4D4302F, 0x3FD780694FDE5D3F // 2^( 57 /128-1) - 2^(- 57 /128-1), 2^(- 57 /128-1)
382 .quad 0x3FD46EF2D517DAC8, 0x3FD75FEB564267C9 // 2^( 58 /128-1) - 2^(- 58 /128-1), 2^(- 58 /128-1)
383 .quad 0x3FD4CC292A48369E, 0x3FD73F9A48A58174 // 2^( 59 /128-1) - 2^(- 59 /128-1), 2^(- 59 /128-1)
384 .quad 0x3FD5298777884B96, 0x3FD71F75E8EC5F74 // 2^( 60 /128-1) - 2^(- 60 /128-1), 2^(- 60 /128-1)
385 .quad 0x3FD5870E7047F1BC, 0x3FD6FF7DF9519484 // 2^( 61 /128-1) - 2^(- 61 /128-1), 2^(- 61 /128-1)
386 .quad 0x3FD5E4BEC8452A1A, 0x3FD6DFB23C651A2F // 2^( 62 /128-1) - 2^(- 62 /128-1), 2^(- 62 /128-1)
387 .quad 0x3FD64299338D7827, 0x3FD6C012750BDABF // 2^( 63 /128-1) - 2^(- 63 /128-1), 2^(- 63 /128-1)
388 .quad 0x3FD6A09E667F3BCD, 0x3FD6A09E667F3BCD // 2^( 64 /128-1) - 2^(- 64 /128-1), 2^(- 64 /128-1)
389 .quad 0x3FD6FECF15CB0C0B, 0x3FD68155D44CA973 // 2^( 65 /128-1) - 2^(- 65 /128-1), 2^(- 65 /128-1)
390 .quad 0x3FD75D2BF6751239, 0x3FD6623882552225 // 2^( 66 /128-1) - 2^(- 66 /128-1), 2^(- 66 /128-1)
391 .quad 0x3FD7BBB5BDD665E8, 0x3FD6434634CCC320 // 2^( 67 /128-1) - 2^(- 67 /128-1), 2^(- 67 /128-1)
392 .quad 0x3FD81A6D219E6963, 0x3FD6247EB03A5585 // 2^( 68 /128-1) - 2^(- 68 /128-1), 2^(- 68 /128-1)
393 .quad 0x3FD87952D7D426DF, 0x3FD605E1B976DC09 // 2^( 69 /128-1) - 2^(- 69 /128-1), 2^(- 69 /128-1)
394 .quad 0x3FD8D86796D7AE49, 0x3FD5E76F15AD2148 // 2^( 70 /128-1) - 2^(- 70 /128-1), 2^(- 70 /128-1)
395 .quad 0x3FD937AC156373C8, 0x3FD5C9268A5946B7 // 2^( 71 /128-1) - 2^(- 71 /128-1), 2^(- 71 /128-1)
396 .quad 0x3FD997210A8DAEE4, 0x3FD5AB07DD485429 // 2^( 72 /128-1) - 2^(- 72 /128-1), 2^(- 72 /128-1)
397 .quad 0x3FD9F6C72DC9BA68, 0x3FD58D12D497C7FD // 2^( 73 /128-1) - 2^(- 73 /128-1), 2^(- 73 /128-1)
398 .quad 0x3FDA569F36E974EA, 0x3FD56F4736B527DA // 2^( 74 /128-1) - 2^(- 74 /128-1), 2^(- 74 /128-1)
399 .quad 0x3FDAB6A9DE1EA215, 0x3FD551A4CA5D920F // 2^( 75 /128-1) - 2^(- 75 /128-1), 2^(- 75 /128-1)
400 .quad 0x3FDB16E7DBFC4CA3, 0x3FD5342B569D4F82 // 2^( 76 /128-1) - 2^(- 76 /128-1), 2^(- 76 /128-1)
401 .quad 0x3FDB7759E9782918, 0x3FD516DAA2CF6642 // 2^( 77 /128-1) - 2^(- 77 /128-1), 2^(- 77 /128-1)
402 .quad 0x3FDBD800BFEBF932, 0x3FD4F9B2769D2CA7 // 2^( 78 /128-1) - 2^(- 78 /128-1), 2^(- 78 /128-1)
403 .quad 0x3FDC38DD1916F025, 0x3FD4DCB299FDDD0D // 2^( 79 /128-1) - 2^(- 79 /128-1), 2^(- 79 /128-1)
404 .quad 0x3FDC99EFAF1F1790, 0x3FD4BFDAD5362A27 // 2^( 80 /128-1) - 2^(- 80 /128-1), 2^(- 80 /128-1)
405 .quad 0x3FDCFB393C92B539, 0x3FD4A32AF0D7D3DE // 2^( 81 /128-1) - 2^(- 81 /128-1), 2^(- 81 /128-1)
406 .quad 0x3FDD5CBA7C69B19C, 0x3FD486A2B5C13CD0 // 2^( 82 /128-1) - 2^(- 82 /128-1), 2^(- 82 /128-1)
407 .quad 0x3FDDBE742A06FF34, 0x3FD46A41ED1D0057 // 2^( 83 /128-1) - 2^(- 83 /128-1), 2^(- 83 /128-1)
408 .quad 0x3FDE2067013A029D, 0x3FD44E086061892D // 2^( 84 /128-1) - 2^(- 84 /128-1), 2^(- 84 /128-1)
409 .quad 0x3FDE8293BE3FFB87, 0x3FD431F5D950A897 // 2^( 85 /128-1) - 2^(- 85 /128-1), 2^(- 85 /128-1)
410 .quad 0x3FDEE4FB1DC56E75, 0x3FD4160A21F72E2A // 2^( 86 /128-1) - 2^(- 86 /128-1), 2^(- 86 /128-1)
411 .quad 0x3FDF479DDCE78F58, 0x3FD3FA4504AC801C // 2^( 87 /128-1) - 2^(- 87 /128-1), 2^(- 87 /128-1)
412 .quad 0x3FDFAA7CB935ACFE, 0x3FD3DEA64C123422 // 2^( 88 /128-1) - 2^(- 88 /128-1), 2^(- 88 /128-1)
413 .quad 0x3FE006CC38594EB1, 0x3FD3C32DC313A8E5 // 2^( 89 /128-1) - 2^(- 89 /128-1), 2^(- 89 /128-1)
414 .quad 0x3FE03878E0EB1569, 0x3FD3A7DB34E59FF7 // 2^( 90 /128-1) - 2^(- 90 /128-1), 2^(- 90 /128-1)
415 .quad 0x3FE06A44B5C74101, 0x3FD38CAE6D05D866 // 2^( 91 /128-1) - 2^(- 91 /128-1), 2^(- 91 /128-1)
416 .quad 0x3FE09C3016A0D077, 0x3FD371A7373AA9CB // 2^( 92 /128-1) - 2^(- 92 /128-1), 2^(- 92 /128-1)
417 .quad 0x3FE0CE3B63676360, 0x3FD356C55F929FF1 // 2^( 93 /128-1) - 2^(- 93 /128-1), 2^(- 93 /128-1)
418 .quad 0x3FE10066FC47F240, 0x3FD33C08B26416FF // 2^( 94 /128-1) - 2^(- 94 /128-1), 2^(- 94 /128-1)
419 .quad 0x3FE132B341AD8761, 0x3FD32170FC4CD831 // 2^( 95 /128-1) - 2^(- 95 /128-1), 2^(- 95 /128-1)
420 .quad 0x3FE165209441F823, 0x3FD306FE0A31B715 // 2^( 96 /128-1) - 2^(- 96 /128-1), 2^(- 96 /128-1)
421 .quad 0x3FE197AF54EE9EBB, 0x3FD2ECAFA93E2F56 // 2^( 97 /128-1) - 2^(- 97 /128-1), 2^(- 97 /128-1)
422 .quad 0x3FE1CA5FE4DD1475, 0x3FD2D285A6E4030B // 2^( 98 /128-1) - 2^(- 98 /128-1), 2^(- 98 /128-1)
423 .quad 0x3FE1FD32A577EC72, 0x3FD2B87FD0DAD990 // 2^( 99 /128-1) - 2^(- 99 /128-1), 2^(- 99 /128-1)
424 .quad 0x3FE23027F86B6ED6, 0x3FD29E9DF51FDEE1 // 2^( 100 /128-1) - 2^(- 100 /128-1), 2^(- 100 /128-1)
425 .quad 0x3FE263403FA65489, 0x3FD284DFE1F56381 // 2^( 101 /128-1) - 2^(- 101 /128-1), 2^(- 101 /128-1)
426 .quad 0x3FE2967BDD5A8364, 0x3FD26B4565E27CDD // 2^( 102 /128-1) - 2^(- 102 /128-1), 2^(- 102 /128-1)
427 .quad 0x3FE2C9DB33FDCAE9, 0x3FD251CE4FB2A63F // 2^( 103 /128-1) - 2^(- 103 /128-1), 2^(- 103 /128-1)
428 .quad 0x3FE2FD5EA64AA180, 0x3FD2387A6E756238 // 2^( 104 /128-1) - 2^(- 104 /128-1), 2^(- 104 /128-1)
429 .quad 0x3FE331069740E22F, 0x3FD21F49917DDC96 // 2^( 105 /128-1) - 2^(- 105 /128-1), 2^(- 105 /128-1)
430 .quad 0x3FE364D36A268AE0, 0x3FD2063B88628CD6 // 2^( 106 /128-1) - 2^(- 106 /128-1), 2^(- 106 /128-1)
431 .quad 0x3FE398C582887B27, 0x3FD1ED5022FCD91D // 2^( 107 /128-1) - 2^(- 107 /128-1), 2^(- 107 /128-1)
432 .quad 0x3FE3CCDD443B3394, 0x3FD1D4873168B9AA // 2^( 108 /128-1) - 2^(- 108 /128-1), 2^(- 108 /128-1)
433 .quad 0x3FE4011B135B9590, 0x3FD1BBE084045CD4 // 2^( 109 /128-1) - 2^(- 109 /128-1), 2^(- 109 /128-1)
434 .quad 0x3FE4357F544FA3C1, 0x3FD1A35BEB6FCB75 // 2^( 110 /128-1) - 2^(- 110 /128-1), 2^(- 110 /128-1)
435 .quad 0x3FE46A0A6BC742FD, 0x3FD18AF9388C8DEA // 2^( 111 /128-1) - 2^(- 111 /128-1), 2^(- 111 /128-1)
436 .quad 0x3FE49EBCBEBCFBCA, 0x3FD172B83C7D517B // 2^( 112 /128-1) - 2^(- 112 /128-1), 2^(- 112 /128-1)
437 .quad 0x3FE4D396B276BC6F, 0x3FD15A98C8A58E51 // 2^( 113 /128-1) - 2^(- 113 /128-1), 2^(- 113 /128-1)
438 .quad 0x3FE50898AC869B96, 0x3FD1429AAEA92DE0 // 2^( 114 /128-1) - 2^(- 114 /128-1), 2^(- 114 /128-1)
439 .quad 0x3FE53DC312CB9B7A, 0x3FD12ABDC06C31CC // 2^( 115 /128-1) - 2^(- 115 /128-1), 2^(- 115 /128-1)
440 .quad 0x3FE573164B726DB6, 0x3FD11301D0125B51 // 2^( 116 /128-1) - 2^(- 116 /128-1), 2^(- 116 /128-1)
441 .quad 0x3FE5A892BCF6379B, 0x3FD0FB66AFFED31B // 2^( 117 /128-1) - 2^(- 117 /128-1), 2^(- 117 /128-1)
442 .quad 0x3FE5DE38CE215725, 0x3FD0E3EC32D3D1A2 // 2^( 118 /128-1) - 2^(- 118 /128-1), 2^(- 118 /128-1)
443 .quad 0x3FE61408E60E2888, 0x3FD0CC922B7247F7 // 2^( 119 /128-1) - 2^(- 119 /128-1), 2^(- 119 /128-1)
444 .quad 0x3FE64A036C27CC52, 0x3FD0B5586CF9890F // 2^( 120 /128-1) - 2^(- 120 /128-1), 2^(- 120 /128-1)
445 .quad 0x3FE68028C82AEE2F, 0x3FD09E3ECAC6F383 // 2^( 121 /128-1) - 2^(- 121 /128-1), 2^(- 121 /128-1)
446 .quad 0x3FE6B67962268C43, 0x3FD0874518759BC8 // 2^( 122 /128-1) - 2^(- 122 /128-1), 2^(- 122 /128-1)
447 .quad 0x3FE6ECF5A27CBF28, 0x3FD0706B29DDF6DE // 2^( 123 /128-1) - 2^(- 123 /128-1), 2^(- 123 /128-1)
448 .quad 0x3FE7239DF1E38286, 0x3FD059B0D3158574 // 2^( 124 /128-1) - 2^(- 124 /128-1), 2^(- 124 /128-1)
449 .quad 0x3FE75A72B9657E51, 0x3FD04315E86E7F85 // 2^( 125 /128-1) - 2^(- 125 /128-1), 2^(- 125 /128-1)
450 .quad 0x3FE791746262D0A8, 0x3FD02C9A3E778061 // 2^( 126 /128-1) - 2^(- 126 /128-1), 2^(- 126 /128-1)
451 .quad 0x3FE7C8A35691D856, 0x3FD0163DA9FB3335 // 2^( 127 /128-1) - 2^(- 127 /128-1), 2^(- 127 /128-1)
452 .align 32
453 .quad 0x42C8000000000000, 0x42C8000000000000, 0x42C8000000000000, 0x42C8000000000000 /* _dbShifter = 1.5 * 2^(52-k) */
454 .align 32
455 .long 0x40861d99, 0x40861d99, 0x40861d99, 0x40861d99, 0x40861d99, 0x40861d99, 0x40861d99, 0x40861d99 /* _iDomainRange 0x40861d9ac12a3e85 =(1021*2^K-0.5)*log(2)/2^K -needed for quick exp */
456 .align 32
457 .quad 0x3FDFFFFFFFFFFDBD, 0x3FDFFFFFFFFFFDBD, 0x3FDFFFFFFFFFFDBD, 0x3FDFFFFFFFFFFDBD /* _dPC2 */
458 .align 32
459 .quad 0x3FC55555555554AD, 0x3FC55555555554AD, 0x3FC55555555554AD, 0x3FC55555555554AD /* _dPC3 */
460 .align 32
461 .quad 0x3FA55555CF16D299, 0x3FA55555CF16D299, 0x3FA55555CF16D299, 0x3FA55555CF16D299 /* _dPC4 */
462 .align 32
463 .quad 0x3F8111115712F425, 0x3F8111115712F425, 0x3F8111115712F425, 0x3F8111115712F425 /* _dPC5 */
464 .align 32
465 .quad 0x000000000000007f, 0x000000000000007f, 0x000000000000007f, 0x000000000000007f /* _lIndexMask */
466 .align 32
467 .type __svml_dsinh_data_internal, @object
468 .size __svml_dsinh_data_internal, .-__svml_dsinh_data_internal
469

source code of glibc/sysdeps/x86_64/fpu/multiarch/svml_d_sinh4_core_avx2.S