Fix behavior of exp() and power() for infinity inputs.
authorTom Lane <[email protected]>
Sun, 14 Jun 2020 15:00:07 +0000 (11:00 -0400)
committerTom Lane <[email protected]>
Sun, 14 Jun 2020 15:00:07 +0000 (11:00 -0400)
commitdecbe2bfb1051c5ab6c382b19e1d909e34227a22
tree87063608a54cf2feab46104b59436facda52d119
parent378badc8ebebc8fece7a18001f6b876cc00b12c0
Fix behavior of exp() and power() for infinity inputs.

Previously, these functions tended to throw underflow errors for
negative-infinity exponents.  The correct thing per POSIX is to
return 0, so let's do that instead.  (Note that the SQL standard
is silent on such issues, as it lacks the concepts of either Inf
or NaN; so our practice is to follow POSIX whenever a corresponding
C-library function exists.)

Also, add a bunch of test cases verifying that exp() and power()
actually do follow POSIX for Inf and NaN inputs.  While this patch
should guarantee that exp() passes the tests, power() will not unless
the platform's pow(3) is fully POSIX-compliant.  I already know that
gaur fails some of the tests, and I am suspicious that the Windows
animals will too; the extent of compliance of other old platforms
remains to be seen.  We might choose to drop failing test cases, or
to work harder at overriding pow(3) for these cases, but first let's
see just how good or bad the situation is.

Discussion: https://postgr.es/m/582552.1591917752@sss.pgh.pa.us
src/backend/utils/adt/float.c
src/test/regress/expected/float8.out
src/test/regress/sql/float8.sql