Deze website werkt beter met JavaScript.
Beginscherm
Verkennen
Help
Registreren
Inloggen
SisMaker
/
jiffy
Volgen
1
Ster
0
Vork
0
Code
Kwesties
0
Pull-aanvragen
0
Projects
0
Publicaties
62
Wiki
Activiteit
Bladeren bron
issue
#31
: encode floating point numbers with less precision if possible. fails a few etap tests, though I believe it's due to the specific values expected
pull/32/head
Ryan Flynn
12 jaren geleden
bovenliggende
3b6a1327d4
commit
b045a37391
1 gewijzigde bestanden
met
toevoegingen van 7
en
1 verwijderingen
Zij-aan-zij weergave
Diff opties
Statistieken weergeven
Download Patch-bestand
Download Diff-bestand
+7
-1
c_src/encoder.c
+ 7
- 1
c_src/encoder.c
Bestand weergeven
@ -4,6 +4,7 @@
#
include
<assert.h>
#
include
<stdio.h>
#
include
<string.h>
#
include
<float.h>
#
include
"erl_nif.h"
#
include
"jiffy.h"
@ -401,7 +402,12 @@ enc_double(Encoder* e, double val)
start
=
&
(
e
-
>
p
[
e
-
>
i
]
)
;
sprintf
(
start
,
"
%0.20g
"
,
val
)
;
/
/
try
to
encode
doubles
using
the
fewest
digits
possible
.
.
.
if
(
snprintf
(
start
,
32
,
"
%.*g
"
,
DBL_DIG
,
val
)
>
FLT_DIG
)
{
/
/
.
.
.
fall
back
to
full
expansion
to
be
safe
snprintf
(
start
,
32
,
"
%.*g
"
,
LDBL_DIG
,
val
)
;
}
len
=
strlen
(
start
)
;
/
/
Check
if
we
have
a
decimal
point
Schrijf
Voorbeeld
Laden…
Annuleren
Opslaan