Diese Webseite funktioniert besser mit JavaScript.
Startseite
Erkunden
Hilfe
Registrieren
Anmelden
SisMaker
/
jiffy
Beobachten
1
Favorisieren
0
Fork
0
Code
Issues
0
Pull-Requests
0
Projekte
0
Releases
62
Wiki
Aktivität
Quellcode durchsuchen
issue
#31
: encode floating point numbers with less precision if possible. fails a few etap tests, though I believe it's due to the specific values expected
pull/32/head
Ryan Flynn
vor 12 Jahren
Ursprung
3b6a1327d4
Commit
b045a37391
1 geänderte Dateien
mit
7 neuen
und
1 gelöschten
Zeilen
Geteilte Ansicht
Diff-Optionen
Statistiken anzeigen
Patch-Datei herunterladen
Vergleichs-Datei herunterladen
+7
-1
c_src/encoder.c
+ 7
- 1
c_src/encoder.c
Datei anzeigen
@ -4,6 +4,7 @@
#
include
<assert.h>
#
include
<stdio.h>
#
include
<string.h>
#
include
<float.h>
#
include
"erl_nif.h"
#
include
"jiffy.h"
@ -401,7 +402,12 @@ enc_double(Encoder* e, double val)
start
=
&
(
e
-
>
p
[
e
-
>
i
]
)
;
sprintf
(
start
,
"
%0.20g
"
,
val
)
;
/
/
try
to
encode
doubles
using
the
fewest
digits
possible
.
.
.
if
(
snprintf
(
start
,
32
,
"
%.*g
"
,
DBL_DIG
,
val
)
>
FLT_DIG
)
{
/
/
.
.
.
fall
back
to
full
expansion
to
be
safe
snprintf
(
start
,
32
,
"
%.*g
"
,
LDBL_DIG
,
val
)
;
}
len
=
strlen
(
start
)
;
/
/
Check
if
we
have
a
decimal
point
Verfassen
Vorschau
Laden…
Abbrechen
Speichern