округление

[mi3ch]

Comments

[dimadima]

В джаваскрипте:

0.1 + 0.2 = 0.300000...004

[ranmod]

то есть используется double

#include
int main() {
float af = 0.1;
float bf = 0.2;
float cf = af + bf;
printf("%.25f + %.25f = %.25f \n",af,bf,cf);

double ad = 0.1;
double bd = 0.2;
double cd = ad + bd;
printf("%.25f + %.25f = %.25f \n",ad,bd,cd);

long double al = 0.1L;
long double bl = 0.2L;
long double cl = al + bl;
printf("%.25Lf + %.25Lf = %.25Lf \n",al,bl,cl);
}

0.1000000014901161193847656 + 0.2000000029802322387695312 = 0.3000000119209289550781250

0.1000000000000000055511151 + 0.2000000000000000111022302 = 0.3000000000000000444089210

0.1000000000000000000013553 + 0.2000000000000000000027105 = 0.3000000000000000000108420

P.S. Intel(R) Core(TM) i5-8250U CPU

[dvrz]

0.1 IEEE745

[der_skythe]

Когда знаешь систему, частности легко достроить.

[kingeugen]

А кто-то же это придумал.

[ext_2510871]

Ты сходи посмотри, за что Грише Перельману лям начислили. Я того Пуанкаре зауважал безмерно. Человек, который это доказал, крут безмерно, но я в ахуе от того, кто это предположил.