Колдовал давеча в Экселе и обнаружил странное явление: при вычитании двух одинаковых чисел получается -3,62798E-12, а не ноль, как логично было бы предположить. Как выяснилось, проблема кроется в стандарте IEEE 754 представления чисел с плавающей точкой, которого придерживаются все современные компьютеры. Минус этого стандарта в том, что иногда,
(
Read more... )