Смеяццо или плакоть

Nov 16, 2018 05:55

В четверг получил коммент на мой код, мол в нём возможны проблемы с округлением. Это там, где идёт умножение или деление числа в формате с плавающей точкой на целую степень двойки, и где нету выхода за пределы области нормализованных значений. Человек удивительным образом за хрен знает сколько лет программирования не заметил, что работает с двоичной плавающей точкой чуть менее, чем везде. Как-то неожиданно.
 

work, math, sad, software

Previous post Next post
Up