Смеяццо или плакоть

[archaicos]

В четверг получил коммент на мой код, мол в нём возможны проблемы с округлением. Это там, где идёт умножение или деление числа в формате с плавающей точкой на целую степень двойки, и где нету выхода за пределы области нормализованных значений. Человек удивительным образом за хрен знает сколько лет программирования не заметил, что работает с

Comments

[spamsink]

Так ему и напиши: "Are you bloody mad? I'm multiplying by a power of two, what kind of rounding do you mean?"

Хотя нет, это слишком агрессивно. Пригласи его на получасовой митинг "Floating-point format refresher for %his-name%"

[alexanderr]

bloody американцы не говорят. это британизм, причем изрядно потасканный ;-)

[spamsink]

Разумеется; поэтому и воспринимается не как оскорбительное, а как наигранное.

[alexanderr]

т.е. все деление или умножение это просто сдвиг плавающей точки?

[archaicos]

(ин|де)кремент экспоненты.

[fatoff]

С округлением? При наличии отсутствия собственно операции округления? floor? ceiling?

[archaicos]

Если умножать, например, на 5, то запросто будет округление.

[fatoff]

Э... округление, это когда мы, имея исходное "значение", отнимаем или прибавляем некоторую дельту до какого-то "ближнего" предела "значения"?

[archaicos]

У тебя точное произведение в общем случае может иметь мантиссу удвоенной длины. Но длина не резиновая и остаётся 24 или 53 бита. Что не влазит, округляется до них.