Floating Point vs Long Long Integer

Jan 27, 2012 15:07


Добрый день!

У меня несколько теоретический и потому несколько праздый вопрос.

Известный уже пример, что 5/2=2.5, а в целочисленной арифметике = 2, и ошибка в 0.5 по отношению к 2 есть 25% -- этот пример, конечно, впечатляет, но только если человек работает в 8 битной картинке. Если файл 16-битный, ФШ отображает _номинальное_ значение, скажем, те же 5 пунктов, но реально работает со значением 5*256=1280.

Т.е.

1 номинальный пункт <--> 256 реальных пунктов

5 номинальных пунктов <--> 1280 реальных пунктов

...

255 номинальных пунктов <--> 65280 реальных пунктов

Ошибки целочисленного округления в неэкстремальных операциях у тех же номинальных 5 пунктов вряд ли превысят 1 процент.

К тому же, если есть важные детали в тенях ниже 5 номинальных пунктов, то скорее всего снято как-то неправильно. Хорошо снятый кадр пожалуй, не потребует вытягивания того, что ниже даже 10 пунктов.

Вот у меня и вопрос, не сильно ли преувеличено преимущество арифметики с плавающей точкой для 16-битных файлов? И не станет ли оно совсем эфемерным, когда ФШ добавит полный инструментарий (прежде всего кривые) для 32-битных файлов?

rpp technical, q&a

Previous post Next post
Up