арифметические ошибки

[relf]

Официальные представители Microsoft со стыдом признали, что поправка, выпущенная на прошлой неделе для устранения уязвимости в Excel 2003, приводит к неправильным вычислениям в электронных таблицах.Уж чего-чего, а неправильных арифметических вычислений быть не должно. Программа может вести себя капризно, матерно ругаться, падать в синий экран

Comments

[justpasha]

С Excelем это давным-давно. Были даже типа статьи в научных журналах о том это изделие для рассчетов противопоказано.

[some41]

над интелом до сих пор стебутся по этому поводу

[some41]

в случае проца - intel могли попросить военные о маленькой ошибке.

Бывало и без шумихи

[matholimp]

У советских МК "Электроника" БЗ-34, 65, 85 и др. в инструкции было написано, что точность вычисления тангенса 10^-5% при условии, что аргумент тангенса по модулю не превышает 10^10. И все спокойно проглотили. Между тем, на разрядной сетке там было только 8 цифр мантиссы, а 9-ая (не говоря о 10-й) блокировалась при вводе и округлялась при вычислениях.

Re: Бывало и без шумихи

[matholimp]

чувак пасиб,теперь можно спокойно в гроб,
у меня не было инструкции, а с появлением инета как-то потерялось в голове.

Re: Бывало и без шумихи

[ram_scanner]

Не округлялась. Там при желании можно было проводить вычисления с числами вплоть до 10^499. Просто результаты было тяжко на дисплей доставать.

[relf]

> как можно читать этот недосайт, не понимаю =\

да вроде не хуже остальных, валит новости по rss, а кто из них какие выводы деляет - это все индивидуально.
или есть гораздо лучшая альтернатива по качеству и охвату новостного материала в области ИТ?

[selfmade]

Первый случай был довольно сложной ошибкой рендеринга. Унутре использовалось правильное значение, только на экран выводилось ошибочное число.

[relf]

и что это меняет?
у меня, например, часто интеракция между программами происходит по печатаемым результатам (а не по какому-то абстрактному содержимому памяти).
к счастью, я екселем не пользуюсь, как и вообще поделиями от MS.

[selfmade]

Да ладно, там всего 4 числа из 65 тыщ имеют кривизну вывода на экран. Несколько сторонних эффектов наложились друг на друга, вот и результат. При сохранении результата, скажем, в текстовый файл такое число сохранится без ошибок.

> интеракция между программами происходит по печатаемым результатам

Это как? Одна программа делает screenshot из другой программы и распознаёт текст?

[relf]

Когда copy-paste, а когда и форматированный вывод в файл. Если в пресловутом форматировании баг, то и в файл запишется непоймичто.