Re: Нужен программер!
не совсем здесь про округление и количество знаков после запятой
для исходных данных было выделено меньше места чем нужно
при конвертации в другой тип данных возникала обрезка
ясен пень если ты double/float в int преобразуешь, у тебя просто дробная часть испарится,
здесь примерно тоже самое, и то там сказано про 0.34 секунды, но никак не 0.000000000000034 секунды 🙂
в секунде 1000 миллисекунд, 3 знака, но никак не 16
в сутках 86400000 миллисеунд, в месяце 2592000000, ну даже если с самого низу считать, до 16 знаков еще ой как далеко
Системное время хранилось как integer в 24-битном регистре с точностью до одной десятой секунды. Поэтому на каждом такте по 0.1 сек "терялась" часть времени. При расчете данные переводились в real numbers.
а вот это забавно
что кривое вычисление времени пофиксили в некоторых частях программы, но не во всех.
Софт был написан на ассемблере 15-20 лет назад и с тех пор несколько раз модифицировался различными командами программистов.
Отредактировано Hanks (, 4 года 3 месяца назад)
