eaDonNTU, Donetsk >
Факультет интеллектуальных систем и программирования (ФИСП) >
Кафедра компьютерной инженерии >
Научные публикации кафедры компьютерной инженерии >
Пожалуйста, используйте этот идентификатор, чтобы цитировать или ссылаться на этот ресурс:
http://ea.donntu.ru/handle/123456789/18912
|
Название: | Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой |
Авторы: | Иваница, Сергей Васильевич |
Ключевые слова: | постбинарный формат числа погрешность округление чисел интервал |
Дата публикации: | 2012 |
Издатель: | Научно-теоретический журнал "Искусственный интеллект" |
Аннотация: | В статье рассмотрена точность представления чисел с плавающей запятой и показаны формулы для расчета абсолютной и относительной погрешностей для бинарных и постбинарных форматов. Получены формулы для расчета погрешностей всех форматов и выявлена закономерность между значениями погрешности постбинарного и бинарного форматов одного класса точности. Рассмотрены стандартные способы округления чисел с плавающей запятой и предложен новый способ округления чисел в постбинарных форматах. |
URI: | http://ea.donntu.edu.ua/handle/123456789/18912 |
Располагается в коллекциях: | Научные публикации кафедры компьютерной инженерии
|
Все ресурсы в архиве электронных ресурсов защищены авторским правом, все права сохранены.
|