Электронный архив
Донецкого национального технического университета (г.Донецк)
Electronic archive of Donetsk national technical university (Donetsk)
 

eaDonNTU, Donetsk >
Факультет интеллектуальных систем и программирования (ФИСП) >
Кафедра компьютерной инженерии >
Научные публикации кафедры компьютерной инженерии >

Пожалуйста, используйте этот идентификатор, чтобы цитировать или ссылаться на этот ресурс: http://ea.donntu.ru/handle/123456789/18912

Название: Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой
Авторы: Иваница, Сергей Васильевич
Ключевые слова: постбинарный формат числа
погрешность
округление чисел
интервал
Дата публикации: 2012
Издатель: Научно-теоретический журнал "Искусственный интеллект"
Аннотация: В статье рассмотрена точность представления чисел с плавающей запятой и показаны формулы для расчета абсолютной и относительной погрешностей для бинарных и постбинарных форматов. Получены формулы для расчета погрешностей всех форматов и выявлена закономерность между значениями погрешности постбинарного и бинарного форматов одного класса точности. Рассмотрены стандартные способы округления чисел с плавающей запятой и предложен новый способ округления чисел в постбинарных форматах.
URI: http://ea.donntu.edu.ua/handle/123456789/18912
Располагается в коллекциях:Научные публикации кафедры компьютерной инженерии

Файлы этого ресурса:

Файл Описание РазмерФормат
Ivanitsa.pdf326.68 kBAdobe PDFПросмотреть/Открыть

Все ресурсы в архиве электронных ресурсов защищены авторским правом, все права сохранены.