пользователей: 30398
предметов: 12406
вопросов: 234839
Конспект-online
РЕГИСТРАЦИЯ ЭКСКУРСИЯ

переполнение разрядной сетки

Переполнение разрядной сетки — это ситуация, когда число, которое требуется сохранить, не умещается в
имеющемся количестве разрядов вычислительного устройства.
Подчеркнем, что переполнение никак не связано с системой счисления: оно вызвано ограниченным количе-
ством разрядов и не зависит от количества возможных значений в каждом из этих разрядов.
Числа бывают не только положительными, но и отрицательными. Введение знака числа не меняет сде­
ланных выше выводов, только вместо нулевого минимального значения появляется отрицательное, которое
зависит от разрядности (оно равно –9999 в обсуждаемом выше примере, если мы добавим еще один “зна­
ковый” разряд).
Рассмотрим теперь, что будет, если наше устройство работает не только с целыми, но и с дробными числами.
Пусть, например, один из четырех разрядов относится к целой части числа, а остальные три — к дробной. Конеч­
но, эффект переполнения сохранится и здесь: максимально допустимое число равно 9,999.
Кроме того, дробная часть числа тоже ограниченна, поэтому любое число, имеющее более
трех цифр после запятой, не может быть представлено точно: младшие цифры придется от­
брасывать (или округлять).


17.01.2015; 14:01
хиты: 74
рейтинг:0
Точные науки
информатика
для добавления комментариев необходимо авторизироваться.
  Copyright © 2013-2024. All Rights Reserved. помощь