Используя даже идеальную оптическую систему (такую, для которой отсутствуют дефекты и аберрации), невозможно получить стигматическое изображение точечного источника, что объясняется волновой природой света. Изображение любой светящейся точки в монохроматическом свете представляет собой дифракционную картину, т. е. точечный источник отображается в виде центрального светлого пятна, окруженного чередующимися темными и светлыми кольцами.
Согласно критерию Рэлея, изображения двух близлежащих одинаковых точечных источников или двух близлежащих спектральных линий с равными интенсивностями и одинаковыми симметричными контурами разрешимы (разделены для восприятия), если центральный максимум дифракционной картины от одного источника (линии) совпадает с первым минимумом дифракционной картины от другого (рис. 265, а). При выполнении критерия Рэлея интенсивность «провала» между максимумами составляет 80% интенсивности в максимуме, что является достаточным для разрешения линий l1 и l2. Если критерий Рэлея нарушен, то наблюдается одна линия (рис. 265, б).
Разрешающая способность объектива. Если на объектив падает свет от двух удаленных точечных источников S1 и S2 (например, звезд) с некоторым угловым расстоянием dy, то вследствие дифракции световых волн на краях диафрагмы, ограничивающей объектив, в его фокальной плоскости вместо двух точек наблюдаются максимумы, окруженные чередующимися темными и светлыми кольцами (рис. 266). Можно доказать, что две близлежащие звезды, наблюдаемые в объективе в монохроматическом свете, разрешимы, если угловое расстояние между ними
(183.1)
где l — длина волны света, D — диаметр объектива.
Разрешающей способностью (разрешающей силой) объектива называется величина
где dy — наименьшее угловое расстояние между двумя точками, при котором они еще оптическим прибором разрешаются.
Разрешающей способностью спектрального прибора называют безразмерную величину
(183.3)
где dl — абсолютное значение минимальной разности длин волн двух соседних спектральных линий, при которой эти линии регистрируются раздельно.
Разрешающая способность дифракционной решетки. Пусть максимум т-го порядка для длины волны l2 наблюдается под углом j, т. е., согласно, dsinj=ml2. При переходе от максимума к соседнему минимуму разность хода меняется на l/N , где N — число щелей решетки.
Таким образом, разрешающая способность дифракционной решетки пропорциональна порядку m спектра и числу N щелей, т. е. при заданном числе щелей увеличивается при переходе к большим значениям порядка m интерференции.