Наблюдений обработка математическая, применение к результатам наблюдений математических методов для построения выводов об истинных значениях искомых величин. Всякий результат наблюдений, связанных с измерениями, содержит ошибки (погрешности) различного происхождения. По своему характеру ошибки делятся на три группы: грубые, систематические и случайные (о грубых ошибках см. ст. Ошибок теория; в дальнейшем будет предполагаться, что наблюдения не содержат грубых ошибок). Обычно результат измерения Y некоторой величины m считают случайной величиной; тогда ошибка измерения d = Y - m будет также случайной величиной. Пусть b = Еd - математическое ожидание ошибки. Тогда Y = m + b + (d - b). Величину b называют систематической ошибкой, а d - b — случайной ошибкой; математическое ожидание d - b равно нулю. Систематическая ошибка b часто бывает известна заранее и в этом случае легко устраняется. Например, в астрономии при измерении величины угла между направлением на светило и плоскостью горизонта систематическая ошибка является суммой двух ошибок: систематические ошибки, которую даёт прибор при отсчёте данного угла (см. Инструментальные ошибки), и систематические ошибки, обусловленной преломлением лучей света в атмосфере (см. Рефракция). Инструментальная ошибка определяется с помощью таблицы или графика поправок для данного прибора; ошибку, связанную с рефракцией (для зенитных расстояний, меньших 80°), достаточно точно можно вычислить теоретически.
Влияние случайных ошибок оценивается с помощью методов теории ошибок. Если Y1, Y2,..., Yn — результаты n независимых измерений величины m, произведённых в одинаковых условиях и одинаковыми средствами, то обычно полагают
где b — систематическая ошибка. Об оценке абсолютной погрешности приближённого равенства (1) см. в статьях Наименьших квадратов метод, Значимости уровень.
В том случае, когда требуется вычислить значение некоторой функции f (y) в точке y = m, причём величина m оценивается по n независимым наблюдениям Y1, Y2,..., Yn, приближённо полагают
Пусть В — математическое ожидание величины
т. е.
Поэтому В — систематическая ошибка и (D - В) — случайная ошибка приближённого равенства (2). Если случайные ошибки независимых наблюдений Y1, Y2,..., Yn подчиняются одному и тому же распределению и функция f (y) в окрестности точки у = m. мало отличается от линейной, то В » 0 и
где
— арифметическое среднее случайных ошибок исходных наблюдений. Это означает, что если Е (di - b)2 = s2, i = 1, 2,..., n, то Е (D — В)2 » ЕD2 » [f’ (m)]2s2/n ® 0 при n ® ¥.
В случае нескольких неизвестных параметров Н. о. часто осуществляется с помощью метода наименьших квадратов.
Если изучается зависимость между случайными величинами Х и Y на основе совокупности n независимых наблюдений, каждое из которых есть вектор (Xi, Yi), i = 1,..., n, компоненты которого Xi и Yi подчиняются исследуемому совместному распределению величин Х и Y, то соответствующая Н. о. выполняется с помощью теории корреляции и математической статистики.
При Н. о. приходится делать некоторые предположения и допущения о характере функциональной зависимости, о распределении случайных ошибок и т.д., поэтому Н. о. должна включать в себя проверку согласия сделанных допущений с результатами использованных и др. наблюдений. См. Статистическая проверка гипотез.
Лит.: Уиттекер Э. Т. и Робинсон Г., Математическая обработка результатов наблюдений, пер. с англ., Л. — М., 1935; Линник Ю. В., Метод наименьших квадратов и основы математико-статистической теории обработки наблюдений, 2 изд., М., 1962.
Л. Н. Большев.