,Ортогональная матрица порядка n матрица
,
произведение которой на транспонированную матрицу А' даёт единичную матрицу, то есть АА' = Е (а следовательно, и A'A = Е). Элементы О. м. удовлетворяют соотношениям:
или эквивалентным соотношениям:
Определитель |A| О. м. равен +1 или —1. При перемножении двух О. м. снова получается О. м. Все О. м. порядка n относительно операции умножения образуют группу, называемую ортогональной. При переходе от одной прямоугольной системы координат к другой коэффициенты aij в формулах преобразования координат
образуют О. м. См. также Унитарная матрица.