Пространства со скалярным произведением

 

Пусть F — одно из полей ℝ и ℂ, а V — векторное пространство над F. Отображение

V × V → F, результат применения которого к паре векторов x, y ∈ V - xy (или (x, y), или 〈x | y〉) - скалярным произведением в V, если выполнены следующие аксиомы:

1) ∀x, y ∈ V xy = ;

2) ∀x, y ∈ V ∀α ∈ F (αx)y = α(xy);

3) ∀x, y, z ∈ V (x + y)z = xz + yz (скалярное произведение дистрибутивно относительно сложения векторов);

4) ∀x ∈ V xx ≥ 0, причем xx = 0 тогда и только тогда, когда x = 0.

 

Евклидовое пространство - пространство со скалярным произведением над ℝ. Унитарное пространство - пространство со скалярным произведением над ℂ.

 

Ослабленный закон сокращения: Если V — пространство со скалярным произведением, а вектора a, b ∈ V таковы, что для любого вектора x ∈ V выполняется равенство ax = bx, то a = b. То же заключение верно, если для любого вектора x ∈ V выполняется равенство xa = xb.

 

Скалярный квадрат вектора х - скалярное произведение вектора на себя - .

Длина вектора x - это неотрицательное действительное число |x|:= .

 

Если x ≠ 0, то длина вектора - орта вектора х - равна 1.

 

Неравенство Коши–Буняковского: Пусть V — пространство со скалярным произведением и x, y ∈ V. Тогда |xy| ≤ |x| · |y|, причем равенство достигается тогда и только тогда, когда вектора x и y линейно зависимы.

 

Угол между ненулевыми векторами x и y евклидова пространства - наименьший угол ϕ такой, что cos .

Угол между нулевым вектором и любым другим вектором не определен.

 

Для произвольных векторов x и y из пространства со скалярным произведением выполнено неравенство |x + y| ≤ |x| + |y| - неравенство треугольника. Если вектора x и y линейно независимы, то |x + y| < |x| + |y|.

 

Расстояние между векторами x и y в пространстве со скалярным произведением - длина вектора x − y.

 

Если x, y и z — произвольные вектора из пространства со скалярным произведением, то: 1) d(x, x) = 0; 2) d(x, y) = d(y, x); 3) выполнено неравенство d(x, y) + d(y, z) ≥ d(x, z).

 

------------Ортогональность------------

 

Вектора x и y из пространства со скалярным произведением называются ортогональными, если xy = 0 - x ⊥ y.

Набор векторов называется ортогональным, если любые два различных вектора из этого набора ортогональны.

Ортогональный набор векторов называется ортонормированным, если длины всех векторов из этого набора равны 1.

 

Нулевой вектор ортогонален любому вектору.

 

В евклидовом пространстве два ненулевых вектора ортогональны тогда и только тогда, когда угол между этими векторами прямой.

 

Теорема Пифагора: Если a и b — ортогональные вектора в пространстве со скалярным произведением, то .

 

Любой ортогональный набор ненулевых векторов линейно независим.

 

Любой ортонормированный набор векторов линейно независим.

 

Ортогональный [ортонормированный] базис - ортогональный [ортонормированный] набор векторов, который является базисом.

 

Пусть V — пространство со скалярным произведением, а P — ортонормированный базис в V. Тогда для любых x, y ∈ V.

 

Пусть a1, a2,..., an — линейно независимая система векторов пространства со скалярным произведением V. Тогда в V существует ортогональная система ненулевых векторов b1, b2,..., bn, линейная оболочка которой совпадает с линейной оболочкой системы a1, a2,..., an.

 

В любом конечномерном пространстве со скалярным произведением существует ортонормированный базис.

 

Любую ортогональную систему ненулевых векторов конечномерного пространства со скалярным произведением можно дополнить до ортогонального базиса этого пространства.

 

Любую ортонормированную систему векторов конечномерного пространства со скалярным произведением можно дополнить до ортонормированного базиса этого пространства.

 

Пусть S — подпространство в V.

Ортогональное дополнение подпространства S - множество всех векторов, ортогональных к произвольному вектору из S - .

 

Пусть S — подпространство пространства со скалярным произведением V, а  — ортогональное дополнение S. Тогда: 1)  — подпространство пространства V; 2) если a1, a2,..., ak — базис S, то x ∈  тогда и только тогда, когда xa1 = xa2 = · · · = xak = 0.

 

Если V — пространство со скалярным произведением, а S — подпространство в V, то V = S ⊕  - ортогональным разложением пространства V относительно подпространства S.

 

Алгоритм нахождения базиса ортогонального дополнения:

● пусть a1, a2,..., ak — базис подпространства S евклидова пространства V. Составим однородную систему линейных уравнений

                     a11x1 + a12x2 +... + a1nxn = 0

                    a21x1 + a22x2 +... + a2nxn = 0

                       …

                        ak1x1 + ak2x2 +... + aknxn = 0

           

в которой (ai1,..., aij) — это координаты вектора ai в некотором ортонормированном базисе пространства V. Фундаментальная система решений системы будет базисом подпространства .

 

Свойства ортогонального дополнения: Пусть V — пространство со скалярным произведением, а S, S1 и S2 — его подпространства. Тогда: 1)  = {0}, а  = V; 2) = S; 3) если S1 ⊆ S2, то  ⊆ ; 4)  =  ∩ , а  =  + ; 5) если V = S1 ⊕ S2, то V =  ⊕ .

 

Пусть V — пространство со скалярным произведением, S — его подпространство и x ∈ V. В силу теоремы об ортогональном разложении существуют, и притом единственные, вектора y и z такие, что y ∈ S, z ∈  и x = y + z.

Вектор y называется ортогональной проекцией вектора x на подпространство S - xS. Вектор z называется ортогональной составляющей x относительно S - .

Расстояние от x до S - длина ортогональной составляющей вектора x относительно S - d(x, S).

 

Предположим теперь, что V — евклидово пространство.

Угол между x и S - угол между векторами x и y, если S ≠ {0} и y ≠ 0 - .

Если S ≠ {0} и y = 0, то угол между x и S по определению считается равным .

Если S = {0}, то угол между x и S не определен.

 

Значение функции da(x) минимально тогда и только тогда, когда x = aS. При этом da(aS) = d(a, S).

 

Пусть a1, a2,..., ak — линейно независимая система векторов в пространстве со скалярным произведением, а система b1, b2,..., bk получена из нее процессом Грама–Шмидта. Тогда для всякого i = 2, 3,..., k вектор bi является ортогональной составляющей вектора ai относительно подпространства S, порожденного a1, a2,..., ai-1.

 

Метод наименьших квадратов

 

Псевдорешение системы линейных уравнений Ax = b — это вектор x0, минимизирующий расстояние между векторами Ax и b.

Если псевдорешение неединственно, то обычно интересуются псевдорешением наименьшей длины - нормальное псевдорешение.

Метод наименьших квадратов - простое соображение, которое позволяет находить псевдорешения без вычисления ортогональной проекции.

 

Пусть A — k × n матрица над ℝ, а S — образ линейного отображения x ↦ Ax пространства  в пространство . Для произвольного вектора b ∈  системы линейных уравнений Ax = bS и Ax = b равносильны.

 

Для любой матрицы A над ℝ ее ранг равен рангу матрицы A.

 

-----Линейные функционалы-----

 

Пусть V — векторное пространство над произвольным полем F.

Линейный функционал на V — это линейное отображение : V → F.

 

Пусть V — конечномерное пространство со скалярным произведением над полем F ∈ { ℝ, ℂ}, а Ф: V → F — линейный функционал. Тогда существует единственный вектор a ∈ V такой, что Φ(x) = xa для каждого вектора x ∈ V.

Строение линейного функционала:

Ker(Φ) — подпространство размерности dim V − 1, а его ортогональное дополнение

Ker(Φ)  — одномерное подпространство в V.

Фиксируем ненулевой вектор b ∈ Ker(Φ)  и пусть β:= Φ(b).

Положим a:= b и проверим, что Φ(x) = xa для каждого x ∈ V. Для этого представим x в виде x = c + γb для некоторого c ∈ Ker(Φ) и γ ∈ F. Такое представление возможно, так как V = Ker(Φ) ⊕ Ker(Φ) , а одномерное подпространство Ker(Φ)  порождается вектором b. Тогда

Φ(x) = Φ(c + γb) = Φ(c) + Φ(γb) = γΦ(b) = γβ,

поскольку Φ(c) = 0. С другой стороны,

xa = (c + γb) b = c b + γb b = γβ,

поскольку cb = 0.

 

---Сопряженное отображение---

 

Пусть : V1 → V2 — линейное отображение (линейный оператор) пространств со скалярным произведением над полем F ∈ { ℝ, ℂ}.

В каждом из пространств V1 и V2 — свое скалярное произведение: будем обозначать произведение векторов x, y ∈ V1 через x y, а произведение векторов p, q ∈ V2 — через p q.

Возьмем произвольный вектор r ∈ V2 и свяжем с ним отображение Φr: V1 → F, определенное правилом Φr(x):= x r. Отображение Φr — линейный функционал на пространстве V1.

Пусть пространство V1 конечномерно. По теореме о строении линейного функционала существует однозначно определяемый вектор a ∈ V1 такой, что x r = x a для каждого x ∈ V1. Сопоставляя вектору r вектор a, получаем отображение из V2 в V1 - сопряженное отображением к  - .

 

Ключевое тождество для сопряженного отображения:

или же, если вернутся к привычному обозначению

 

Тождество однозначно определяет сопряженное отображение, т.е. если для отображения : V2 → V1 равенство  Br выполнено при всех x ∈ V1 и r ∈ V2, то .

 

Пусть : V1 → V2 — линейное отображение пространств со скалярным произведением. Тогда сопряженное отображение : V2 → V1 линейно.

 

Основные свойства взятия сопряженного отображения: 1) ; 2) ; 3) ; 4) .

 

Если линейное отображение : V1 → V2 имеет в ортонормированных базисах пространств V1 и V2 матрицу , то сопряженное ему отображение : V2 → V1 имеет в тех же базисах матрицу .

 

Преобразование : V → V называется самосопряженным, если = .

Тождество самосопряженных преобразований:

Если  — матрица самосопряженного преобразования A в некотором ортонормированном базисе, то  = . Матрицы над ℂ со свойством  = называются эрмитовыми.

Для матриц над ℝ свойство  =  означает, что  = ; такие матрицы называются симметрическими.

 

Если линейное преобразование : V → V имеет в некотором ортонормированном базисе пространства V эрмитову матрицу, то это преобразование самосопряженное.

 

Если : V1 → V2 — линейное отображение пространств со скалярным произведением, то  и  — самосопряженные преобразования.

 

Преобразование : V → V, сопоставляющее каждому вектору x ∈ V его ортогональную проекцию xS, называется ортогональным проектированием на S (ортопроектором).

 

Ортогональное проектирование на любое подпространство — самосопряженное преобразование.

 

Псевдообратное отображение

 

Теорема Фредгольма: Если : U → V — линейное отображение пространств со скалярным произведением над полем F ∈ { ℝ, ℂ}, то Im  = Ker .

 

Альтернатива Фредгольма: Пусть A — n × k матрица над полем F ∈ { ℝ, ℂ}. Либо система линейных уравнений Ax = b имеет решение при любой правой части b ∈ , либо сопряженная система A ∗ y = 0 имеет нетривиальное решение y ∈  \ {0}.

 

Пусть : U → V — линейное отображение пространств со скалярным произведением. Теорема Фредгольма дает ортогональное разложение пространства V:

V = Ker  ⊕ Im .

Применяя ту же теорему к сопряженному отображению : V → U, получим ортогональное разложение пространства U:

U = Ker  ⊕ Im .

Положим U0:= Im , V0:= Im  и обозначим через 0 ограничение отображения  на подпространство U0. Это означает, что вектор 0x определен, только если x ∈ U0, и в этом случае 0x:= x.

 

0 — взаимно однозначное отображение U0 на V0.

 

Если A — матрица линейного отображения : U → V в некоторых ортонормированных базисах пространств U и V, то матрица псевдообратного отображения : V → U в тех же базисах называется псевдообратной к матрице A - A .

 

Для любой системы линейных уравнений Ax = b над полем F ∈ { ℝ, ℂ} формула x = A b возвращает ее нормальное псевдорешение. Теорема Пенроуза: Отображение удовлетворяет следующим тождествам: 1) 2) 3) 4) Обратно, если некоторое линейное отображение  удовлетворяет тождествам 1)–4) c , подставленным вместо , то  = .

 

Скелетное разложение: Пусть A — n × k матрица ранга r над произвольным полем. Тогда A = BC, где B — n × r матрица ранга r, a C — r × k матрица ранга r.

 

Примеры задач