Определение. Гильбертовым пространством называется такая структура
в которой любая фундаментальная
последовательность сходится по норме, порождённой скалярным произведением.
Линейные операторы в конечномерных пространствах представляют из себя конечной размерности матрицы. Множество матриц определённого типа образуют носитель линейного пространства и при выборе нормы, становится линейным нормированным пространством.
Определение. Под нормой матрицы
понимается действительное число
, удовлетворяющее условиям:
а)
, причем
тогда и только тогда, когда
;
б)
(
- число) и, в частности,
;
в)
;
г)
норма называется канонической, если дополнительно выполняются следующие условия:
д) если
, то
, причём для скалярной матрицы
имеем
|;
е) из неравенства
(A и В - матрицы)
следует неравенство
. В частности,
.
В дальнейшем для матрицы
произвольного типа рассматривают главным образом три легко
вычисляемые нормы [26]:
1.
(m-норма);
2.
(l-норма);
3.
(
-норма).
Здесь представлена задача построения наилучшего приближения на
абстрактном языке. Пусть
является элементом линейного нормированного пространства
. Необходимо найти наилучшее
приближение этого элемента заданной линейной комбинацией
независимых элементов
[11]. Это означает что нужно найти
элемент
такой, что
(1.2)
Можно представить (1.2) следующим образом [11]:
.
Если существует такой элемент, то он является наилучшим приближением.
Теорема. Элемент наилучшего приближения в линейном нормированном пространстве существует.
Доказательство. Вследствие из неравенства треугольника (следствие
соотношений)
Функция
является непрерывной функцией, зависящей от аргументов
при любом
.
- евклидова норма
. Функция
непрерывна на
и следовательно в некоторой её точке
достигает свой нижней грани
по сфере, причем
, так как равенство
противоречит линейной независимости
элементов
. Для любого
справедлива оценка
.
Пусть
. Функция
непрерывна на шаре
; следовательно, в некоторой точке
шара
она достигает своей нижней грани
. Вне этого шара выполняются
отношения
.
Таким образом, вне этого шара
При всех возможных
. Теорема доказана.
Элемент наилучшего приближения, вообще говоря, может быть несколько.
Пространство
называется строго нормированным, если из условия
,
Следует
,
.
В случае строго нормированного линейного пространства элемент наилучшего приближения единственен.
В гильбертовом пространстве элемент наилучшего приближения существует и единствен, и задача его нахождения сводится к решению задачи системы линейных уравнений или решения оптимизационной задачи [11].
Для получения целевой функции реализуют минимум следующего выражения
Для нахождения точки минимума можно использовать оптимизационные методы
или получить систему линейных уравнений. В точке минимума должны выполняться
условия
[11]. Имеем
Отсюда получаем систему линейных уравнений относительно коэффициентов
, соответствующих элементу наилучшего
приближения [11].
,
(4)
Определение. Пусть функция
ограничена снизу на множестве
. Тогда число
называют нижней гранью
на
, если 1)
при всех
; 2) для любого сколь угодно малого
числа
найдётся точка
, для которой
. Если функция
неограничена снизу на
, то в качестве нижней грани
на
принимается
. Нижнюю грань
на
обозначает через
[37].
Если
, то, очевидно, нижняя грань
на
совпадает с наименьшим значением
этой переменой на
, т.е.
. Почеркнём, что
всегда существует [37].
Теория выпуклых множеств и выпуклых функций играет фундаментальную роль в теории и методах решения экстремальных задач.
Определение. Множество
называется выпуклым, если для любых
,
и точка
принадлежит
при всех
,
. Иначе говоря, множество
и выпукло, если отрезок
, соединяющий любые две точки
,
из
, целиком лежит в
. [18]
Все пространство
, очевидно, образует выпуклое множество. Пустое множество и
множество, состоящее из одной точки, удобно считать выпуклыми. Тогда из
определения 1.3. непосредственно следует, что пересечение любого числа выпуклых
множеств является выпуклым множеством. [18]
Рассмотрим основные понятия выпуклых функций, играющих важную роль в
теории экстремальных задач.
Определение. Функция
, определённая на отрезке
, называется выпуклой на этом
отрезке, если
при всех
и всех
,
[18]
Когда
пробегает отрезок
, точки
,
на плоскости переменных
пробегают хорду АВ, соединяющую
точки
и
на графике функции
. Поэтому неравенство (1) имеет
простой геометрический смысл: график выпуклой функции на любом отрезке
, находится не выше хорды, соединяющей
точки графика
и
. Примерами функций, выпуклых на любом отрезке, могут служить
функции
,
,
[18], [39]
Рассмотрим некоторые определения и свойства выпуклых функций многих переменных.
Определение. Функция
, определённая на выпуклом множестве
, называется выпуклой на этом
множестве, если
(1.3)
при всех
и всех
,
.
Определение. Если в (1.3) при
равенство возможно только при
и
, то функция
называется строго выпуклой на
[18].
Теорема. Пусть
- выпуклое множество, а функция
определена и выпукла на
. Тогда всякая точка локального
минимума
одновременно является точкой
глобального минимума на
, причём множество выпукло.
Если
строго выпукла на
, то
содержит не более одной точки
минимума. [18].
Теорема. Пусть
- выпуклое множество из
,
, пусть функция
. Тогда для выпуклости
на
необходимо и достаточно, чтобы
(1.4)
При всех
и всех
[18].
Замечание. Условие (1.4) представляет собой условие не отрицательности
квадратичной формы
на
. Имеется следующий простой
алгебраический критерий не отрицательности квадратичной формы [18] для того
чтобы квадратичная форма
при всех
, необходимо и достаточно, чтобы все главные миноры матрицы
были неотрицательны. Напоминаем, что
главными минорами матрицы
называются всевозможные определители