Линейная алгебра и функциональный анализ

Линейная алгебра и функциональный анализ: нормы, полнота, операторы, проекция, сжатие и слабая сходимость. Задачи и точные рациональные итерации.

Два уравнения могут описывать целую прямую решений в трёхмерном пространстве. Например, x+2y=5 и y+z=3 оставляют свободный параметр. Линейная алгебра учит не терять эту свободу при вычислениях и связывать таблицу коэффициентов с геометрией.

Начните с приведения системы и подстановки найденного семейства. Затем переходите к ядру, базису, ортогонализации и собственным векторам. Векторная геометрия и точные алгебраические сертификаты в соседних модулях расширяют этот маршрут, но не делают любую прямоугольную матрицу обратимой.

Основные идеи

Ядро линейного отображения

Ядро A состоит из всех векторов v, для которых Av=0. Если Ax=b разрешима и x₀ — одно решение, все остальные имеют вид x₀+v с v из ядра.

Для строк (1,2,0) и (0,1,1) вектор (2,−1,1) лежит в ядре: оба скалярных произведения равны нулю.

Базис и независимость

Базис даёт единственную запись каждого вектора пространства через свои элементы. Число записанных столбцов не равно рангу, если часть столбцов выражается через остальные.

Векторы (1,0), (0,1), (1,1) порождают плоскость, но три вектора не образуют её базис: третий равен сумме первых двух.

Спектр и геометрия

Собственный вектор — ненулевой вектор, направление которого сохраняется при действии матрицы. Кратность корня характеристического многочлена сама по себе не гарантирует нужного числа независимых собственных векторов.

Матрица со строками (1,1), (0,1) имеет только одно независимое собственное направление, хотя значение 1 имеет кратность два.

Основные методы

Квадратичная форма: как доказать положительность во всех направлениях

Проверяем семейство форм через выделение квадратов, главные миноры и явное опасное направление.

Перед началом: Умножение матриц; Определитель второго порядка; Выделение полного квадрата.

Положительные коэффициенты не дают гарантии

Форма 3x²−4xy+ty² может быть положительной на координатных осях и отрицательной между ними. При t=1 подстановка (1,0) и (0,1) даёт положительные числа, но направление (2,3) даёт −3. Проверка нескольких красивых векторов не доказывает утверждение обо всех векторах. Она годится для опровержения, если найден хотя бы один отрицательный результат.

Положительная определённость требует q(z)>0 для каждого ненулевого z. В нуле любая квадратичная форма равна нулю, поэтому слово «ненулевого» исключать нельзя. Неотрицательная форма допускает нули и в других направлениях; её называют положительно полуопределённой. Эти случаи по-разному ведут себя в задачах минимизации и при попытке обратить связанную матрицу.

Запишите симметричную матрицу без потери множителя

Для q=ax²+2bxy+cy² матрица имеет строки (a,b) и (b,c). Смешанное слагаемое появляется дважды при умножении zᵀAz. Поэтому коэффициент −4 перед xy соответствует внедиагональному элементу −2. Ошибка вдвое меняет определитель и может перевести положительную форму в неопределённую, хотя запись исходного многочлена выглядела почти такой же.

Если дана несимметричная действительная матрица, квадратичная форма зависит только от её симметричной части: zᵀAz=zᵀ(A+Aᵀ)z/2. Кососимметричная часть вклада не даёт. Критерии положительной определённости для симметричных матриц применяют именно к этой части. Одного положительного определителя произвольной матрицы для вывода о форме недостаточно.

Выделение квадратов объясняет критерий

При a>0 можно написать q=a(x+by/a)²+(c−b²/a)y². Теперь знак виден по коэффициентам двух независимых квадратов. Для строгой положительности нужны a>0 и ac−b²>0. Если второй коэффициент отрицателен, выбираем x=−by/a и оставляем только отрицательный вклад. Если он равен нулю, появляется целое направление нулей.

В большем числе переменных аналогичную работу выполняют симметричное исключение и разложение LDLᵀ. Критерий Сильвестра требует положительности всех ведущих главных миноров действительной симметричной матрицы. Для полуопределённости нельзя просто заменить в этом критерии строгие знаки нестрогими: у diag(0,−1) оба ведущих минора равны нулю, но значение на втором базисном векторе отрицательно.

Численный тест и вывод об экстремуме

Собственные значения симметричной матрицы тоже определяют знак: строгая положительность всех значений эквивалентна положительной определённости. Для близкой к вырожденной матрицы округление может скрыть маленькое отрицательное значение. В задаче с точными рациональными коэффициентами полезно сохранить точные миноры либо дать явное разложение в квадраты, а не судить по округлённому экранному нулю.

Положительно определённая квадратичная форма имеет единственный минимум в нуле. Для гладкой функции положительно определённая матрица вторых производных в критической точке даёт достаточное условие строгого локального минимума. Полуопределённая матрица оставляет вопрос открытым: вдоль нулевых направлений решают члены более высокого порядка. Поэтому вырожденный тест не равен сообщению «минимума нет».

Порог параметра и свидетельство на границе

Условие. Для q_t(x,y)=3x²−4xy+ty² определить положительную определённость и поведение при граничном параметре.

  1. Матрица формы A имеет строки (3,−2) и (−2,t).
  2. Выделяем квадрат: q_t=3(x−2y/3)²+(t−4/3)y².
  3. При t>4/3 оба коэффициента положительны, и одновременный ноль квадратов возможен только при x=y=0.
  4. При t=4/3 ненулевой вектор (2,3) даёт ноль; при t<4/3 он даёт 9t−12<0, а вектор (1,0) по-прежнему даёт 3.

Ответ. Положительно определена при t>4/3; полуопределена при t=4/3; неопределённа при t<4/3.

Проверка. Ведущие миноры равны 3 и 3t−4. При t=2 форма на (2,3) равна 6; при t=1 равна −3.

Где легко ошибиться. Проверить только оси или только знак определителя недостаточно. Условия критерия должны относиться к симметричной матрице и выполняться все вместе.

Проверьте понимание

Что доказывают значения q(1,0)>0 и q(0,1)>0 для формы двух переменных?

Вопросы к этой главе

Зачем нужен ненулевой вектор с отрицательным значением?

Он является коротким проверяемым опровержением положительности для всех направлений. Поиск такого вектора не заменяет доказательство положительности, когда контрпример не найден.

Нулевая форма тоже полуопределённая?

Да: она неотрицательна на каждом векторе, но никогда не положительна строго. Её ядро занимает всё пространство.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • MIT 18.06SC: positive definite matrices and minima

    Проверка эквивалентных критериев для симметричных матриц. Параметрическое семейство и граничный вектор разобраны отдельно.

Метод наименьших квадратов: проекция и проверка остатка

Находим прямую для трёх несовместимых измерений и доказываем оптимальность через ортогональность ошибки.

Перед началом: Скалярное произведение; Линейная независимость столбцов; Квадратичная функция и минимум.

Не всякую систему нужно решать точно

Точки (−1,1), (0,2), (1,4) не лежат на одной прямой: соседние приращения значений равны одному и двум. Поиск прямой α+βt через все три точки приводит к несовместимой системе. Метод наименьших квадратов меняет вопрос: выбирает коэффициенты, для которых сумма квадратов вертикальных отклонений минимальна. Это уже точная задача оптимизации, а не неудачная попытка решить старую систему.

Обозначим вектор измерений через b, а матрицу модели через A. Её столбцы показывают, как меняется прогноз при изменении каждого коэффициента. Для прямой это столбец единиц и столбец времён. Возможные прогнозы Ax заполняют пространство столбцов A. Искомый прогноз — ближайшая к b точка этого подпространства в евклидовой норме.

Остаток должен быть поперёк модели

Пусть p=A x̂ и e=b−p. Если у остатка есть составляющая вдоль некоторого столбца A, коэффициенты можно изменить в соответствующем направлении и уменьшить квадрат ошибки. В оптимуме это невозможно: Aᵀe=0. Отсюда получаются нормальные уравнения AᵀA x̂=Aᵀb. Они выражают геометрию перпендикулярности, а не произвольный приём умножения несовместимой системы.

Проверка становится особенно прозрачной после нахождения коэффициентов. Для любого изменения h новый остаток равен e−Ah. Из ортогональности следует ||e−Ah||²=||e||²+||Ah||². Второе слагаемое неотрицательно, поэтому исходная ошибка минимальна. Это равенство одновременно доказывает глобальность минимума и даёт способ проверить ответ без перебора всех возможных прямых.

Прогноз может быть единственным без единственных коэффициентов

При линейно независимых столбцах A матрица AᵀA положительно определена: hᵀAᵀAh=||Ah||²>0 для h≠0. Поэтому коэффициенты определяются единственным образом. Если столбцы зависимы, разные коэффициенты могут задавать один и тот же прогноз. Проекция b на фиксированное подпространство всё равно единственна; неоднозначность находится в параметрах, а не в ближайшем векторе.

Например, добавление копии первого столбца позволяет переносить постоянную добавку из одного коэффициента в другой. Нормальные уравнения становятся вырожденными, хотя минимальное значение ошибки остаётся определённым. В таком случае выбирают дополнительное соглашение, например решение минимальной нормы, или устраняют избыточный параметр. Объявлять данные «не имеющими приближения» из-за зависимых столбцов было бы неверно.

Выберите метрику до вычисления

В этой постановке минимизируются квадраты отклонений по измеряемой величине при фиксированных t. Расстояния перпендикулярно прямой на рисунке описывают другую задачу. Если погрешности разных наблюдений имеют разный масштаб, могут понадобиться веса. Если ошибочны обе координаты, обычная модель вертикальных остатков требует дополнительного обоснования. Красиво нарисованная линия этих предположений не проверяет.

Для численной реализации не стоит буквально вычислять обратную матрицу в формуле x̂=(AᵀA)⁻¹Aᵀb. При плохо обусловленных столбцах нормальные уравнения усиливают потерю точности; используют QR-разложение или SVD. Учебные точные вычисления полезны как независимая проверка. После запуска программы проверьте остаток, его ортогональность и размерности, а не только округлённые коэффициенты.

Прямая и сертификат минимальности

Условие. Для t=−1,0,1 измерены значения 1,2,4. Найти α+βt методом наименьших квадратов.

  1. Столбцы A: (1,1,1) и (−1,0,1); b=(1,2,4).
  2. Получаем AᵀA=diag(3,2), Aᵀb=(7,3).
  3. Следовательно, α=7/3, β=3/2, прогнозы равны (5/6,7/3,23/6).
  4. Остаток b−p=(1/6,−1/3,1/6); сумма его квадратов равна 1/6.

Ответ. Прямая 7/3+(3/2)t; минимальная сумма квадратов ошибки 1/6.

Проверка. Сумма компонент остатка равна нулю, его скалярное произведение с (−1,0,1) тоже ноль. При изменении коэффициентов на u,v ошибка становится 1/6+3u²+2v².

Где легко ошибиться. Минимизировать сумму подписанных отклонений бесполезно: положительные и отрицательные ошибки могут взаимно уничтожиться, оставаясь по модулю большими.

Проверьте понимание

У A два одинаковых ненулевых столбца. Что может остаться единственным в задаче МНК?

Вопросы к этой главе

Нулевая сумма остатков уже доказывает оптимальность?

Она проверяет ортогональность только столбцу единиц. Нужно проверить все столбцы модели; для прямой дополнительно требуется нулевое скалярное произведение с временами.

Ровно найденная прямая означает точные измерения?

Нет. Оптимизация решена точно внутри выбранной модели ошибки. Физическая точность и пригодность линейной зависимости требуют отдельной проверки.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • MIT 18.06SC: projection matrices and least squares

    Проверка геометрии проекции и нормальных уравнений. Набор измерений, точные коэффициенты и сертификат ошибки вычислены отдельно.

Функциональный анализ

Норма меняет сходимость: узкий пик и полнота пространства

Высота пика остаётся единицей, а среднеквадратичная ошибка стремится к нулю. Разберём, почему оба вывода совместимы и какой предел остаётся внутри пространства.

Перед началом: Интеграл и равномерная сходимость; Нормы векторов.

Сначала определите, какую ошибку измеряете

На [0,1] рассмотрим непрерывный треугольный пик f_n(x)=max(1−n|x−1/2|,0), n≥2. Его высота равна единице, а ширина основания — 2/n. В норме максимума расстояние до нуля постоянно равно 1. В норме L² учитывается интеграл квадрата высоты, поэтому сужение основания существенно. Одна и та же последовательность может сходиться в одном смысле и не сходиться в другом без какого-либо противоречия.

Норма удовлетворяет положительности, абсолютной однородности и неравенству треугольника. С её помощью задают расстояние ||f−g||. Но сама формула нормы ещё не фиксирует пространство: например, L² рассматривает функции с конечным интегралом квадрата и отождествляет функции, равные почти всюду. Для непрерывных функций на отрезке можно вычислять ту же интегральную норму, однако получится другое, неполное пространство, если не добавить все необходимые предельные классы.

Не переносите конечномерную эквивалентность без проверки

Для фиксированного числа координат все нормы эквивалентны: существуют положительные константы сравнения, работающие для каждого вектора этого пространства. Константы могут зависеть от размерности. В бесконечномерной задаче аналогичная общая оценка может не существовать. Треугольные пики дают конкретное препятствие для оценки ||f||∞≤C||f||₂ с одним C на всех непрерывных f.

У нашего пика интеграл квадрата равен 2/(3n), поэтому ||f_n||₂→0, тогда как ||f_n||∞=1. Если бы общая константа C существовала, получилось бы 1≤C√(2/(3n)) для любого n, что невозможно при больших n. При этом обратная оценка ||f||₂≤||f||∞ на отрезке длины 1 верна. Эквивалентность требует обеих сторон, а не единственного удобного неравенства.

Полнота отвечает на вопрос о пределах последовательностей Коши

Пространство Банаха — нормированное пространство, в котором любая последовательность Коши имеет предел в той же норме внутри пространства. C[0,1] с нормой максимума полно: равномерный предел непрерывных функций непрерывен. Пространство многочленов с той же нормой неполно. Частичные суммы ряда экспоненты образуют последовательность Коши, но их предел e^x не является многочленом.

Для треугольных пиков также нельзя заключать «последовательность Коши» из попарной близости нескольких соседних графиков. Между f_n и f_2n в точке 1/2+1/(2n) разность равна 1/2. Поэтому хвост не становится равномерно тесным. В L², напротив, расстояние до нуля стремится к нулю, а значит последовательность Коши. В прикладной задаче выбор нормы должен отражать обещанную ошибку: малое среднеквадратичное отклонение допускает высокий узкий дефект, который норма максимума обнаружит.

Высокий пик с малой интегральной ошибкой

Условие. Для f₈ на [0,1] вычислите ||f₈||∞ и ||f₈||₂. Затем проверьте, почему общей константы сравнения с sup-нормой для всех f_n быть не может.

  1. Высота f₈ в x=1/2 равна 1, поэтому норма максимума равна 1.
  2. По симметрии интеграл квадрата равен 2∫₀^(1/8)(1−8t)²dt=1/12.
  3. Следовательно, ||f₈||₂=1/√12≈0,288675.
  4. Для общего n отношение ||f_n||∞/||f_n||₂=√(3n/2) неограниченно. Одна константа C не охватывает всю последовательность.

Ответ. ||f₈||∞=1, ||f₈||₂=1/√12; общей обратной оценки для всех этих пиков нет.

Проверка. Интеграл одного треугольного квадрата равен одной трети площади прямоугольника высоты 1 и ширины 2/n, то есть 2/(3n).

Где легко ошибиться. Малость интегральной ошибки не означает малость ошибки в каждой точке. Прежде чем объявлять результат точным, назовите норму и пространство допустимых функций.

Проверьте понимание

Что доказывают пики f_n для интегральной и максимальной норм?

Вопросы к этой главе

Достаточно ли малых разностей соседних членов для свойства Коши?

Нет. Нужна оценка для любых двух достаточно поздних членов. Для sup-нормы здесь пары n и 2n сохраняют разрыв не меньше 1/2.

Полнота зависит только от формулы нормы?

Она зависит и от набора элементов. Многочлены и все непрерывные функции имеют одну sup-норму на отрезке, но разные свойства полноты.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

Ограниченный оператор: оценка для всех входов и точная норма

Линейная формула сама по себе не обеспечивает непрерывность в пространстве функций. Проверим норму матрицы и сравним её с оператором дифференцирования.

Перед началом: Линейность и индуцированная норма; Производная и последовательности функций.

Линейность и ограниченность — разные свойства

Оператор T:X→Y линеен, если сохраняет суммы и умножение на скаляры. Ограниченность означает существование одной константы C, для которой ||Tx||Y≤C||x||X при всех x. Здесь «ограниченный» не означает ограниченный образ всего пространства: ненулевой линейный оператор переводит достаточно большие входы в сколь угодно большие выходы. Ограничивается усиление относительно размера входа.

Норма оператора равна sup по ||x||≤1 значений ||Tx||. Для линейного оператора ограниченность эквивалентна непрерывности, причём достаточно непрерывности в нуле. Из линейности разность Tx−Ty равна T(x−y), поэтому одна оценка управляет всеми парами входов. Непрерывность без линейности не превращается автоматически в такое глобальное липшицево условие.

Для матрицы важно зафиксировать обе нормы

Если и вход, и выход измеряются нормой максимума, то индуцированная норма матрицы равна максимальной сумме модулей элементов строки. Неравенство следует из |Σaᵢⱼxⱼ|≤Σ|aᵢⱼ|·||x||∞. Но для точного равенства нужно ещё показать вход, достигающий этой оценки. Достаточно выбрать знаки координат по знакам строки с максимальной суммой.

Эта норма не равна универсально спектральному радиусу или определителю. Она зависит от выбранных норм и может давать достаточно грубую оценку многократного действия. В задачах устойчивости полезно проверять не только размер отдельных коэффициентов: несколько небольших элементов одной строки могут суммарно усиливать возмущение. Если матрица меняется, константу сравнения пересчитывают, а не переносят с прежнего примера.

Дифференцирование показывает роль пространства

Рассмотрим Df=f′ на C¹[0,2π], когда и вход, и выход измеряются только sup-нормой. Функции f_n(x)=sin(nx)/n стремятся к нулю равномерно, но ||Df_n||∞=1. Поэтому D в этих нормах не ограничен и не непрерывен. Наличие производной у каждого элемента не даёт общей оценки производной по одной высоте функции.

Если вход оснастить нормой ||f||C¹=||f||∞+||f′||∞, тот же оператор станет ограниченным: ||Df||∞≤||f||C¹. Формула не изменилась, изменилась сила контроля входных данных. Это важное различие для обратных задач: попытка восстановить производную из шумных значений функции может сильно усиливать высокочастотную ошибку. Ограниченность оператора проверяют на указанной области определения, а не на нескольких гладких тестовых функциях. В частности, конечная таблица отсчётов ещё не задаёт непрерывный оператор дифференцирования на всех функциях. Норму также нельзя путать с обусловленностью обратной задачи: маленькая норма A сама по себе не контролирует норму A⁻¹.

Точная норма небольшой матрицы

Условие. Для A со строками (1/5,1/10) и (−1/10,3/10) найдите ||A||∞ и вход с ||x||∞=1, на котором оценка достигается.

  1. Сумма модулей первой строки равна 3/10, второй — 4/10.
  2. Для любого x имеем ||Ax||∞≤(2/5)||x||∞.
  3. Берём x=(−1,1), согласуя знаки со второй строкой.
  4. Тогда Ax=(−1/10,2/5), так что ||Ax||∞=2/5 при ||x||∞=1. Верхняя оценка достигнута.

Ответ. ||A||∞=2/5; подходящий вектор x=(−1,1).

Проверка. Найдены и общая верхняя граница, и конкретный вход с равенством. Это доказывает точную норму, а не только её допустимую оценку сверху.

Где легко ошибиться. Проверка на нескольких векторах не доказывает ограниченность. А найденная общая верхняя граница не обязана быть точной нормой, пока не обоснована оптимальность.

Проверьте понимание

В какой норме входа D:C¹→C гарантированно ограничен?

Вопросы к этой главе

Почему D называют неограниченным, если производные существуют?

Потому что нет одной константы для оценки ||f′||∞ через ||f||∞ на всём указанном пространстве. Существование результата для каждого входа — отдельный вопрос.

Можно ли поменять норму, чтобы улучшить оценку?

Можно изучать другую нормированную задачу, но она обещает другой контроль данных. Это не исправление старой оценки без изменения предпосылок.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

Проекция в пространстве функций: лучшая прямая для x²

Ищем лучшую аффинную функцию в L²[−1,1], а не прямую через выбранные точки. Ортогональность остатка даст проверку ответа и минимальности.

Перед началом: Скалярное произведение и интеграл; Квадратичная ошибка.

Что считается близостью функций

В вещественном L²[−1,1] скалярное произведение задаётся интегралом ∫fg, а квадрат нормы — интегралом f². Два элемента, различающиеся только на множестве меры нуль, представляют один класс. Подпространство M=span{1,x} содержит все функции a+bx. Оно конечномерно, поэтому замкнуто, и задача наилучшего приближения имеет единственное решение.

Теорема о проекции в гильбертовом пространстве требует непустого замкнутого линейного подпространства. Ближайший элемент p характеризуется условием f−p⊥M. Замкнутость нужна, чтобы предел приближающей последовательности не выпал из множества допустимых ответов. Бесконечное линейное множество без замыкания нельзя автоматически использовать в том же утверждении.

Остаток должен быть ортогонален всем направлениям

Для p=a+bx достаточно потребовать ∫(f−a−bx)=0 и ∫x(f−a−bx)=0: любой элемент M является линейной комбинацией 1 и x. Это нормальные уравнения с матрицей Грама. На симметричном отрезке ∫x=0, поэтому выбранные базисные функции ортогональны, хотя их нормы не равны единице.

Когда f=x², чётность сразу обнуляет момент ∫x³. Линейный коэффициент b должен быть нулевым. Постоянный коэффициент определяется средним значением x² на отрезке, а не значением в его центре. В точке x=0 функция равна нулю, однако лучшая постоянная будет положительной. Это иллюстрирует различие между интерполяцией в точке и минимизацией интегральной ошибки.

Почему найденное решение минимально

Пусть p — найденная проекция, а q — любое другое приближение из M. Разность q−p лежит в M и ортогональна f−p. Разложение квадрата нормы даёт ||f−q||²=||f−p||²+||q−p||². Второе слагаемое неотрицательно и исчезает только при q=p. Так получается независимое доказательство глобальной минимальности и единственности, без анализа только критической точки.

Ответ зависит от меры и интервала. Если заменить равномерный вес положительной весовой функцией, изменятся скалярное произведение, матрица Грама и коэффициенты. Если же использовать sup-норму, теорема об ортогональной проекции не применяется в прежнем виде. Нельзя переносить константу 1/3 на другую постановку только потому, что функция снова называется x². Для практической подгонки также различайте непрерывный интеграл и конечную сумму по измерениям: это разные критерии, хотя их нормальные уравнения внешне похожи. Деление всего интеграла на длину отрезка не меняет оптимизатор, но меняет численное значение ошибки: средний квадрат на единицу длины здесь равен 4/45, а полный интеграл — 8/45.

Лучшая аффинная функция и точная ошибка

Условие. Найдите a и b, минимизирующие ∫₋₁¹(x²−a−bx)²dx, и вычислите минимальное значение интеграла.

  1. Условие ортогональности к 1: 2/3−2a=0, откуда a=1/3.
  2. Условие ортогональности к x: 0−(2/3)b=0, откуда b=0.
  3. Квадрат остатка интегрируется как ∫(x⁴−(2/3)x²+1/9)=2/5−4/9+2/9=8/45.
  4. Для любой другой прямой a+bx к этому значению прибавляется норма её отклонения от 1/3 в квадрате. Меньшего значения получить нельзя.

Ответ. p(x)=1/3; минимальный интеграл квадрата ошибки равен 8/45.

Проверка. Моменты остатка ∫(x²−1/3)=0 и ∫x(x²−1/3)=0. Они проверяют оба направления допустимого подпространства.

Где легко ошибиться. Не требуйте нулевого остатка в выбранных точках: задача минимизирует интегральную ошибку. И не называйте 8/45 самой L²-нормой — это её квадрат.

Проверьте понимание

Что изменится при добавлении к найденной проекции ненулевого элемента M?

Вопросы к этой главе

Почему нельзя просто взять касательную в нуле?

Касательная подходит для локального приближения возле точки. Здесь оптимизируется интеграл на всём отрезке, поэтому нужен другой критерий и другой ответ.

Почему достаточно двух моментов?

Пространство допустимых функций порождается двумя независимыми функциями 1 и x. Ортогональность к базису равносильна ортогональности ко всем их линейным комбинациям.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

Сжатие: существование решения и апостериорная граница ошибки

Итерация может выглядеть устойчивой, но малый шаг ещё не даёт границы ошибки. Для сжатия такую границу можно вывести и проверить на точных дробях.

Перед началом: Норма оператора; Геометрический ряд; Полнота пространства.

Теорема требует полного пространства и самодействия

Пусть T переводит непустое полное метрическое пространство в себя и d(Tx,Ty)≤q d(x,y) с одним 0≤q<1. Тогда существует единственная неподвижная точка x*, а итерации xₖ₊₁=Txₖ сходятся к ней из любого допустимого старта. Если T переводит часть точек за пределы пространства, условие теоремы нарушено. Если пространство неполно, последовательность Коши может не иметь в нём предела.

Для аффинного отображения T(x)=Ax+b на всём Rⁿ с нормой максимума полнота и самодействие выполняются автоматически. Липшицеву константу можно взять равной ||A||∞. Это удобное достаточное условие, которое можно вычислить по строкам матрицы, не предполагая заранее существование решения системы (I−A)x=b.

Из геометрического хвоста получается оценка

Разности соседних итераций удовлетворяют ||xₖ₊₁−xₖ||≤q||xₖ−xₖ₋₁||. Суммируя все будущие изменения, получаем ||x*−xₖ||≤q||xₖ−xₖ₋₁||/(1−q). Это апостериорная оценка: она использует уже наблюдённый шаг, но становится гарантией только благодаря общему условию сжатия.

Есть и оценка по невязке неподвижной точки: ||x*−x||≤||Tx−x||/(1−q). Она следует из неравенства ||x*−x||≤||Tx*−Tx||+||Tx−x|| и переноса q||x*−x|| в левую часть. Невязка и ошибка имеют разный смысл. Коэффициент 1/(1−q) показывает, почему близость q к единице ухудшает полезность границы даже при сходящихся итерациях.

Неудачный критерий не равен неудачной итерации

Если выбранная норма дала q≥1, эта проверка не подтверждает сжатие, но не опровергает сходимость. Матрица со строками (0,2) и (0,0) имеет норму максимума 2, хотя её квадрат равен нулю. Соответствующее аффинное отображение достигает неподвижной точки не позднее второго шага. Поэтому инструмент показывает отсутствие данной оценки, а не выдумывает расходимость.

При вычислении с плавающей точкой строгая математическая граница дополнительно требует контроля ошибок арифметики. В лаборатории входы и итерации считаются точными рациональными числами, а десятичные записи округляются для чтения. Не нужно интерпретировать округлённую строку таблицы как новый точный вектор и заново доказывать для неё ту же границу. Если требуется машинно проверяемый десятичный сертификат, отдельно выбирают направленное округление или интервальную арифметику. Для допуска ε останавливаются после проверки именно границы ошибки. В разобранном примере три шага ещё не дают допуска 0,01: обе полученные верхние границы больше него, поэтому расчёт нужно продолжить. Сам метод при этом остаётся сходящимся.

Третий шаг и две оценки ошибки

Условие. Возьмите A=((1/5,1/10),(−1/10,3/10)), b=(1,2), x₀=(0,0). Найдите x₃, границы ошибки и сравните с точным решением.

  1. q=||A||∞=2/5. Первые два шага: x₁=(1,2), x₂=(7/5,5/2).
  2. Третий шаг x₃=(153/100,261/100), а ||x₃−x₂||∞=13/100.
  3. Граница по шагу равна (2/3)·13/100=13/150. Невязка ||Tx₃−x₃||∞=37/1000, граница по ней равна 37/600.
  4. Точное решение (I−A)x=b равно (30/19,50/19). Ошибка третьего шага в норме максимума равна 93/1900 и меньше обеих границ.

Ответ. x₃=(1,53;2,61); ошибка 93/1900≤37/600≤13/150.

Проверка. Подстановка точного решения даёт 8x−y=10 и x+7y=20. Обе границы сравниваются с одной и той же нормой ошибки.

Где легко ошибиться. Деление на 1−q допустимо для вывода положительной оценки только при q<1. Малость соседнего шага без такого основания не является универсальным доказательством точности.

Итерации аффинного сжатия и оценка ошибки

xₖ₊₁=Axₖ+b, до четырёх координат. В матрице строки разделены переносом, числа — пробелами. Допустимы точные дроби. q=||A||∞<1 даёт достаточную гарантию; q≥1 не доказывает расходимость. Показанные десятичные границы округлены, внутри используются точные дроби.

Данные для расчёта

Проверьте понимание

Что означает q≥1 в норме, которую проверил инструмент?

Вопросы к этой главе

Почему оценка по невязке иногда лучше оценки по последнему шагу?

Невязка относится уже к текущему вектору и может быть меньше q-кратного прошлого шага. Обе оценки корректны при одном доказанном условии сжатия.

Можно ли продолжать итерации при q≥1?

В ограниченной учебной задаче можно посмотреть их значения. Но данная проверка не даёт ни гарантии сходимости, ни указанной границы ошибки.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

Слабая сходимость: все фиксированные наблюдения и норма

Единичные координатные векторы не приближаются к нулю по норме, но любое фиксированное скалярное наблюдение стремится к нулю. Проверим оба утверждения.

Перед началом: Скалярное произведение в ℓ²; Сходимость рядов.

Фиксируйте наблюдателя до предельного перехода

В вещественном гильбертовом пространстве H слабая сходимость xₙ⇀x означает 〈xₙ,h〉→〈x,h〉 для каждого фиксированного h∈H. Сильная сходимость требует ||xₙ−x||→0. Из неравенства Коши — Буняковского следует, что сильная сходимость влечёт слабую: |〈xₙ−x,h〉|≤||xₙ−x||·||h||. Обратный вывод требует дополнительных условий.

Слово «фиксированный» существенно. Нельзя после выбора n подставлять нового наблюдателя hₙ и считать, что определение контролирует эту меняющуюся последовательность. Для координатного вектора eₙ выбор hₙ=eₙ даёт скалярное произведение 1, однако это не опровергает слабую сходимость, в которой h должен оставаться одним и тем же при всех n.

Координаты исчезают, а норма может сохраняться

В ℓ² вектор eₙ имеет одну единицу на n-м месте. Его норма равна 1. Для фиксированного h=(h₁,h₂,…) скалярное произведение 〈eₙ,h〉=hₙ. Квадратичная суммируемость h влечёт hₙ→0: иначе бесконечно много квадратов были бы отделены от нуля. Поэтому eₙ⇀0, но сильной сходимости к нулю нет.

Эта конструкция объясняет опасность проверки конечного числа координат. После достаточно большого n все первые десять координат eₙ равны нулю, но вся масса просто ушла дальше. Для численного приближения слабый контроль может быть полезен, когда интересуют интегральные наблюдения, однако он не равен обещанию малой общей ошибки. Сам по себе слабый предел не сообщает, что норма ошибки исчезла. При этом слабый предел единственен: если наблюдения имеют пределы x и y, можно взять фиксированное h=x−y и получить ||x−y||²=0.

Когда слабый предел всё-таки становится сильным

В гильбертовом пространстве слабая сходимость xₙ⇀x вместе со сходимостью норм ||xₙ||→||x|| даёт сильную сходимость. Действительно, ||xₙ−x||²=||xₙ||²−2〈xₙ,x〉+||x||², и каждое слагаемое имеет нужный предел. Здесь используется геометрия скалярного произведения; переносить эту короткую формулу на произвольную норму без проверки нельзя.

Для усреднённых координатных векторов aₙ=(e₁+…+eₙ)/n ситуация меняется: квадрат нормы равен n/n²=1/n. Среднее действительно стремится к нулю сильно. Это отдельная последовательность, а не новое название исходной eₙ. В задаче важно отслеживать нормировку: коэффициент 1/√n дал бы постоянную норму, хотя каждая фиксированная координата тоже исчезает. Различие двух нормировок можно установить точно, не строя бесконечную таблицу координат и не пытаясь представить все элементы пространства на одном конечном графике.

Сравнить базисный вектор и среднее

Условие. Сравните eₙ и aₙ=(e₁+…+eₙ)/n в ℓ². Для n=25 найдите их нормы и определите тип сходимости к нулю.

  1. У eₙ квадрат нормы равен 1, поэтому сильной сходимости к нулю нет.
  2. Для любого фиксированного h∈ℓ² имеем 〈eₙ,h〉=hₙ→0. Следовательно, слабая сходимость есть.
  3. У aₙ ровно n координат, каждая 1/n, поэтому ||aₙ||²=1/n.
  4. При n=25 получаем ||a₂₅||=1/5. В общем случае норма стремится к нулю, значит сходимость сильная и, следовательно, слабая.

Ответ. eₙ⇀0, но ||eₙ||=1; aₙ→0 сильно, ||a₂₅||=1/5.

Проверка. Нормы вычислены по всем ненулевым координатам, а слабый вывод проверен для произвольного фиксированного квадратично суммируемого h.

Где легко ошибиться. Исчезновение первых нескольких координат не доказывает сильной сходимости. И проверка на наблюдателе, зависящем от n, не соответствует определению слабой сходимости.

Проверьте понимание

Что верно для bₙ=(e₁+…+eₙ)/√n?

Вопросы к этой главе

Почему любая координата hₙ последовательности из ℓ² стремится к нулю?

Если бы существовала бесконечная подпоследовательность с |hₙ|≥ε>0, сумма квадратов содержала бы бесконечно много слагаемых не меньше ε² и расходилась.

Какой дополнительный контроль нужен в гильбертовом случае?

Сходимость норм к норме слабого предела. Тогда разложение квадрата расстояния доказывает сильную сходимость.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

Темы направления

Линейная алгебра: системы, базисы и спектр

Обзор модуля

От определителя и системы уравнений к базису ядра, обращению матриц, ортогонализации и кратным собственным значениям. Точные примеры и проверка своих данных.

Векторная геометрия: угол, нормаль и ориентированный объём

Обзор модуля

Перейдите от скалярного произведения к векторному, уравнению плоскости и объёму тетраэдра. Проверьте координатные условия и отделите ориентацию от геометрического размера.

Вычислительная алгебра: инварианты, корни и рациональные модели

Обзор модуля

Три вида точного ответа: структура целочисленной решётки, число действительных корней и локальная рациональная аппроксимация.

Разобранный пример

Решить систему, сохранив все решения

Найдите все тройки (x,y,z), для которых x+2y=5 и y+z=3.

  1. Положим z=t: третья неизвестная не определяется однозначно.
  2. Из второго уравнения y=3−t. Подставляем в первое: x=5−2(3−t)=−1+2t.
  3. Отделяем частное решение от направления: (x,y,z)=(−1,3,0)+t(2,−1,1), t — любое действительное число.

Ответ: (−1+2t, 3−t, t), где t∈R.

Проверка: Первая левая часть равна −1+2t+6−2t=5, вторая — 3−t+t=3 при любом t. Направление семейства зануляется обеими строками матрицы.

Проверьте понимание

Что прибавление вектора ядра делает с решением Ax=b?

Вопросы по направлению

Почему определитель применим не ко всем матрицам?

Обычный определитель определяется для квадратной матрицы. Для прямоугольной системы независимость и разрешимость изучают через ранг, ядро и приведение, а не через несуществующую обратную матрицу.

Нулевой определитель означает отсутствие решений?

Он означает необратимость квадратной матрицы. В зависимости от правой части система может оказаться несовместной или иметь несколько решений. Правую часть необходимо проверить вместе с коэффициентами.

Что проверять после ортогонализации?

Попарные скалярные произведения должны быть нулевыми, а полученные ненулевые векторы должны порождать исходное пространство. Нулевой остаток указывает на зависимость, поэтому его нельзя нормировать делением на длину.