Дэннис Дж., Шнабель Р. Численные методы безусловной оптимизации и решения нелинейных уравнений

Дэннис Дж., Шнабель Р. Численные методы безусловной оптимизации и решения нелинейных уравнений: Пер. с англ. - М., 1988. - 440 с.
Монография известных американских специалистов, посвященная как теории численных методов оптимизации, так и вопросам реализации этих методов на ЭВМ. Особое внимание уделено наиболее эффективным методам ньютоновского типа. Приведены пакеты программ решения прикладных задач оптимизации.
Для математиков-вычислителей, инженеров-исследователей, аспирантов и студентов вузов.
Оглавление
Предисловие редактора перевода и переводчика....................5
Глава 1. Введение ..... ..............14
1.1. Постановки задач . . ...............14
1.2. Характерные особенности встречающихся на практике задач 18
1.3. Арифметика конечной точности и измерение ошибок .... 24
1.4. Упражнения...................27
Глава 2. Нелинейные задачи с одной переменной.........29
2.1. О том, чего не следует ожидать...........29
2.2. Метод Ньютона решения одного уравнения с одним неизвестным .....................31
2.3. Сходимость последовательностей действительных чисел . . 34
2.4. Сходимость метода Ньютона................36
2.5. Глобально сходящиеся методы решения одного уравнения с одним неизвестным................40
2.6. Методы для случая, когда производные не заданы .... 44
2.7. Минимизация функции одной переменной........50
2.8. Упражнения...................53
Глава 3. Основы вычислительной линейной алгебры........58
3.1. Векторные и матричные нормы, ортогональность.....59
3.2. Решение систем линейных уравнений и разложения матриц 65
3.3. Погрешности при решении линейных систем.......71
3.4. Формулы пересчета матричных разложений.......76
3.5. Собственные значения и положительная определенность . . 79
3.6. Линейная задача о наименьших квадратах.......82
3.7. Упражнения...................88
Глава 4. Основы анализа функций многих переменных ....... 91
4.1. Производные и многомерные модели.........91
4.2. Конечно-разностные производные в многомерном случае . .100
4.3. Необходимые и достаточные условия в задача безусловной минимизации............103
4.4. Упражнения...................106
Глава 5. Метод Ньютона решения нелинейных уравнений и безусловной минимизации ............... 110
5.1. Метод Ньютона решения систем нелинейных уравнений . .110
5.2. Локальная сходимость метода Ньютона . ......114
5.3. Теорема Канторовича и теорема о сжимающем отображении 116
5.4. Методы с конечно-разностными производными для решения систем нелинейных уравнений............119
5.5. Метод Ньютона безусловной минимизации.......125
5.6. Методы с конечно-разностными производными для безусловной минимизации.................130
5.7. Упражнения...................134
Глава 6. Глобально сходящиеся модификации метода Ньютона .... 138
6.1. Общая квазиньютоновская схема.........139
6.2. Направления спуска....... ........140
6.3. Линейный поиск..................144
6.3.1. Результаты исследования сходимости при надлежащем выборе шагов................149
6.3.2. Выбор шага дроблением...........155
6.4. Подход: модель — доверительная область........160
6.4.1. Локально ограниченный оптимальный («криволинейный») шаг..................165
6.4.2. Шаг с двойным изломом............171
6.4.3. Пересчет доверительной области .........176
6.5. Глобальные методы решения систем нелинейных уравнений 180
6.6. Упражнения...................137
Глава 7. Критерии останова, масштабирование и тестирование .... 190
7.1. Масштабирование.................190
7.2. Критерии останова....... .........196
7.3. Тестирование...................198
7.4. Упражнения...................202
Глава 8. Методы секущих для решения систем нелинейных уравнений 204
8.1. Метод Бройдена.................205
8.2. Анализ локальной сходимости метода Бройдена.....211
8.3. Реализация квазиньютоновских алгоритмов, использующих формулу пересчета Бройдена .............223
8.4. Другие формулы секущих для нелинейных уравнений . . . 227
8.5. Упражнения...................229
Глава 9. Методы секущих для безусловной минимизации......232
9.1. Симметричная формула секущих Пауэлла........233
9.2. Симметричные положительно определенные формулы секущих 237
9.3. Локальная сходимость положительно определенных методов секущих..................... 243
9.4. Реализация квазиньютоновских алгоритмов, использующих
положительно определенные формулы секущих......248
9.5. Еще один результат, касающийся сходимости положительно определенных методов секущих...........252
9.6. Другие формулы секущих для безусловной минимизации . . 252
9.7. Упражнения.......................254
Глава 10. Нелинейная задача о наименьших квадратах ....... 259
10.1. Постановка нелинейной задачи о наименьших квадратах . . 259
10.2. Методы типа Гаусса — Ньютона...........263
10.3. Методы полностью ньютоновского типа.........271
10.4. Некоторые другие соображения относительно решения нелинейных задач о наименьших квадратах......... 277
10.5. Упражнения...................280
Глава 11. Методы решения задач со специальной структурой ... 284
11.1. Разреженный конечно-разностный метод Ньютона.....285
11.2. Разреженные методы секущих............288
11.3. Вывод формул секущих с минимальными поправками . . . 293
11.4. Анализ методов секущих с минимальными поправками . . 299
11.5. Упражнения...................305
Приложение А. Модульная система алгоритмов безусловной минимизации
и решения нелинейных уравнений (Р. Шнабель) . . . 308
Приложение В. Тестовые задачи (Р. Шнабель)..........422
Литература .......................425