Методы оптимизации.
Вопросы к экзамену
Постановка задач оптимизации. Классификация.
Методы одномерной оптимизации без использования информации о производной: (методы пассивного поиска, дихотомии, деления пополам, золотого сечения, Фибоначчи, Пауэла), сходимость, сравнительный анализ.
Методы одномерной оптимизации с использованием информации о производной функции (средней точки, секущих, с использованием кубической аппроксимации), сравнительный анализ.
Метод Ньютона (одномерная оптимизация), сходимость.
Многомерная безусловная оптимизация, релаксационная последовательность, теоремы об оценках сходимости релаксационной последовательности, классификация методов спуска.
Методы безусловной многомерной оптимизации без использования производной: методы Гаусса-Зейделя, Хука-Дживса, вращающихся направлений (Розенброка), сравнительный анализ.
Методы безусловной многомерной оптимизации без использования информации о производной: методы спряженных направлений, случайного поиска, Нелдера-Мида (поиск по симплексу) сравнительный анализ.
Теорема о сходимости градиентных методов безусловной оптимизации.
Методы безусловной многомерной оптимизации с использованием информации о производной: методы наискорейшего спуска (Коши), сопряженных градиентов (Флетчера-Ривса), Поллака-Ребьера, сравнительный анализ.
Методы безусловной многомерной оптимизации с использованием информации о производной (Ньютоновские методы): методы Ньютона, его модификации, Марквардта, сравнительный анализ.
Методы безусловной многомерной оптимизации с переменной метрикой (Квазиньютоновские методы): методы Бройдена, Пирсона, Дэвидона-Фетчера-Пауэла: положительно определенность оценочной матрицы, Бройдена-Флетчера Шенно (Флетчера), сравнительный анализ.
Задача условной оптимизации. Теоремы о разрешимости, аналитеческое решение ЗУО.
Задача условной оптимизации. Метод множителей Лагранжа. Теорема Куна-Таккера. Седловая точка функции Лагранжа, теорема о седловой точке.
Двойственная задача условной оптимизации, разрешимость, теорема двойственности.
Теорема о сходимости градиентной процедуры к седловой точке функции Лагранжа.
Приближенные методы решений ЗУО : метод штрафных функций. Теорема о сходимости МШФ к оптимуму.
Метод барьерных функций решения ЗУО. Теорема о сходимости метода.
Метод возможных (допустимых) направлений решения ЗУО. Теоремы о разрешимости, сходимости МВН. Критерий оптимальности.
Методы случайного поиска решения задач безусловной и условной оптимизации.
|