Градиентом ф-ии наз-ся векторная величина где -единичные векторы осей, по кот отсчитываются величины . В точке экстремума градиент равен нулю:
- Метод градиента
В этом способе осуществляется одновременно изменение всех координат так, чтобы обеспечить движение системы в направлении, близком к мгновенному направлению вектора градиента (непрерывно или дискретно).
Для этого метода характерно плавное движение к точке экстремума.
- Метод наискорейшего спуска
При способе наискорейшего спуска движение происходит но начальному направлению вектора градиента F до тех пор, пока производная функции F по этому направлению не обратится в нуль. Затем опять определяется направление градиента и происходит движение вдоль этого вектора до обращения в нуль производной от F по этому направлению. Процесс повторяется до достижения точки экстремума.
Этот способ характеризуется быстрым выходом системы в район экстремума, что делает его предпочтительным для начальной стадии движения. В районе экстремума можно использовать другие способы, например, способ градиента.
- Метод Гауса-Зейделя
Координаты изменяются поочередно. Поэтому этот метод не обеспечивает наискорейшего нахождения экстремума.
