Пусть имеется функция нескольких переменных V=V(x1,x2,...,xn).

Функция V называется знакоопределенной в некоторой области, если она во всех точках этой области вокруг начала координат сохраняет один и тот же знак и нигде не обращается в нуль, кроме только самого начала координат.

Функция V называется знакопостоянной, если она сохраняет один и тот же знак, но может обращаться в нуль не только в начале координат, но и в других точках данной области.

Функция Унизывается знакопеременной, если она в данной области вокруг начала координат может иметь разные знаки.

Теорема Ляпунова об устойчивости нелинейных систем. Если при заданных в форме уравнениях системы n-го порядка можно подобрать такую знакоопределенную функцию Ляпунова V(x1,x2,...,xn), чтобы ее производная по времени W(x1,x2,...,xn) тоже была знакоопределенной (или знакопостоянной), но имела знак, противоположный знаку V, то данная система устойчива. При знакоопределенной функции W будет иметь место асимптотическая устойчивость.

Проиллюстрируем справедливость этой теоремы на наглядных геометрических образах. Для простоты возьмем систему третьего порядка (n=3). Возьмем знакоопределенную положительную функцию Ляпунова в виде V = a²x_l²+b²x₂²+c²x₃², где а,b,с — произвольно заданные вещественные числа.

Будем придавать величине V возрастающие постоянные значения: V=0,С1,С2... , что означает  Первое из этих выражений соответствует одной точке x1 = х2 = x3 = 0 (началу координат фазового пространства), а остальные — поверхностям эллипсоидов в фазовом пространстве, причем каждый последующий эллипсоид содержит внутри себя целиком предыдущий.  

Возьмем теперь производную от функции Ляпунова по времени.

где функции X1, X2, X3 берутся из заданных уравнений системы.

Если полученная таким путем функция  окажется знакоопределенной

отрицательной, т. е. если  во всех точках исследуемого фазового пространства, кроме одного только начала координат, где (при Х1 = Х2 = Х3=0),  то при любых начальных условиях изображающая точка M  будет двигаться в сторону уменьшения значения V, т. е. будет пересекать эллипсоиды, изображенные на рис. 17.10, извне внутрь. В результате с течением времени изображающая точка M будет стремиться к началу координат О фазового пространства (асимптотическая устойчивость) и уже никак не сможет выйти за пределы тех эллипсоидов, в которые она проникла.

Это и означает затухание всех отклонений x1,x2, x3 в переходном процессе с течением времени. Таким образом, установлена устойчивость данной системы, что иллюстрирует справедливость теоремы для системы третьего порядка (в случае знакоопределенной функции W).

Отсюда вытекает справедливость теоремы и в общем случае. Рассуждения остаются аналогичными, только вместо трех уравнений будет n уравнений.

Если же функция W будет не знакоопределенной, а знакопостоянной, то очевидно,

что траектория изображающей точки М не везде будет пересекать поверхности V = С,

а может их касаться в тех точках, где обращается в нуль (помимо начала координат).

Но так как во всех других местах фазового пространства функция W имеет один и тот

же знак, вследствие чего изображающая точка может идти только извне внутрь поверхности V = С, то при решении задачи остается только проверить, не «застрянет» ли

изображающая точка там, где W = 0. Если это происходит то в результате система хотя и не будет асимптотически приближаться к установившемуся состоянию, но все же будет все время в достаточной близости от него.