1) Для каждой строки матрицы планирования по результатам n параллельных экспериментов находят среднее арифметическое значение параметра оптимизации:
, где u - номер параллельного эксперимента; где u - номер параллельного эксперимента; yju - значение параметра оптимизации в u-м параллельном эксперименте j-й строки матрицы.
2) С целью оценки отклонений параметра оптимизации от его среднего значения для каждой строки матрицы планирования вычисляют дисперсию эксперимента по данным n параллельных экспериментов. Статистической дисперсией называют среднее значение квадрата отклонений случайной величины от ее среднего значения
3) Ошибка sj эксперимента определяется как корень квадратный из дисперсии:
4) В этом случае ошибка при большом рассеянии будет значительной. Рассеяние результатов эксперимента определяется влиянием неуправляемых факторов, погрешностями измерений и другими причинами. Большое рассеяние изучаемой величины может произойти из-за наличия в эксперименте сомнительных результатов. Для проверки сомнительных, т. е. резко выделяющихся результатов, используют специальные критерии; одним из таких критериев является отношение U (ГОСТ 11.002-73). Чтобы оценить принадлежность резко выделяющихся результатов yj max или yj min к данной нормальной совокупности и принять решение об исключении или оставлении их в составе выборки, находят отношение , где yj max - наибольшее значение параметра оптимизации среди его значений, полученных в n параллельных экспериментах j-й строки матрицы планирования; yj min - наименьшее значение параметра оптимизации среди его значений, полученных в n параллельных экспериментах j-й строки матрицы планирования.
Результат сравнивают с величиной, взятой из ГОСТ 11.002-73 для числа n параллельных экспериментов и принятого уровня значимости a. Число n параллельных экспериментов и объем выборки n в рассматриваемом случае понятия равноценные. Если , то сомнительный результат может быть исключен, в противном случае его считают нормальным и не исключают.
Аналогично производится оценка результата yj min: если , то сомнительный результат признают анормальным; при подозреваемый в анормальности результат считают нормальным. Чтобы числа параллельных экспериментов были одинаковы во всех строках матрицы, необходимо повторить те, результаты которых были признаны анормальными. В математической статистике для проверки гипотез пользуются критериями согласия. Для того чтобы принять или забраковать гипотезу при помощи этих критериев, устанавливают уровни значимости их. Уровень значимости представляет собой достаточно малое значение вероятности, отвечающее событиям, которые в данной обстановке исследования можно считать практически невозможными. Обычно принимают 5%-, 2%- или 1%-ный уровень значимости. В технике чаще всего принимают 5%-ный уровень. Уровень значимости a называют также уровнем риска или доверительным уровнем вероятности, который соответственно может быть принят равным 0,05, 0,02 или 0,01.