Оценки показателей повторяемости и воспроизводимости получают, используя основную модель, описываемую формулой: y=m+B+e , где m – общее среднее (математическое ожидание); B - лабораторная составляющая смещения согласно условиям повторяемости; е - случайная ошибка, имеющая место при каждом измерении согласно условиям повторяемости.
Для получения статистических данных проводят межлабораторный эксперимент, конечной целью которого является расчет стандартного отклонения повторяемости σr и стандартного отклонения воспроизводимостиσR. При проведении внутрилабораторного эксперимента модно определить толькоσr .Показатели прецизионности, полученные по результатам измерений небольшой выборки являются выборочными оценками и для их обозначения вместо символа σ используют символ S: Sr– стандартное отклонение повторяемости; SL – межлабораторное стандартное отклонение; SR – стандартное отклонение воспроизводимости рассчитываемое как:
Но, учитывая то, что эти оценки получают по значительному числу результатов испытаний, их могут обозначать σ. В межлабораторном эксперименте по оценке прецизионности участвуют p лабораторий, которые проводят измерения нескольких образцов (q уровней) и получают n повторных (параллельных) результатов в условиях повторяемости. Количество лабораторий, принимающих участие в эксперименте, должно быть оптимизировано, так как это влияет на неопределенность полученных оценок. Обычно выбирают значение р между 8 и 15. Под уровнем понимают идентичные образцы с различным содержанием определяемого вещества, различные материалы (например, различные типы сталей) и др. в зависимости от области действия методики выполнения измерений. Объектами испытаний могут служить эталонные образцы или любые исследуемые образцы. В случае использования эталонных образцов эксперимент по оценке прецизионности может быть совмещен с экспериментом по оценке правильности. Исходными данными испытаний являются: nij – число результатов испытаний в ячейке для i-ой лаборатории j-того уровня; pj – количество лабораторий для уровня j (k=1, 2, …, nij); yijk – k результат измерений в i-той лаборатории для уровня j. Под «ячейкой» понимают результаты испытаний на одном уровне, полученные в одной лаборатории. Полученные данные подвергают предварительной обработке с целью обнаружения среди результатов выбросов. Для чего используют метод графического анализа (критерий Манделя) или числовые методы – критерии Кохрена и Граббса. Критерий Кохрена используется для проверки однородности дисперсий данных, полученных в каждой лаборатории (Sji), перед тем, как рассчитывать внутрилабораторную дисперсию:
Критерий Граббса используется для проверки однородности средних значений,представленных разными лабораториями перед вычислением показателей воспроизводимости методики
где –среднее арифметическое значение уровня в разных лабораториях, а - среднее значение в ячейке
После проверки экспериментальных данных на выбросы вычисляют меру рассеяния в ячейках- внутриячейковое стандартное отклонение
Для каждого уровня j вычисляют дисперсию повторяемости, межлабораторную дисперсию и дисперсию воспроизводимости по формулам:
дисперсия повторяемости
межсерийная дисперсия
дисперсия воспроизводимости
По полученным значениям дисперсий рассчитывают стандартные отклонения повторяемости и воспроизводимости.