Комплексный подход к оценке погрешностей в задаче численного анализа данных натурного эксперимента

Аннотация

Для анализа вероятностных характеристик результатов измерений параметров физических процес-сов построена математическая модель процесса обработки данных, учитывающая дискретность из-мерений и вычислений, имеющих место при использовании цифровой техники. Погрешность результата обработки данных состоит из четырех составляющих: внешние помехи, погрешность из-мерительного прибора, погрешность численного метода обработки и накопленная погрешность округления, вызванная ограниченной разрядностью процессора. Получены характеристики случай-ных процессов и оценки их погрешностей.