Treffer: МЕТОД ЧИСЛЕННОГО ДИФФЕРЕНЦИРОВАНИЯ ЗАШУМЛЕННЫХ ДАННЫХ С ВЫБРОСАМИ

Context. Using of conventional methods of numerical differentiation to the noisy data with outliers leads to significant errors. The object of this study is the process of numerical differentiation of such data. Objective. The goal of this work is the development of a method of numerical differentiation of the noisy data with outliers to obtain a smooth approximation of the first derivative of original data as well as a smooth approximation of the original data themselves. Method. The proposed method of numerical differentiation is based on solving the problem of minimizing the smoothing functional, which is built on the criteria of a minimum of extent of the solution residual and of an energy constraint of the first derivative of solution. The minimum-extent criterion defines the main part of functional and ensures its stable behavior with respect to the additive noise and outliers. The energy constraint defines the stabilizing part of the functional and provides a smooth solution of the problem. The contribution of these parts is controlled by a regularization parameter. Since the main part of smoothing functional is not convex, then the minimization problem is the non-convex nonlinear programming problem. For the numerical solution of this problem the conjugate gradient method is used. In this method the step size along the descent direction is defined on the set of test steps. These steps minimize the individual components of the main and stabilizing parts of the smoothing functional that allows to move from the one local minimum of the functional to another deeper local minimum. Results. Simulation of the problem of numerical differentiation of noisy data with outliers and processing of the experimental data, which are photoluminescence spectra with narrow line components in their compositions, confirmed the performance of the proposed method. Conclusions. The proposed method can be used for numerical differentiation of noisy data with outliers. It provides a smooth approximation of the first derivative of the original data, as well as a smooth approximation of the original data themselves. This method can be generalized to the case of non-smooth solutions by constructing a stabilizing part of the functional based on the criterion of minimum total variation. [ABSTRACT FROM AUTHOR]

Актуальность. Применение традиционных методов численного дифференцирования к зашумленным данным с выбросами приводит к значительным ошибкам. Объектом данного исследования является процесс численного дифференцирования таких данных. Цель работы - разработка метода численного дифференцирования зашумленных данных с выбросами, который позволяет получить гладкую аппроксимацию их первой производной и, соответственно, гладкую аппроксимацию самих данных. Метод. Предложенный метод численного дифференцирования основан на решении задачи минимизации сглаживающего функционала, который построен на критерии минимума протяженности невязки решения и ограничении энергии первой производной решения. Критерий минимума протяженности задает основную часть функционала и обеспечивает его устойчивое поведение по отношению к аддитивному шуму и выбросам. Ограничение задает стабилизирующую часть функционала и обеспечивает гладкость решения задачи. Вклад указанных частей регулируется с помощью параметра регуляризации. Поскольку основная часть сглаживающего функционала не является выпуклой, то задача его минимизации является задачей нелинейного невыпуклого программирования. Для численного решения этой задачи используется метод сопряженных градиентов, в котором величина шага вдоль направления спуска определяется на множестве пробных шагов. Эти шаги минимизируют отдельные компоненты основной и стабилизирующей частей сглаживающего функционала, что позволяет переходить из одного локального минимума функционала в другой более глубокий локальный минимум. Результаты. Моделирование задачи численного дифференцирования зашумленных данных с выбросами и обработка экспериментальных данных, которые представляли собой спектры фотолюминесценции при наличии в их составе узких линейчатых спектральных составляющих, подтвердили эффективность предложенного метода. Выводы. Предложенный метод может быть использован для численного дифференцирования зашумленных данных с выбросами. При этом он позволяет получить гладкую аппроксимацию первой производной исходных данных и гладкую аппроксимацию самих исходных данных. Данный метод можно обобщить на случай негладкого решения путем построения стабилизирующей части функционала на основе ограничения полной вариации решения. [ABSTRACT FROM AUTHOR]

Copyright of Radio Electronics, Computer Science, Control is the property of Zaporizhzhia National Technical University and its content may not be copied or emailed to multiple sites without the copyright holder's express written permission. Additionally, content may not be used with any artificial intelligence tools or machine learning technologies. However, users may print, download, or email articles for individual use. This abstract may be abridged. No warranty is given about the accuracy of the copy. Users should refer to the original published version of the material for the full abstract. (Copyright applies to all Abstracts.)