Редактирование выбросов

Описание

Обработчик предназначен для автоматической корректировки выбросов и экстремальных значений в наборах данных. Для каждого поля исходного набора данных критерии определения выбросов и экстремальных значений задаются пользователем с помощью указания допустимого стандартного отклонения или интерквантильной ширины. Под выбросами при этом подразумеваются значения данных, существенно отклоняющиеся от средних, а под экстремальными — значения, которые настолько сильно отклоняются от типичных значений, что перестают соответствовать логике исследуемых процессов и явлений.

Порты

Вход

  • Входной источник данных — таблица данных.

Выход

  • Выходной набор — исходная таблица после обработки.
  • Выбросы — таблица, содержащая строки исходной таблицы, в которых были обнаружены выбросы.
  • Экстремальные значения — таблица, содержащая строки исходной таблицы, в которых были обнаружены экстремальные значения.

Мастер настройки

  • Исходные данные упорядочены — выставлять данный флаг следует в том случае, когда известно, что числовой ряд является упорядоченным, т. е. таким, значения которого упорядочены по возрастанию или убыванию (например, по дате или времени). Доступность некоторых методов обработки зависит от состояния данного флага. На обработку логических и строковых полей положение флага не влияет.
  • Область настройки методов обработки выбросов и экстремальных значений — содержит список полей доступных для обработки. Для каждого поля можно выставить флаг, определяющий наличие обработки, и затем, выделив поле, задать метод редактирования.
  • Определение выбросов и экстремальных значений — доступны два метода выявления:
    • Стандартное отклонение — критерием является отклонение значения признака от среднего более, чем на заданное число стандартных отклонений. При этом данный параметр отдельно задается для выбросов и для экстремальных значений. Данный метод следует применять, если известно, что распределение данных близко к нормальному.
    • Интерквартильная ширина — критерием является расстояние между 1-м и 4-м квартилями распределения значений признака. Если значение признака отклоняется от медианы более, чем на заданное число интерквартильных ширин, то оно считается аномальным. Данный параметр задается отдельно для выбросов и экстремальных значений. Этот метод можно применять и в случае, когда распределение данных отличается от нормального.

Как для выбросов, так и для экстремальных значений доступны следующие методы редактирования:

  • оставить без изменения;
  • удалять записи — исключить строки с аномальными значениями из набора данных;
  • заменять средним — заменять аномалии средним значением столбца;
  • заменять медианой — заменять аномалии медианой, вычисленной по столбцу;
  • заменять наиболее вероятным — замена аномалий наиболее вероятным значением по столбцу, замена производится на среднее значение из наиболее вероятного интервала, число интервалов варьируется в зависимости от объема выборки — чем она больше, тем больше интервалов;
  • заменять заданным значением — замена аномалий на значение, прописанное вручную;
  • ограничивать — аномалии будут заменены значением границы, с которой начинается определение аномалии.

Для каждого поля спектр доступных методов определяется тремя характеристиками данных одновременно:

  • Упорядоченностью;
  • Типом;
  • Видом.

Таблица применимости по этим характеристикам:

МетодНеупорядоченный наборУпорядоченный набор
Дискретный Непрерывный Дискретный Непрерывный
Оставить без изменения
Удалять записи
Заменять средним
Заменять медианой
Заменять наиболее вероятным
Заменять заданным значением
Ограничивать

Смотри также:

results matching ""

    No results matching ""