-
Методы разделения деревьев решений: Gini, Энтропия, Gain Ratio, Хи-квадрат, Variance Reduction, Classification Error
Деревья решений остаются одним из самых интуитивно понятных и мощных инструментов в арсенале специалиста по данным. Выбор критерия разделения деревьев без преувеличения влияет на все: от скорости обучения до интерпретируемости результатов. В процессе работы с финансовыми данными я обнаружил, что разные критерии могут давать совершенно разные результаты даже на одних и тех же данных. Некоторые…
-
MSE, RMSE, MAE, MAPE для оценки качества прогнозов временных рядов
При построении моделей прогнозирования временных рядов, для оценки качества чаще всего используют одну или две из следующих четырех метрик: MSE, RMSE, MAE и MAPE. Каждая из них рассказывает свою историю о модели, и понимание этих нюансов может стать разницей между прибыльной стратегией и потерей капитала. И MSE, RMSE, MAE и MAPE решают одну и ту…
-
Что такое градиентный спуск и как он используется для оптимизации функций?
Градиентный спуск — это не просто метод оптимизации. Это философия поиска оптимума, основанная на понимании локальной геометрии функции потерь. Алгоритм этого метода довольно прост: движение в направлении, противоположном градиенту, с целью прийти к минимуму. Однако за этой простотой скрывается удивительная глубина, которую я постараюсь раскрыть в этой статье. Математические основы: геометрия оптимизации Прежде чем погружаться…