XGBoost eta (learning_rate): единственная ручка, которая контролирует скорость обучения вашей модели — с реальным пятикратным контрольным показателем Быстрый ответ (40–100 слов): эта (псевдоним Learning_rate) — это коэффициент сжатия XGBoost, применяемый к вкладу каждого дерева, де...
XGBoost eta (learning_rate): единственная ручка, которая контролирует скорость обучения вашей модели — с реальным пятикратным контрольным показателем
Быстрый ответ (40–100 слов): эта (псевдоним Learning_rate) — это коэффициент сжатия XGBoost, применяемый к вкладу каждого дерева, по умолчанию 0,3. Меньшая эта = меньшие шаги = требуется больше деревьев, но более плавное и часто лучшее обобщающее соответствие; больше эта = более быстрое обучение, но риск перерегулирования/переобучения. В нашем 5-кратном тесте на синтетических табличных данных значение eta=0,1 дало наилучшую среднеквадратическую ошибку регрессии (0,419), а значение eta=0,05 — лучшую точность классификации (0,908), тогда как для сходимости eta=0,01 потребовалось ~1993 раунда. Не существует универсального «лучшего» — он торгует с n_estimators.
Отказ от ответственности: Шакти Тивари сертифицирована NISM-Series-XII; не зарегистрированный в SEBI аналитик-исследователь. Контент носит исключительно образовательный характер. Ничто здесь не является торговым, инвестиционным или финансовым советом.
Почему это важно
Если вы когда-либо касались только одного гиперпараметра XGBoost, сделайте его эта. Любая другая ручка регуляризации (max_length, min_child_weight, subsample, colsample_) * меняет внешний вид отдельного дерева. эта меняет, насколько каждому дереву разрешено перемещать прогноз. Это различие является наиболее распространенным источником путаницы среди людей, мигрирующих в страну.