Логистическая регрессия: мощный инструмент для бинарной классификации
Логистическая регрессия как статистический метод классификации, предсказывающий вероятность принадлежности объекта к определённому классу с помощью сигмоидной функции, которая преобразует линейную комбинацию признаков в значение от 0 до 1.
Линейная регрессия
Линейная регрессия — один из самых простых и популярных методов машинного обучения и статистики, используемый для моделирования взаимосвязи между зависимой переменной и одной или несколькими независимыми переменными. Несмотря на свою простоту, она остается важным инструментом в анализе данных, экономике, биологии и многих других областях.
Алгоритм ADAM (Adaptive Moment Estimation)
Алгоритм ADAM представляет собой эффективный метод стохастической оптимизации, широко используемый в глубоком обучении и машинном обучении.
Многослойный персептрон (MPL)
Многослойный персептрон означает многоуровневый классификатор. В отличие от других алгоритмов классификации, таких как опорные векторы или наивный байесовский классификатор, MLP полагается на базовую нейронную сеть для выполнения задачи классификации.
XGBoost оптимизированная распределенная библиотека повышения градиента
XGBoost — алгоритм машинного обучения, основанный на дереве поиска решений и использующий фреймворк градиентного бустинга. XGBoost обеспечивает параллельный бустинг, который быстро и точно решает многие проблемы науки о данных.
Библиотека градиентного бустинга CatBoost
Это библиотека градиентного бустинга, созданная Яндексом. Она использует небрежные (oblivious) деревья решений, чтобы вырастить сбалансированное дерево. Одни и те же функции используются для создания левых и правых разделений (split) на каждом уровне дерева.
Платформа повышения градиента (LightGBM)
LightGBM (Gradient Boosting Machine) представляет собой распределенную среду с открытым исходным кодом для повышения градиента машинного обучения, первоначально разработанную Microsoft. Он основан на алгоритмах дерева решений и используется для ранжирования, классификации и других задач машинного обучения.
Дерево решений (Decision tree)
Дерево решений — это непараметрический алгоритм обучения с учителем, который используется как для задач классификации, так и для задач регрессии. Он имеет иерархическую древовидную структуру, которая состоит из корневого узла, ветвей, внутренних узлов и конечных узлов.
Метод случайного леса (Random forest)
Случайные леса или леса случайных решений — это ансамблевый метод обучения для классификации, регрессии и других задач, который работает путем построения множества деревьев решений во время обучения. Для задач классификации — это класс, выбранный большинством деревьев. Для задач регрессии возвращается среднее значение или средний прогноз для отдельных деревьев.