<a target="_blank" rel="noopener noreferrer" href="https://www.kaggle.com/code/ivankomarov/eda-churn/notebook">https://www.kaggle.com/code/ivankomarov/eda-churn/notebook</a>В лекциях есть много идей, которые можно применить к ноуту.

Классические модели ML

Бейзлайн ноут по сореве на Линейных моделях

Линейная регрессия и чем подход машинного обучения отличается от подхода, который применяется в эконометрике

Теория

Тема 1. Линейные модели: 1. Линейная регрессия

Логистическая регрессия, функция потерь - кросс-энтропия, градиентный спуск и решение численным методом. Предсказание вероятности, пороги принятия решений, матрица ошибок, точность и полнота, F-мера и Gini

Тема 1. Линейные модели: 2. Лог регрессия

Стратификация, скользящий контроль, смещение и разброс, валидационная кривая, сколько нужно данных, признаки из текста, времени, выбор признаков

Тема 1. Линейные модели: 3. Выбор модели

Деревья + Построение дерева

Тема 2. Деревья и ансамбли: 4. Деревья + Построение дерева

Дополнительные условия при построении деревьев + Классификация и лес

Тема 2. Деревья и ансамбли: 5. Виды деревьев + Классификация и лес

Тема 2. Деревья и ансамбли: 6. Градиентный бустинг

Интерпретация моделей

Тема 2. Деревья и ансамбли: 7.Интерпретация моделей

Градиентный бустинг на деревьях решений
Фишки бустинга в библиотеке CatBoost 
Пример моделирования выживаемости на основе CatBoost

Тема 2. Деревья и ансамбли: Градиентный бустинг, CatBoost и прогноз оттока

В текущем курсе мы предлагаем вам в качестве практики и тренажеров поучаствовать в одном из активных соревнований Data Fusion Contest 2024.
Для участия вам необходимо будет зарегистрироваться в соревнование дополнительно.

Произвольный URL

Практика (вариант 1) задача Геоаналитика

Практика (вариант 2) задача Модели оттока

Домашнее задание к курсу Классические модели (весна 2024)

Приглашаем всех, кто проходил курс, кому помог курс, сделать домашнее задание до 27.04.2024. Поучаствовать должен каждый!

Хакатон

Домашнее задание

Course block deadline expired on 27.04.2024 20:59

Block deadline expired

Тестирование

<h3>О курсе</h3>

Классические модели машинного обучения - это линейные модели и модели на основе деревьев решений.

Такие модели лучше других справляются с задачами, где разнородные данные, т.н. &quot;табличные данные&quot;, т.е. такие, которые часто находятся в базах данных и которые выглядят как таблица: строки - наблюдения, столбцы - признаки.

(В отличие от картинок, текстов, аудио, видео, которые представляют из себя 1) огромные объемы данных, причём данные 2) однородны, каждый пиксель или слово зависят от предыдущего. Для таких данных лучшие модели - это нейронные сети.)

<h3>Программа курса и даты</h3>

Тема 1. Линейные модели

Курс о линейной зависимости: поговорим о линейной и логистической регрессиях, метриках, валидации, генерации признаков и применим знания в конкурсе.

1. Линейная регрессия. 29.02.2024&nbsp;

Линейная регрессия и чем подход машинного обучения отличается от подхода, который применяется в эконометрике

2. Логистическая регрессия. 04.03.2024

Логистическая регрессия, функция потерь - кросс-энтропия, градиентный спуск и решение численным методом. Предсказание вероятности, пороги принятия решений, матрица ошибок, точность и полнота, F-мера и Gini

3. Выбор модели. 07.03.2024

Стратификация, скользящий контроль, смещение и разброс, валидационная кривая, сколько нужно данных, признаки из текста, времени, выбор признаков

Тема 2. Деревья и их ансамбли

4. Деревья + Построение дерева 11.03.2024 
5. Виды деревьев + Классификация и лес 18.03.2024 
6. Градиентный бустинг 25.03.2024 
7. Интерпретация моделей 28.03.2024

(new 🔥) 8. Градиентный бустинг, CatBoost и прогноз оттока 01.04.2024

&nbsp;

(Есть дополнительный материал в SpatialChat конкурса!)

Курс будет полезен начинающим специалистам, и тем, кто хочет освежить знания по линейным моделям и деревьям, а также набраться опыта по их применению.

Общение и вопросы по курсу - в чате <a href="https://mm.ods.ai/ods/channels/classic_ml_course" rel="noopener noreferrer" target="_blank">https://mm.ods.ai/ods/channels/classic_ml_course</a>

<h3>Практика</h3>

Конкурс, который мы будем решать используя всю мощь полученных знаний - это <a href="https://ods.ai/tracks/data-fusion-2024-competitions" rel="noopener noreferrer" target="_blank">текущий конкурс Data Fusion</a>, состоящий из 2-х заданий. Можно принимать участие в любом задании, ваш наивысший относительный рейтинг в любом задании будет засчитан как оценка по этому курсу (см. правила в <a href="https://ods.ai/tracks/classic-models-spring24/news" rel="noopener noreferrer" target="_blank">Новостях</a>).

<a href="https://ods.ai/tracks/classic-models-spring24/competitions/classic-models24-hw" rel="noopener noreferrer" target="_blank">Есть домашнее задание</a>!

Иван Комаров, ЦФТ, <a href="https://ods.ai/" rel="noopener noreferrer" target="_blank">ods.ai</a>, НГУ 
Артем Шевляков, Школа компьютерных наук ТюмГУ, <a href="https://www.utmn.ru/imkn/shkn/index.php" rel="noopener noreferrer" target="_blank">https://www.utmn.ru/imkn/shkn/index.php</a> 
Евгений Петров, Яндекс, <a href="https://catboost.ai/en/docs/" rel="noopener noreferrer" target="_blank">catboost</a>

Иван Комаров

Артём Шевляков

Евгений Петров

FeaturedBanner-469ec0f2

Чат курса

Курс про линейные модели и ансамбли из деревьев решений

Таблица лидеров

Оценка и сертификаты курса

User Agreement

I accept <a href="https://storage.yandexcloud.net/datasouls-ods/CourseFest_1/Docs/UserAgreement.pdf" rel="noopener noreferrer" target="_blank">Terms of User Agreement and Privacy Policy</a>

Privacy Policy

I give my <a href="https://storage.yandexcloud.net/ds-ods/files/data/docs/events/Spring24/Consent_Course_Season_Spring_2024.pdf">consent</a><a href="http://storage.yandexcloud.net/ds-ods/files/data/docs/consentdocsgeneral/Consent_ru.pdf"> </a>to &laquo;Sorevnovaniya Analiza Dannykh&raquo; LLC to process and transfer my personal data to the partners of the event for information interaction

Consent

I agree to receive newsletters from &laquo;Sorevnovaniya Analiza Dannykh&raquo; LLC&nbsp;about key ODS.AI activities

02/29/24Бейзлайн ноут по сореве на Линейных моделях