Лабораторная № 1 по курсу "Анализ и разработка данных".

Задание - нужно построить модель классификации, используя шаблон cooke cutter для Data Science и DVC для трекинга экспериментов.

Описание данных

Данные взяты из чемпионата Цифровой прорыв. На сайте представлены лучшие решения чемпионата, можете с ними ознакомиться, чтобы подчерпнуть идеи.

Более 80% смертельных исходов в Российской Федерации связано с заболеваниями Сердечно-сосудистой системы. Клинические методы диагностики не позволяют определять предикторы этих проблем без посещения медицинской организации и взятия анализов. В этой связи особую актуальность приобретает разработка интеллектуальной системы прогнозирования риска развития заболеваний с использованием исторических данных, позволяющей оценить риски критических нарушений в условиях повседневной жизни, без визита к врачу.

Распространенность болезней системы кровообращения преимущественно зависит от причин, главным образом, связанных с особенностями образа жизни, профилактическое воздействие на который может замедлить развитие заболеваний как до, так и после появления клинических симптомов. К настоящему времени выделяют более 300 факторов риска, однако, в первую очередь, сегодня используют семь факторов, вносящих основной̆ вклад в преждевременную смертность: артериальная гипертензия, гиперхолестеринемия, курение, недостаточное потребление фруктов и овощей, избыточная масса тела, избыточное потребление алкоголя, гиподинамия. Это так называемые, традиционные факторы. Если же традиционным факторам уделяется огромное внимание, то нетрадиционным посвящены всего лишь отдельные исследования.

Участникам чемпионата будет предложено проанализировать, как традиционные, так и нетрадиционные факторы риска и построить прогнозную модель развития сердечно-сосудистого заболевания пациента.

Мы немного разбирали сами данные на практике. Видео можно посмотреть тут (для доступа нужен аккаунт ВШЭ).

Требования к реализации

• Нужно выбрать метрику качества и обосновать ее выбор (1 балл).

• Нужно написать стадии для полного цикла жизни ML модели (4 балла)

  1. Препроцессинг.
  2. Разделение данных train/val
  3. Генерация признаков. Обратите внимание, что если вы генерируете признаки, которые предполагают обучение на тренировочном датасете (fit), то для валидационного вы должны применять уже обученные трансормации (transform). Так, если бы данные из val к вам пришли из будущего и у вас нет для них правильных ответов. Данные из val вы никак не используете в обучении/тюнинге параметров/и т.д., только для оценки качества. Представьте, что данных val у Вас на момент создания модели нет, они придут к вам только в будущем.
  4. Обучение модели.
     • Здесь вы можете использовать внутри различные методы оценки качества модели train/test split, k-fold validation и т.д. Многие из них уже реализованы в scikit-learn. Вы их используете "для себя" чтобы решить какую модель/ модели вы отправите дальше работать с "реальным миром".
     • Нужно имплементировать
       1. Что-то из scikit-learn используя Scikit-Learn Pipelines...
       2. Catboost
       3. Если захочется, то что-то еще. Больше - можно, меньше - нет.
  5. Оценка модели по метрике качества, выбранном в первом пункте на val датасете и сохранение метрик / графиков.
  6. Предсказание (инференс) модели на новых данных.

• Из стейджей выше соберите один или два пайплайна (1 балл):

  1. Обучения модели и ее оценки
  2. Инференса модели

• В пайплайнах используется работа с категориальными признаками (2 балла):

  • CategoricalEncoders
  • Тюнинг параметров отвечающих за работу с категориями Catboost

• Для управления данными и экспериментами использован DVC (2 балла).

Код должен быть написан в функциях и разнесен по модулям шаблона. Если вы изменяете шаблон - напишите об этом комментарий, какая мотивация. Вы можете использовать ноутбук для разработки, но нужно писать код так, чтобы это потом было легко перенести в функции и разнести по модулям проекта. Пример такой работы мы разбирали на практике.

Deadlines

• Soft deadline 16.10.2022 23:59
• Hard deadline 23.10.2022 23:59 (штраф 3 балла)

Куда и что отправлять.

1. Выложить весь код и метрики в свой гитхаб
2. Прислать на него ссылку письмом на почту [email protected]
   • Тема письма "Лаба № 1. ФИО Группа X. Анализ и разработка данных.
     Где X это номер вашей группы в соответствии с ведомостью.
     ФИО ваши фамилия, имя, отчество.

Если меняете код после soft deadline'а - штраф 3 балла, если меняете после hard deadline'а - то на усмотрение преподавателя, вплоть до 10 баллов.

Вопросы задавайте в общей группе telegram.
Удачи!