Источники для изучения data science и machine learning (книги, курсы и не только)

Пост состоит из двух частей:

Части самодостаточные, но показалось, что они отлично сочетаются в рамках одного поста.

Я иногда выступаю на конференциях и других публичных мероприятиях, и меня часто спрашивают о том, как вообще начать обучение в ML, DS. За последние пару лет я собрал небольшой гайд — минимально достаточный набор материалов из того огромного пула, существующих курсов, видео, сайтов, книг, публично доступных лекций и многого другого.

Я рекомендую знакомиться с материалами в указанной последовательности.

Основной план прохождения курсов:

1. Погружение в python и pandas: https://stepik.org/course/74457/syllabus (можете купить полный курс, если понравится эта демо версия) ИЛИ/И https://www.youtube.com/watch?v=dd3RcafdOQk

2. Полезный курс "Машинное обучение" от Евгения Соколова в ВШЭ, но без ДЗ: https://www.youtube.com/playlist?list=PLEqoHzpnmTfDwuwrFHWVHdr1-qJsfqCUX и материалы курса на гитхабе

3. Вместо предыдущего можно курс "Введение в Data Science и машинное обучение" на степике, но он проще и меньше: https://stepik.org/course/4852/promo?search=1000902645

4. Набор видео (курс) "Data Mining in Action" о прикладном машинном обучении: https://www.youtube.com/channel/UCop3CelRVvrchG5lsPyxvHg/videos

Если у вас есть пробелы в программировании на python, и не хватает курсов выше, то начать свое обучение можно со следующего курса:

⁃ Python: основы и применение на степике

Если есть пробелы в матстате и теорвере, то рекомендую начать с этих двух курсов:

⁃ Теория вероятностей на степике

⁃ Основы статистики на степике

Дополнительно оставлю потенциально полезные материалы на время обучения:

- Академия яндекса и Учебник по машинному обучению от ШАД

- Машинное обучение (курс лекций, К.В.Воронцов)

- Курс «Глубинное обучение», Школа анализа данных

Как можно раньше переходить к практике:

⁃ kaggle.com - не нуждается в представлении, переходите и участвуйте в соревнованиях

⁃ Искать реальные данные и работать с ними, например, на GitHub. Датасеты из промышленности можно поискать в этих репозиториях:

Пара полезных ссылок на будущее:

⁃ How to learn data science with Coursera in 2022 (beginner-friendly)

⁃ Rules of Machine Learning

Нередко можно столкнуться с подборками книг, где представлены списки с большим числом книг, еще и дублирующих материал друг друга. Либо списки наоборот могут покрывать лишь часть тех навыков, что нужны на практике.

Примеры:

⁃ 25 лучших (и бесплатных) книг для понимания машинного обучения 2022 от uproger.com

⁃ Анализ данных на Python: шесть книг, которые советуют незаслуженно редко от Академии Яндекса

⁃ Большая подборка книг от Академии Яндекса — для старшеклассников и студентов первых курсов. Математика и алгоритмы от Академии Яндекса

⁃ Большая подборка книг от Академии Яндекса — для старшеклассников и студентов первых курсов. Программирование, ML и анализ данных от Академии Яндекса

⁃ 3 книги по программированию, которые должен прочитать каждый data scientist от datastart.ru

⁃ И многие другие

Разобраться с такими списками для начинающих специалистов является нетривиальной задачей. Давайте попробуем дать полный (не математикой единой), систематизированный по направлениям список книг для развития в профессии Data Science и сократить выбор до 1, ну максимум 2х книг по каждому направлению.

Математика для машинного обучения

⁃ Mathematics for Machine Learning by Marc Peter Deisenroth, A. Aldo Faisal, and Cheng Soon Ong (2020) - https://mml-book.github.io - книга нацелена на развитие навыков и знаний по математике, которые необходимы для эффективного изучения материалов (книг, курсов) по машинному обучения

Основы машинного обучения

⁃ Онлайн-учебник по машинному обучению от ШАД - https://ml-handbook.ru (школа анализа данных Яндекса) - для тех, кто не боится математики и хочет разобраться в технологиях ML. Учебник постоянно пополняется полезной информацией

⁃ Основы статистического обучения: интеллектуальный анализ данных, логический вывод и прогнозирование от Тревора Хасти и Роберта Тибришани - одна из двух базовых книжек (вторая - Распознавание образов и машинное обучение от Кристофера Бишопа) для изучения основ и того, как работает машинное обучение

Глубокое (глубинное) обучение

⁃ Deep learning by Ian Goodfellow, Yoshua Bengio and Aaron Courville (2016) - https://www.deeplearningbook.org - классическая книга, дает подробное введение в глубокое обучение, полезна для специалистов разного уровня

Вам, возможно, только предстоит узнать, что на сегодняшний день наиболее популярны 2 фреймворка для глубокого обучения: PyTorch и Tensorflow (Keras), держите по 1 заметной книге для каждого из фреймворков:

⁃ Deep Learning with Keras by Antonio Gulli and Sujit Pal

⁃ Deep Learning with PyTorch: Build, train, and tune neural networks using Python tools by Eli Stevens, Luca Antiga, and Thomas Viehmann

Python

⁃ Изучаем Python | Марк Лутц - практическая книга со всесторонним и глубоким введением в основы языка Python

⁃ Python for Data Analysis. A Complete Guide for Beginners, Including Python Statistics and Big Data Analysis ИЛИ Python for Data Analysis by Wes McKinney - любая из 2х книг на выбор, концентрирует внимание читателя на тех функциях и деталях языка python, которые нужны на практике при анализе данных

Программирование и алгоритмы

⁃ Чистый код. Создание, анализ и рефакторинг | Роберт Мартин - книга с большим числом реальных примеров. Дает представление о том, чем отличится плохой код от хорошего, как писать хороший код и как преобразовать плохой код в хороший

⁃ Hands-On Data Structures and Algorithms with Python: Write complex and powerful code using the latest features of Python 3.7 by Dr Basant Agarwal - для повышения качества кода и уровня ваших компетенций изучение структур данных и алгоритмов является обязательным. Не зря же Яндекс делает на этой части такой упор во время собеседований?)

Трудоустройство и собеседования

⁃ Machine Learning Interviews Book - "This book is not a replacement to machine learning textbooks nor a shortcut to game the interviews. It’s a tool to consolidate your existing theoretical and practical knowledge in machine learning." Отличная цитата прямо из книги. Знание английского языка вам очень нужны в data science, поэтому привыкайте.

⁃ Cracking the Coding Interview: 189 Programming Questions and Solutions by Gayle Laakmann McDowell - книга о том, как проходить интервью по разработки. Еще одно напоминание о том, что написание кода - часть работы дата сайентистов.

Применение машинного обучения на практике

⁃ Machine Learning Yearning by Andrew Ng - After finishing this book, you will have a deep understanding of how to set technical direction for a machine learning project.

⁃ Seven Steps to Success Machine Learning in Practice by Daoud Clarke - https://daoudclarke.github.io/guide.pdf - короткая книга с базовыми простыми правилами для эффективного применения машинного обучения на практике

⁃ Rules of Machine Learning: Best Practices for ML Engineering by Martin Zinkevich - https://martin.zinkevich.org/rules_of_ml/rules_of_ml.pdf - This document is intended to help those with a basic knowledge of machine learning get the benefit of best practices in machine learning from around Google

Менеджмент проектов и разработка продуктов с машинным обучением

⁃ Managing Data Science products and Projects with Lean Data Science - https://leands.ai/ru#rec317872343 - гибкое управление проектами и продуктами в Data Science. Книга представляет собой краткое описание практик LeanDS с примерами.

⁃ Machine Learning Product Manual by Laszlo Sragner and Chris Kelly - https://machinelearningproductmanual.com - в книге описаны практические подходы и советы по созданию продуктов на основе машинного обучения для менеджеров продукта, руководителей команд. Советы должны помочь повысить качество процессов в полном жизненном цикле продукта.

Если у вас есть вопросы, предложения и замечания по материалам, то обязательно пишите их в комментарии!

Я создал телеграм канал DataKatser, где появляюсь гораздо чаще и делюсь своими мыслями и интересными кейсами по data science, машинному обучению и искусственному интеллекту. Буду рад вашей подписке!