Как вырастить дерево при помощи Python
Бывает так, что IT-сотрудник для анализа данных подключает библиотеку и бездумно использует все представленные в ней методы, совершенно не понимая, какие алгоритмы и механизмы находятся «под капотом». Поэтому в рамках этой статьи мы разберём простейший алгоритм «Дерево решений» из библиотеки sklearn, а точнее, как он работает с точки зрения математ…
Спасибо! Очень интересно! :)
Энтропия – это мера неопределённости некоторой системы, которая колеблется от 0 до 1.
Небольшая поправка: область значений энтропии лежит не от 0 до 1, а от 0 до +∞, по идее. Но я не уверен, будет здорово, если вы развеете это сомнение.
Спасибо за обратную связь :)
Что касается энтропии, она не может быть больше 1, т.к. в формуле энтропии используется вероятность, которая сама изменяется в пределах от 0 до 1. Энтропия равная 1, означает полную неопределенность системы, мы с равной вероятностью можем получить элемент системы любого типа.