Новый инструмент выявляет ошибки нейросетей

В Университете Пердью разработали инструмент для выявления ошибок в нейронных сетях.

В ходе экспериментов с нейронной сетью, обученной на базе данных ImageNet, ученые разработали способ для распознавания изображений, которые принадлежат более чем к одной классификации.

При помощи топологии исследователи отобразили связи, установленные нейросетью между каждой классификацией и каждым изображением.

Полученный инструмент дал возможность построить карты для расширения данных. Каждая группа изображений на них представлена одной точкой с определенным цветом, зависящим от классификации.

Оказалось, что в разных базах данных нейросети определяют идентичность изображений ошибочно. К примеру, одна нейросеть неправильно классифицировала изображения автомобилей, распознав в них кассетные плееры. Причина - фото из онлайн-объявлений с метками "стерео оборудование для автомобилей".

По информации Involta.media, инструмент показал, что базы обучающих данных также содержат ошибки.