Стартап OpenAI запустил проект Microscope для демонстрации «внутренности» нейросетей
Визуализации призваны помочь исследователям лучше понять архитектуру и поведение нейронных сетей.
OpenAI — одна из ведущих лабораторий по разработке искусственного интеллекта, сооснователем которой был Илон Маск. 14 апреля компания представила Microscope — библиотеку электронных визуализаций девяти популярных нейросетей.
Коллекция включает в себя миллионы изображений каждого значимого слоя и узлов сети, которые были рассмотрены в специальный электронный «микроскоп».
По словам представителей OpenAI, Microscope поможет лучше понять архитектуру и поведение нейронных сетей с десятками тысяч нейронов, анализировать, а также выявлять их особенности.
Исследователи могут использовать модели для сравнения различий в нейронных сетях так же, как биологи сравнивают клетки организма под микроскопом.
Библиотека включает, например, нейросети Google Inception для распознавания изображений и AlexNet, которая лежит в основе технологий компьютерного зрения.