Вместе со Сколтехом мы обучили её на том, что пишут пользователи vc.ru, TJournal и DTF.
Возможно, вы уже заметили, что в комментариях появилась кнопка «Нейротекст»:
Мы несколько недель обучали нейросеть GPT-2 на трёх датасетах: комментариях пользователей vc.ru, TJournal и DTF. Так появился спецпроект «Нейротекст», который может написать или дописать комментарий за вас.
Что такое GPT-2
GPT-2 — это нейронная сеть, которая основана на архитектуре transformers и обучена предсказывать следующее слово в предложении. Оригинальная модель содержит 1,5 млрд параметров и может генерировать длинные тексты, удерживая контекст и отсылаясь к предыдущим событиям в тексте.
Наша модель обученная, например, на комментариях DTF, содержит в себе около 29 миллионов параметров.
Чтобы с нуля обучить нейросеть GPT-2, нужен внушительный объём данных. Комментарии пользователей — хорошая основа:
- На vc.ru пользователи оставили 1,2 млн уникальных комментариев длиннее 10 символов.
- На DTF — 3,5 млн.
- На TJ — 1,8 млн.
Мы выгрузили все комментарии с трёх сайтов — получилось 1,8 Гб текста. Но это сырые данные, которые нельзя было использовать. Поэтому датасеты пришлось отфильтровать: убрать лишние символы и ссылки, исключить комментарии из нескольких символов — скорее всего, ничего хорошего с ними бы не вышло.
Затем каждый датасет разбили на «токены», на которых построены предложения. На их основе нейронная сеть собрала свой словарь. С ним она теперь и будет работать, генерируя комменты за вас.
Тренировка нейросети на каждом датасете заняла пять дней, а делали мы всё на этом звере — Nvidia Quadro RTX 6000.
«Нейротекст» напишет комментарий за вас — но готовьтесь ко всякому
Если вы нажмёте на «Нейротекст», то увидите ещё три кнопки с логотипами изданий. Каждая из них сгенерирует комментарий в стиле пользователей соответствующего сайта.
Нейросеть может написать комментарий с нуля, а может — продолжить начатый вами. Редактировать то, что написал робот, нельзя — мы хотим видеть чистый результат работы «Нейротекста».
В процессе тренировки мы генерировали комментарии для тестов и не могли поверить, насколько осмысленно выглядят некоторые из них. Пару десятков раз даже шли в датасеты, чтобы проверить определённые фразы, но их там не было. То есть нейросеть генерировала всё это с нуля.
А можно посмотреть на примеры работы нейросети?
Ещё как.
Как мне понять, что я общаюсь с человеком, а не с роботом
Возле каждого комментария, который сгенерирован нейросетью, будет стоять плашка «Нейротекст». Её цвет покажет, от лица какого издания ответил робот. Часть текста, которую написала нейросеть, будет подчёркнута цветной линией.
Мы знаем, что кому-то такие эксперименты могут показаться вмешательством в размеренную жизнь издания. Поэтому предусмотрели тумблер, который выключает все комментарии робота — вернуть их так же просто.
Мы неплохо повеселились — научиться делать такое же можно в Сколтехе
С помощью нейронок можно делать и более сложные и масштабные проекты. Машинное обучение становится базовым инструментарием во многих сферах — всё не ограничивается Data Science.
Например, в магистратуре Сколтеха Advanced Manufacturing Technologies учат применять нейросети в реальном промышленном производстве. Научные сотрудники вместе со студентами этой программы недавно сделали для автопроизводителя Fiat Chrysler Automobiles проект, который сократил время проектирования деталей с двух с половиной месяцев до пары дней.
На направлении Energy Systems применяют машинное обучение для умной техники. Из простых примеров — нейросеть подбирает идеальные параметры работы кондиционера и обогревателя на ближайшие часы в зависимости от размера и расположения окон, планировки, материалов стен и так далее. А в сфере беспроводных связей — нейросети способны снизить энергопотребление мобильных устройств.
Эксперты Сколтеха рассказали о примерах применения нейросетей в своих проектах в отдельном материале — читайте по ссылке ниже.
Что теперь
Заходите в комментарии и давайте общаться. Теперь не только с людьми, но и с роботами.
Обновление: Эксперимент подошёл к концу. 🤖
Нейрокомменты — это нечто.
Пока на горизонте есть огромные деньги, но не все готовы заниматься подобными вещами. А вообще это уже какая-то отдельная клевая тема для новичков. Уверен, что в будущем будет более востребовано, чем у других веб-сервисов!
То, что в нашей стране не так все просто делается, как кажется, это и есть путь к развитию. А вот то, что вы говорите, это уже другая история. А вы читали что-то или это был вопрос?
Комментарий недоступен
Вопрос в том, что они не могут сделать такую систему. Они не делают ничего и не хотят или пользуются ей. По крайней мере, когда я говорю о разработке алгоритмов машинного обучения (которых сейчас нет) - я, возможно, что то иду на бесплатные обучающие курсы по Skype.
Комментарий недоступен
Пессимизм всегда жалкий, он у нас сейчас главный аспект - неумение жить в комфорте и экономя на себе.