Вместе со Сколтехом мы обучили её на том, что пишут пользователи vc.ru, TJournal и DTF.
Возможно, вы уже заметили, что в комментариях появилась кнопка «Нейротекст»:
Мы несколько недель обучали нейросеть GPT-2 на трёх датасетах: комментариях пользователей vc.ru, TJournal и DTF. Так появился спецпроект «Нейротекст», который может написать или дописать комментарий за вас.
Что такое GPT-2
GPT-2 — это нейронная сеть, которая основана на архитектуре transformers и обучена предсказывать следующее слово в предложении. Оригинальная модель содержит 1,5 млрд параметров и может генерировать длинные тексты, удерживая контекст и отсылаясь к предыдущим событиям в тексте.
Наша модель обученная, например, на комментариях DTF, содержит в себе около 29 миллионов параметров.
Чтобы с нуля обучить нейросеть GPT-2, нужен внушительный объём данных. Комментарии пользователей — хорошая основа:
- На vc.ru пользователи оставили 1,2 млн уникальных комментариев длиннее 10 символов.
- На DTF — 3,5 млн.
- На TJ — 1,8 млн.
Мы выгрузили все комментарии с трёх сайтов — получилось 1,8 Гб текста. Но это сырые данные, которые нельзя было использовать. Поэтому датасеты пришлось отфильтровать: убрать лишние символы и ссылки, исключить комментарии из нескольких символов — скорее всего, ничего хорошего с ними бы не вышло.
Затем каждый датасет разбили на «токены», на которых построены предложения. На их основе нейронная сеть собрала свой словарь. С ним она теперь и будет работать, генерируя комменты за вас.
Тренировка нейросети на каждом датасете заняла пять дней, а делали мы всё на этом звере — Nvidia Quadro RTX 6000.
«Нейротекст» напишет комментарий за вас — но готовьтесь ко всякому
Если вы нажмёте на «Нейротекст», то увидите ещё три кнопки с логотипами изданий. Каждая из них сгенерирует комментарий в стиле пользователей соответствующего сайта.
Нейросеть может написать комментарий с нуля, а может — продолжить начатый вами. Редактировать то, что написал робот, нельзя — мы хотим видеть чистый результат работы «Нейротекста».
В процессе тренировки мы генерировали комментарии для тестов и не могли поверить, насколько осмысленно выглядят некоторые из них. Пару десятков раз даже шли в датасеты, чтобы проверить определённые фразы, но их там не было. То есть нейросеть генерировала всё это с нуля.
А можно посмотреть на примеры работы нейросети?
Ещё как.
Как мне понять, что я общаюсь с человеком, а не с роботом
Возле каждого комментария, который сгенерирован нейросетью, будет стоять плашка «Нейротекст». Её цвет покажет, от лица какого издания ответил робот. Часть текста, которую написала нейросеть, будет подчёркнута цветной линией.
Мы знаем, что кому-то такие эксперименты могут показаться вмешательством в размеренную жизнь издания. Поэтому предусмотрели тумблер, который выключает все комментарии робота — вернуть их так же просто.
Мы неплохо повеселились — научиться делать такое же можно в Сколтехе
С помощью нейронок можно делать и более сложные и масштабные проекты. Машинное обучение становится базовым инструментарием во многих сферах — всё не ограничивается Data Science.
Например, в магистратуре Сколтеха Advanced Manufacturing Technologies учат применять нейросети в реальном промышленном производстве. Научные сотрудники вместе со студентами этой программы недавно сделали для автопроизводителя Fiat Chrysler Automobiles проект, который сократил время проектирования деталей с двух с половиной месяцев до пары дней.
На направлении Energy Systems применяют машинное обучение для умной техники. Из простых примеров — нейросеть подбирает идеальные параметры работы кондиционера и обогревателя на ближайшие часы в зависимости от размера и расположения окон, планировки, материалов стен и так далее. А в сфере беспроводных связей — нейросети способны снизить энергопотребление мобильных устройств.
Эксперты Сколтеха рассказали о примерах применения нейросетей в своих проектах в отдельном материале — читайте по ссылке ниже.
Что теперь
Заходите в комментарии и давайте общаться. Теперь не только с людьми, но и с роботами.
Обновление: Эксперимент подошёл к концу. 🤖
За шесть минут в нейрокомментах появились Тинькофф и Яндекс. А с большой вероятностью они в очередной раз подумают, что им это будет интересно.
Действительно так серьезно, есть и китайцы в Китае?
Олег Тиньков участвует в судебных слушаниях как частное лицо, которое не является коммерческой организацией.
Ааххахахахах, как в тему
Автор, вы абсолютно правы. Но с другой стороны - я бы не стал заходить на сайт и писать в начале, а лучше сразу открывать приложение. В данном случае, если вы хотите дать мне возможность написать нам на почту, то мы всегда об этом оповестим об этом.
Боты Тинькова — это просто инструмент, который нужно использовать для работы всех сотрудников в команде
Да они же молодцы, в принципе.
допустим это просто|> клонирование и на основе этих данных определять, где происходит сбор имеющаяся у них информация.
Название статьи: Появилась идея с монетизацией, можно посмотреть в сторону мобильных приложений YouTube.