Как я локализовал игру в слова с ИИ: делюсь инструкцией и ссылкой для тестов

Привет! Меня зовут Вова, я разработчик. Не так давно локализовал игру №59 — ту, где сайт на английском загадывает слово, а пользователю нужно его угадать. ИИ при этом подсказывает, насколько близко он оказался к цели. В тексте делюсь своей версией «Русо контексто»‎. Скрины, код и ссылка, чтобы сыграть в слова с ИИ на русском, — тоже внутри.

Используйте навигацию, если нет времени читать текст целиком:

• Как работает игра?
• Текстовые эмбеддинги
  
• Обработка словаря
  
• Умный бэкэнд
  
• Игра на объектном хранилище
  
• Финальный результат: ссылка на игру

Все началось с коллеги, который закинул в локальный чат сообщение, что он сыграл в #59 и угадал слово с 33 попыток и одной подсказки. Игра оказалась простая и сложная одновременно: сайт загадал слово и нужно его отгадать. В поле ввода отправляешь слово, а искусственный интеллект на сайте определяет, насколько отправленное слово близко по смыслу к загаданному.

Интересная игра, тренирующая ассоциативное мышление и умение строить связи. Новое слово появляется каждый день, что в некотором смысле выглядит ограничителем. Также игра доступна только на португальском и английском языках. С одной стороны, это дополнительная практика, а с другой — сомнения «а знаю ли я это слово?» смазывают впечатления от игры.

Так я задумался о локализации игры на русский язык. Свою игру «Русо контексто» я разместил на объектном хранилище, которое более устойчиво примет читателей vc.ru.

Дисклеймер: оригинальная игра расположена по адресу contexto.me. В процессе подготовки статьи я узнал о существовании русскоязычной версии guess-word.com. Но эта версия имеет более ограниченную функциональность.

У сайта минималистичный интерфейс:

• Сведения об игре: номер, количество попыток и количество подсказок.
• Поле ввода слова.
• Список отгаданных слов в виде полосы загрузки. Чем ближе, тем более она заполнена. Номер справа обозначает расстояние в словах, но его можно отключить.

В выпадающем меню есть настройки и дополнительные игровые опции:

• Выбрать игру.
• Взять подсказку.
  
• Сдаться.
  

Если отгадать слово, то игра предложит поделиться результатом и взглянуть на ближайшие 500 слов.

Это наводит на мысль, что список ближайших слов формируется отдельно, а игра просто обращается к списку. Остается вопрос: как составить список ближайших слов?

Изначально компьютеры не владеют ни одним человеческим языком. Но человек делает все возможное, чтобы это исправить. Человек может сказать одну команду, используя разные слова и в разном порядке. Машине нужно уметь не просто различать слова, но и понимать смысл, который прячется за этими словами.

Эти числа задают положение слова в виде точки в пространстве, но не в трехмерном, а в многомерном. Чем ближе две точки, тем ближе слова по смыслу, а компьютеры умеют вычислять.

Дисклеймер: в этом тексте оставим процесс сопоставления слов векторам в виде черного ящика, которым мы хотим пользоваться, но нам неинтересно, как он работает.

После операции сопоставления появляется модель — файл, который описывает соответствие «слово — вектор» или как-то описывает правила сопоставления или вычисления. Для работы модели нужно программное обеспечение, которое понимает формат модели.

Для работы необходима модель, обученная на достаточном количестве текстов. В документации gensim есть ссылки на англоязычные модели, но нас это не устраивает.

К счастью, проект RusVectores предоставляет модели на русском языке. На сайте представлены контекстуализированные и статические модели. Так как игра принимает на вход одно слово, то нам подходит статическая модель.

Я использовал модель, обученную на Национальном Корпусе Русского Языка (НКРЯ), ее название — ruscorpora_upos_cbow_300_20_2019. Скачиваем архив и распаковываем. Модель представлена в двух видах: бинарном (model.bin) и текстовом (model.txt).

Попробуем воспользоваться этой моделью. Сперва загружаем.

Теперь можем найти слова, ближайшие к слову «провайдер»:

К сожалению, такого слова не нашлось. Дело в том, что данная модель принимает слова вместе с меткой, которая определяет часть слова. Это сделано для различия слов с одинаковым написанием. Например, «печь» можно представить как «печь_NOUN» и «печь_VERB», то есть как существительное и глагол соответственно.

Также возьмем более простой пример с несколькими словами. Зададим два слова: король и женщина. Человек догадается, что женщина-король — это скорее всего королева.

Метод most_similar выводит список наиболее похожих слов и некоторую метрику расстояния до этого слова. Чем ближе метрика к единице, тем ближе слово. Список слов отсортирован по убыванию этой метрики. Так как сортировка производится при выводе, то значение метрики далее мы использовать не будем.

Аргумент topn позволяет задать количество слов, которые мы хотим получить. Таким образом можно запросить какое-нибудь большое количество слов и получить список, необходимый для создания игры. Давайте зададим более современное слово «киберпространство» и посмотрим на ближайшее слово и на слово, например, на десятитысячной позиции.

Наличие специфичных слов, которые могут шуткой, опечаткой, ошибкой в парсинге или локальным жаргонизмом, неприятно влияет на игру. Нужно очистить словарь от странных слов и оставить только существительные.

Один из способов хранения модели word2vec — текстовый. Формат прост: в первой строке задаются два числа — количество строк в документе и количество чисел в векторе. Далее на каждой строке задается слово и далее числа, обозначающие вектор.

Здесь удобно воспользоваться особенностью этой модели, а именно тегами.

Это эмбеддинг Navec (навек) из проекта Natasha. Ссылку на русскоязычную модель можно увидеть в репозитории проекта. Скачиваем и загружаем модель:

Теперь можно проверять слова простым синтаксисом:

Таким образом можно отсеять немалое количество слов, которым в игре не место.

Примеры удаленных слов, многие даже великому гуглу неизвестны:

• цидулка
• зачатокать
  
• магазей
  
• антитезть
  
• завоевателий
  
• налицотец
  
• прируба
  
• бислой
  
• цвть
  

Но вместе с тем теряются и настоящие слова:

• агрокомплекс
• кейтеринг
  
• фемтосекунда
  
• углепластик
  
• электромашиностроение
  

Алгоритм очистки модели следующий:

• Если у слова тег не NOUN, то отбрасываем это слово.
• Удаляем из слова последовательность _NOUN.
  
• Проверяем «чистое слово» на наличие в эмбеддинге Navec. Если его там нет, слово отбрасываем.
  
• Слово, которое прошло все проверки, записываем в файл.
  

После обработки всех слов в первую строку новой модели записываем два числа: количество оставшихся строк и размерность вектора. Размерность вектора при данной обработке остается неизменной. Если все сделано правильно, то очищенную модель получится загрузить:

Стало ли после этого лучше?

Определенно. Для статистики: исходная модель содержит 248 978 токенов, из них 59 104 токенов имеют метку существительног. И только 36 269 прошли «сито» второго эмбеддинга.

Время заняться бэкэндом и фронтендом игры.

Так как Python является моим рабочим языком программирования, бэкэнд я решил реализовать на нем. Поговорим об обработке входных данных. Обрезать пробелы и перевести текст в нижний регистр — само собой разумеющееся. Но как получить начальную форму слова?

Здесь можно воспользоваться инструментом MyStem. Для Python есть обертка pymystem3. Крайне простой инструмент для получения начальной формы слова:

Метод lemmatize принимает на вход строку-предложение и возвращает список слов в начальной форме.

На первый взгляд даже производительность на достойном уровне: на моей виртуальной машине лемматизация одного слова занимает до 10 мс. По меркам современного веба это достаточно быстро.

Пока я работал над бэкэндом, по работе пришлось познакомиться с объектным хранилищем, среди функций которого есть возможность размещения статических сайтов. И тут мне пришла интересная мысль.

При разработке бэкэнда я продумывал способы защититься от нечестной игры:

• Сдаться нельзя.
• Список топ-500 ближайших слов получить можно, только предоставив загаданное слово.
  
• Подсказку можно получить по слову и позиции.
  

Но вскоре мне показалось это слишком суровым.

На данный момент единственное назначение бэкэнда — приведение слов к начальной форме. Правда, как показало тестирование на коллегах, и это не обязательно: все и так старались писать начальные формы слов. Да и модель эмбеддингов не лемматизирована, то есть игра понимает слова не только в начальной форме.

Получается, игру можно полностью перенести в браузер?

JSON-файл на каждую игру занимает до 2 МБ. При открытии игры файл скачивается в браузер и JavaScript реализует логику игры. Этот способ не самый производительный, но после загрузки файла позволяет играть без подключения к интернету.

Я разместил игру в облачном хранилище Selectel, которое более устойчиво к наплыву посетителей.

Итоговый результат доступен по адресу words.f1remoon.com, а исходный код — в репозитории.

Читайте также:

• Техноартефакты прошлого, по которым мы до сих пор скучаем: первые плееры и аудиомагнитофоны
• Какой тип облака выбрать: частное, публичное или гибридное? Объясняем на рыбах и удочках
  
• Какие видеокарты используют для рендеринга видео и 3D-моделирования, развития науки и тяжелой промышленности?
  

#игра #разработка #selectel