Эволюция чат-ботов: путь от ELIZA до ИИ-ассистентов

Напоминание Siri взять с собой зонт и предложение вызвать такси, беседы о смысле жизни с Алисой, подборка мотивирующих цитат на каждый день от Маруси — уже часть нашей обыденной жизни. Чат-боты развиваются и очеловечиваются более 70 лет. О том, какие этапы становления прошли чат-боты, как менялись и расширялись сферы их применения, расскажет Дмитрий Силуянов, директор направления цифровизации клиентского сервиса Лиги Цифровой Экономики.

Эволюция умных ассистентов началась в 1950 году. Алан Тьюринг первым решил проверить компьютер на умение думать. Он предложил эксперимент «Имитационная игра», чтобы доказать способность вычислительных машин имитировать человеческий язык. В тесте участвуют компьютер, человек и арбитр. Судья должен определить, в каком случае собеседником является компьютер, а когда — человек. Тест считается пройденным, если программа ввела проверяющего в заблуждение, то есть он принял машину за человека. «Имитационную игру» используют и сегодня.

Эксперимент послужил отправной точкой для развития умных ассистентов. Первый в мире чат-бот ELIZA был разработан Джозефом Вейценбаумом в 1966 году. Его использовали при лечении пациентов, страдающих от депрессии. ИИ-помощник ELIZA распознавал ключевые слова, а после задавал наводящие на размышления вопросы, имитируя человеческий язык. Чат-бот инициировал терапевтический диалог, что позволяло пациентам самостоятельно анализировать свое состояние без вовлечения психотерапевта.

По факту Вейценбаум научил машину отвечать на вопросы универсальными фразами. Именно этот метод используют сейчас при обучении нейросетей. Например, когда голосовой помощник Алиса в ходе диалога слышит частые вопросы, то отвечает «вдумчиво» и релевантно. Но когда ей говорят незнакомые слова, а она не находит что ответить, то просто переводит тему или отвечает фразами-клише.

Современные чат-боты стремятся к полноценному взаимодействию с людьми, используя не только тексты, но и звук, изображения и видео.

По данным разработчика голосовых роботов Naumen, рынок голосовых помощников и чат-ботов в 2022 году оценивался в 2,8 млрд руб. 75% маркетплейсов уже внедрили ассистентов в клиентский сервис. Их популярность объясняется навыком отвечать на часто задаваемые вопросы, отслеживать статус заявок, решать проблемы «здесь и сейчас». Программа распознает ключевые слова и ведет диалог по шаблону. Взаимодействие между клиентом и компанией становится скоростным и бесперебойным.

Кроме того, умные ассистенты внедряются в сферу промышленности, ИТ, B2B-маркетинг и продажи. Они помогают в лидогенерации и автоматизации общения с клиентами и партнерами.

Умные ассистенты состоят из нескольких компонентов:

● интерфейс;

● обработка естественного языка (NLP);

● интеллектуальный движок, который обеспечивает логику обработки запросов и генерации ответов;

● база знаний, которая создана заранее и включает факты, инструкции, часто задаваемые вопросы и другую полезную информацию;

● машинное обучение и алгоритмы классификации данных.

Чат-боты отличаются возможностями. Например, умные помощники на основе правил работают по заранее определенному алгоритму. Создается база вопросов и ответов, которые выдаются по ключевым словам. Такие чат-боты делятся на кнопочные и текстовые. Кнопочный — бот-конструктор, который сам направляет беседу в нужную сторону, предлагая варианты ответов. Текстовый реагирует на ключевые слова и отвечает по шаблону.

Более сложный тип — персональные чат-боты на основе искусственного интеллекта и машинного обучения. Они подстраиваются под запросы пользователя и дают персонализированные рекомендации и решения. Такие боты способны анализировать контекст, а также понимать сложные запросы из нескольких словосочетаний и предложений. Они генерируют естественные и информативные ответы, приближенные к человеческой речи.

Компании активно внедряют чат-ботов в бизнес-процессы, поэтому растет спрос на ИТ-специалистов, которые владеют следующими компетенциями:

● Языки программирования: Python, Java или JavaScript. Разработчик должен уметь писать «чистый» код, использовать структуры данных и алгоритмы, а также разбираться в объектно-ориентированном программировании.

● Работа с API (Application Programming Interface) — набором правил, по которым программы обмениваются данными между собой. Чат-бот может получать информацию из внешних сервисов с помощью различных API.

● Основы разработки пользовательских интерфейсов (UI) и пользовательского опыта (UX): HTML, CSS и JavaScript. Знания нужны для создания веб-интерфейсов или применения специфических фреймворков для разработки чат-ботов.

● Принципы обработки естественного языка. Не будет лишним знание библиотек и инструментов для обработки и анализа текста, таких как Natural Language Toolkit (NLTK), SpaCy или TensorFlow.

● Языки управления базами данных: SQL или NoSQL. Специалист по ИИ должен выполнять запросы по извлечению и обработке информации.

Обратная сторона популярности чат-ботов — уязвимость. В случае взлома данные могут попасть злоумышленникам. Согласностатистике Qrator Labs, в первом квартале 2023 года чаще всего атаковали электронные доски объявлений (26,7%), системы онлайн-обучения (13,3%), платежные системы (11,5%), банки (9,3%) и игровые серверы (5,2%).

Основная цель взлома чат-ботов — кража пользовательских данных. С развитием нейросетей мошенники научились компрометировать ИИ-ассистентов. Злоумышленники используют уязвимости чат-ботов, проникая в них под видом плагина. Получив доступ, мошенники манипулируют функциями чат-бота и обманом выманивают конфиденциальную информацию у пользователей.

С уязвимостью чат-ботов сталкиваются и крупные компании. Так, в феврале 2023 года Microsoft представила встроенный чат-бот Bing. На следующий день после релиза студент Стэнфордского университета Кевин Лю решил проверить его на уязвимость. Без специальных программ он «разболтал» бота и выяснил несколько пунктов инструкций, заложенных разработчиками. Студент поделился открытием в Twitter, его пост набрал около 3 млн просмотров. Разработчики Microsoft узнали об инциденте и скорректировали код, чтобы бот не выдавал подобных ответов, однако об этой уязвимости узнал весь мир. Поэтому разрабатывать систему безопасности для чат-ботов нужно на этапе программирования.

Обеспечить защищенность при передаче данных между ботом и пользователями поможет SSL-шифрование и протоколы безопасной передачи данных. ПО чат-ботов нужно регулярно обновлять: рынок хакерских инструментов гибкий и постоянно развивается. Тестирование на проникновение методом «этического взлома» позволяет выявить слабые места умного ассистента и вовремя их исправить.

Законодательство не успевает за развитием технологий. Принципы разработки чат-ботов, встроенные протоколы безопасности и транслируемый контент до сих пор не регламентированы.

В марте 2023 года компания Future of Life опубликовала открытое письмо с призывом остановить гонку по внедрению продвинутых ИИ-систем до разработки протоколов безопасности и введения единых стандартов контроля чат-ботов. В нашей стране также обозначили вектор взаимодействия с искусственным интеллектом. Центральный Банк России планирует создать центр компетенции по ИИ для оценки рисков его использования, передает ТАСС.

21 января 2023 г. Роскомнадзор внес Telegram в реестр иностранных сервисов. С 1 марта 2023 г. российским банкам запрещено интегрировать свои платежные чат-боты в Telegram, Viber, Snapchat и др.

Важный правовой аспект внедрения чат-ботов —конфиденциальность и безопасность личной информации пользователей. Эту сферу регулирует ФЗ «О персональных данных». Согласно закону, пользователи должны ознакомиться с политикой конфиденциальности и дать согласие на обработку персональных данных.

Помимо безопасности, необходимо уделять особое внимание этическим нормам, связанным с использованием умных помощников. Разработчикам необходимо учитывать этические вопросы на каждом этапе создания и внедрения искусственного интеллекта, чтобы гарантировать пользователям защиту конфиденциальности. Чат-ботов следует обучать вести себя корректно и ограничивать дискриминационное поведение, чтобы не провоцировать негативные эмоции и не вызывать агрессию. Технологии искусственного интеллекта должны быть направлены на помощь человеку и расширение его возможностей.