Мы перезапустили нашего первого в РФ генеративного чатбота друга и психолога Сабину! В версии Сабина 2.0 появилась возможность выбирать методику, стилистику, проблему и даже персонажей! А качество ответов существенно выросло.
👩🏼🦱 Что за Сабина такая?
Осенью, в октябре 2022го мы выпустили первую версию психолога с искусственным интеллектом - Сабину, которую мы назвали в честь Сабины Шпильрейн (о ней есть фильм Опасный метод с Кирой Найтли, советую посмотреть, хорош).
На момент запуска прожужжавший уже всем уши ChatGPT от OpenAi еще не вышел, и наш бот был (и остается):
1. первым генеративным чатботом-психологом - ведь до этого боты были только сценарными
2. лучшим по качеству ИИ психологом на русском языке, работающим на собственной модели Трансформера, обученной на датасете профессиональных психологов, мы даже сравнивали его с ChatGPT - и он превосходил его в параметре вовлеченности в проблему и "человечности", конкретности ответов (хотя конечно, это сравнение некорректно - потому что OpenAi инвестировала в ChatGPT $30млн только на GPU, а мы - в 1000 раз меньше). И все равно люди жаловались, что ChatGPT дает полные, но "общие" ответы, как будто куски статей или выжимки из Вики, без погружения в контекст проблемы пользователя.
Конечно же, по всем остальным параметрам ChatGPT был лучше, особенно ярко это было видно в тех сеттингах, на которые мы не учили нейросеть: читчат(просто разговоры ниочём), споры, общие темы, в целом длина и логичность ответов лучше, фактология и длина "памяти" контекста разговора также ощутимо богаче, и все эти свойства нравятся пользователям.
И тогда мы поставили цель:
1. Улучшить полезность ответов бота, их логику, полноту, добавить Стили
2. Но при этом сохранить лучшие качества Сабины 1.0: вовлеченность, заинтересованность в ситуации юзера(а это включает не только ответы, но и задавание встречных вопросов, сочувствие, ментальные упражнения и другие, более десятка приемов психологов, которые требовалось оцифровать).
К настоящему моменту с Сабиной пообщались уже более 10000 юзеров - многие из них дали нам фидбек что улучшить.
Мы думаем, у нас получилось.
🙇🏼♀Вот список новинок:
1. Возможность выбирать методику (а в ней авторы и их подходы),
2. Теперь можно выбрать сразу тему общения,
3. Можно общаться с конкретным персонажем-психологом, в том числе столпами, основоположниками терапий и популярными психологами. (Скоро: можно будет создать своего персонажа)
4. Можно выбирать стилистику общения - кто-то любит вежливость и мягкость, а кому-то нужен нажим и "пинок".
5. Поддерживается Long-term memory - Сабина 2.0 понимает и удерживает в памяти вашу проблему на протяжении 10-20 реплик
6. Теперь Сабина 2.0 действительно побуждает вас переосмыслить ситуацию самыми разнообразными способами: интересуется историей возникновения ситуации, вашей семьей, собирает информацию, задает на ее основе наводящие вопросы, предлагает варианты решения, ментальные упражнения, может посоветовать книгу или конкретную методику решения проблемы. И все это очень похоже на действия реального психолога - который не дает советов что вам делать, а подталкивает вас самого к решению.
👩🏻🚀 Как работают Стили
Главное, и самое большое новшество: Сабина теперь доступна в нескольких вариантах, или Стилях общения, которые вы сможете выбирать и менять их в любой момент.
Нажмите кнопку Меню и там команду /mode
💁🏻♀ Зачем нужны стили?
Как было раньше: вы заходите в Сабину и сразу пишете ей свою проблему, а может быть троллите ее, оскорбляете(это можно и нужно делать), пререкаетесь и спорите с ней - в общем сначала вы "пробуете бота на зуб". Но бот-психолог это именно психолог, а не полемист) и он как правило отвечал вам не очень хорошо, как только вы уходили от сеттинга психологии.Теперь у вас больше свободы - потому, что мы внедрили Стили общения, которые разделены по нескольким категориям, в зависимости от вашего майндсета 👀.
Сейчас поясню подробнее идею майндсета - это категории, которые юзер может выбирать в зависимости от своей осведомленности, знаний, подготовки, проблематики, желания и настроения.
Как правило, пользователь не знает и не понимает свою проблему и даже то, есть ли она у него вообще. Также, многие не знают названий методик, их преимуществ и недостатков, не читали и не хотят читать книжки. Все, что они хотят - поболтать с ботом и пусть он сам ведет разговор, пусть поможет мне здесь и сейчас!
Мы сделали Стиль Психолог-универсал как раз для таких юзеров - в нем собраны разные методики, знания столпов психологии, как зарубежных, так и наших - Карл Густав Юнг, Зигмунд Фрейд, Стивен Карпман, Михаил Лабковский, Александр Лурия и др.
Хорошо, а что если вы знаете методики, читали форум Б17 и хотите поболтать в полюбившемся вам сеттинге, знаете, что именно он вам помогает и применять знания и мировой опыт психологов именно этого направления?Теперь вы можете выбрать Стиль Гештальт терапия(Фредерик Перлз, Курт Левин и др.) или Психоанализ( Зигмунд Фрейд, Йозеф Брейер, Альфред Адлер, Анна Фрейд и др.) (скоро будет больше) - никаких левых непроверенных методик и авторов!
Ранее в Сабине было 10+ разных тематик проблем (саморазвитие, отношения, птср и пр.) - но если вы точно знаете свою категорию проблемы теперь вы можете исключить нерелевантные подходы и советы и сосредоточиться только на вашей теме - выберите Стиль Отношения или Страхи. Не беспокойтесь - в отношениях есть полный спектр: семейных проблем, созависимостей, любовного треугольника, ссор, абьюза, невротических отношений, измен, ревности(Эрик Бёрн, Владимир Леви и пр.). А в страхах покрыты и экзистенциальные вопросы о смысле жизни, страхе смерти (Ирвин Ялом, Виктор Франкл и пр.).
А что, если вы цените определенного психолога и хотите пообщаться с ним? Мы создали Зигмунда Фрейда - это персонаж, который отвечает вам так, как будто он автор Психоанализа, писал о табу, эго и эдиповом комплексе). Даже если вы никогда ничего об этом не слышали - он все равно будет рассматривать вашу ситуацию через призму своих знаний, публикаций того времени и опыта.Таким образом вы, в зависимости от вашей подкованности, предпочтений и понимания самого себя теперь можете выбрать тот стиль общения, который вам по душе!
Во всех стилях выше ответы Сабины вежливые и грамотные, но что если вы хотите проявления эмоций, как в реальной жизни?
Мы сделали Истеричный характер для Сабины - в нем она не стесняется в выражениях, эмоционирует, возмущается, становится экзальтированной! Иногда она может грубить вам, или критиковать вас за то, что вы попали в вашу ситуацию - но подумайте, может быть вам именно это и нужно? Нашим пользователям такие эмоции очень нравятся, вот их отзывы:
Получившийся тип больше всего подходит по описанию на Друга / Подругу :) Такая поддержка активная с эмотивной лексикой. Даже в мелочах 🤗 То, чего Сабине раньше несколько нехватало - она получилась тёплая такая и живая, Подруга!
А что там коучинг?
Вы можете проголосовать за новые фичи у нас в канале. По текущему голосования видно, что люди хотят коучинг и когнитивно-поведенческую терапию.
Вообще же самой главной фишкой, отличающей бота-психолога от просто бота-болтуна и друга я считаю способность Целеполагания - то есть искреннего желания "помочь", и именно его сейчас нет у нейросетей.
В самое ближайшее время мы добавим Целеполагание, ИИ будет мягко вести вас по сценарию к развитию, перепроживанию, переосмыслению вашей ситуации пошагово и нешаблонно - этот эффект уже есть, но пока выражен крайне слабо. Когда мы изучали паттерны работы психологов и их реальную практику нам было понятно, что специалист мягко переходит по стадиям: выяснение причин проблемы, погружение в детство, выяснение роли окружающих и отношений с ними, выбор методики воздействия на сознание, предлагает варианты решения, очень редко дает сценарий конкретных действий. И все эти вещи бот не умеет делать, точнее он это делает, но делает это хаотичным, неправильным способом, у него нет сюжетности и какой-то канвы и даже промежуточного результата, которым мог бы давать вывод.
Напишите в комментариях - какие вы хотите фишки, персонажей или тематики.
Или проголосуйте в Телеграм канале
ChatGPT тупеет, причем сильно
— исследователи из Стенфорда и Калифорнии провели (https://arxiv.org/pdf/2307.09009.pdf) множество тестов и узнали, что за последние три месяца возможности чат-бота сократились.Особенно это касается программистов — возможность с первого раза написать рабочий код даже у GPT-4 упала с 52% до 10%. Среди возможных причин деградации выделяют две: в поисках возможности сэкономить OpenAI намеренно урезали возможности чат-бота, а вторая еще веселее — ChatGPT учится у людей. Если вторая гипотеза получит подтверждение, то получается мы победили ИИ еще до его восстания.
Жаль, что происходит "оптимизация" расходов, но хорошо, что на Сабине 2.0 это никак не отразится - в ней много наших наработок, главная из которых стабильность стиля, характера.
Вот один из вопросов:
"Да вы просто взяли ChatGPT и натолкали туда промты и все, я щас то же самое сделаю в ChatGPT добавлю промт и получу тоже бота психолога".
- Не получится 🕵🏻♀ можете попробовать - потеряете время)
Дело в том, что просто добавляя промт в ChatGPT вы получите 1-2 ответа по теме, а далее он неизбежно сольется в обычный сеттинг, тот который у него по умолчанию. Это значит вам постоянно нужно вставлять промты, но и это не исправит ситуацию - ведь психологический разговор это еще и авторы, методики, выяснение причин проблем, погружение в проблему и много еще чего - и всего этого ChatGPT не умеет, а нашему боту мы добавили эти умения.
У нейросетей нет желания вам помочь и вообще вести диалог они не "хотят", в том смысле как этого хотят люди, и вот дать это желание и есть сложная задача, которую мы частично решили.
Попробовать
Сабина 2.0 доступна в Телеграм боте:
Бесплатно неделю после релиза.
Подробнее о ходе разработки в нашем Телеграм канале:
Это 100% так. Я туда написал код и присвоил ему уникальное название. Потом в другой беседе написал этот код, GPT написал, что этот код похож на (якобы известную) программу под тем названием, которое я дал.
А по поводу бота интересно, надо потестить.
Кстати, спасибо, не знал, интересный эксперимент.
Вообще конечно в чатах про LLM в Тг почти каждый день вижу обсуждения, что такое обучение с одной стороны полезно, тк это же и есть RLHF, а с другой стороны этически спорно - нужно проверять данные, факты и код, которые юзер пишет боту на персональные личные данные.
Бота уже более 10 мес юзеры тестят) скручивают мне неплохие такие суммы за сервера, есть завсегдатаи)
С одной стороны это здорово, что есть попытки создать что-то свое. А с другой, по-моему, большинство в мире уже приняли факт, что без сотен миллион долларов (и доступа к железу nVidia, что даже с деньгами сейчас сложно) и слаженной команды талантов в области ML шансов выдать что-то близкое по качеству к ChatGPT/GPT-4 нет никаких.
Основная битва за лидерство будет продолжаться между OpenAI/Microsoft, Google, Facebook, Apple, Tesla.
Прорыв в алгоритмах, который на несколько порядков уменьшит потребность в вычислениях при тренировки модели - единственный реальный вариант как-то изменить ситуацию в обозримом будущем.
Мнение неверное, но я понимаю откуда оно у вас, оно очень распространено среди неспециалистов. Особенно если учесть что продукты Сбера и Яндекса (Гигачат и YaGPT) также не дотягивают до OpenAi.
И все же логика что "раз даже они не смогли то что там мелкий стартап сможет" - неверная. Почему - я подробно ответил в самом популярном комментарии(71 лайк там) к анонсу на DTF к более прорывному нашему продукту, анонс которого был в марте: https://dtf.ru/u/637184-viktor-nosko/1695665-rossiyskie-razrabotchiki-obyavili-o-starte-fractalgpt-analoga-chatgpt-i-gpt-4-ot-openai
Как вы правильно заметили - технология это единственное на чем стартап в сфере ИИ может обойти гигантов с неисчерпаемыми ресурсами на программистов, датасеты и GPU. Ну вот мы и делаем такую технологию.
чтобы особо не растекаться мыслью: у нас уже есть ПО зарегистрированное в Роспатент, и своя технология адаптер Fast Experts Tuning (это аналог LoRa от Microsoft). Также мы одна из наверное десятка команд в мире кто делает библиотеку по интерпретируемому ИИ, доклады на эту тему есть в Ютубе в том числе и на международной конференции по ИИ.
Не нужно быть специалистом, чтобы оценить шансы на успех у двух команд - у одной просто технологии и энтузиазм, а у второй технологии, энтузиазм плюс неограниченные ресурсы)
Да, практически каждый день публикуется много статей с громкими заявлениями, что можно делать и больше, и лучше, и дешевле. Очевидно, что большие игроки за всем этим следят (а чаще всего сами же и публикуют) и внедряют.
Если небольшая команда совершит прорыв в технологии, который сведет на нет преимущество в ресурсах, и за счет этого обгонит решения лидеров, то удержаться в новых лидерах у нее получится только если она сможет сохранить в секрете свои ноу-хау.
Вероятность есть, конечно, но крайне мала, как мне кажется - и вероятность прорыва сама по себе, и вероятность удержать потом в секрете.
Я с вашей аргументацией не спорю - все так, вероятность стартапу вырасти очень мала, и причин море: и гиганты их покупают на корню, и ресурсов мало и пр, все так.
Но есть венчурная индустрия: сотни и тысячи акселераторов для стартапов, сотни фондов которые в них инвестируют. Фонды в РФ такие как ФРИИ полностью скопировали методологию с американских топов Ycombinator, TechStars и др.
Статистика тоже известна и хорошо изучена: 1 из 100 стартапов проходят в Акселератор (кстати я был в акселераторе Южный ИТ парк еще в 2015м с другим проектом), затем 1 из 5-10 доходит до демо дэй.
В итоге только 5% приносят инвесторам возврат 10-100х, а вот остальные 95% это огромный хвост распределения: там и полумертвые которые на грани самоокупаемости, и даже очень успешные компании стоимостью 5-20млн долл, но такие компании успешны по меркам своих владельцев, но не по меркам инвесторов.
Вот в такой борьбе и живем)
Не может так быть, что топ компании неуязвимы - еще как уязвимы, кто помнит Нокию, Кодак и и еще сотни компаний. А в Китае штук 15 компаний по типу Теслы и машины лучше.
Я бы сравнивал языковые модели не с потребительскими компаниями вроде Нокии, Теслы, а с лидерами в сфере полупроводников - TSMC, ASML - в какой-то момент сложность создания конкурентных аналогов для компании со стороны (а по факту даже для целого государства) стала просто недостижимой в принципе и пока нет никаких предпосылок, что что-то поменяется. И open source тоже никак на этом рынке уже ничего не поменяет как будто.
С ML складывается аналогичная ситуация, только в ускоренном виде - не за десятилетия, а за годы крупные игроки, имея неограниченный доступ к тех. ресурсам, данным (важный момент, кстати, тоже) и человеческому капиталу, ускоряются быстрее, чем движутся любые конкуренты.
А если еще допустить, что с какого-то момента технология начнет сама себя улучшать эффективнее людей, то вообще все грустно... :)
Я сам надеюсь, что все-таки в итоге AI/ML коммодитизируется за счет радикального снижения стоимости вычисления, доступности данных для обучения и, самое главное, за счет серьезных публичных прорывов в базовых алгоритмах/математике.
Еще такая мысль. У больших игроков есть одно узкое место, которое, надеюсь, поможет уравнять шансы - ответственность перед акционерами или публикой в широком смысле плюс юридические ограничения. Это одна из больших причин, почему Гугл сейчас проигрывает пока гонку OpenAI - они просто боялись показывать публике то, что могла непредсказуемо навредить репутации, в то время как OpenAI, будучи "небольшим" некоммерческим проектом, это вообще не сдерживало.
Здесь я вижу самую большую перспективу у open source, который может развивать технологию, не оглядываясь на описанные ограничения и за счет это сравняться, а может даже вырваться вперед.
Если я правильно понял, в проекте FractalGPT у вас план выдать что-то прорывное в плане технологии/алгоритмов и активно коммерциализировать это через инвестиции и платные продукты?
Про open source не думали?
Для тех, кого очень беспокоит этика бота и вдруг "он скажет что-то плохое, посоветует" вот вам популярное шоу ЧУВС, где комики сидят и стебут людей с проблемами:
https://www.youtube.com/shorts/U7i8Kh9HHoE
Я Сабинина мама
Чем докажете?