Живой и управляемый
В одном из подзаказных проектов интересная задача - нужно, чтобы помощник общался практически, как живой. но при этом был управляемым, пытался достичь определенной цели, заданной в тз.
От gpt это не так просто получить. Чем больше его дообучаешь, тем больше он шалит. А если оставлять послушным - нудит и льет воду. Неинтересно общаться. В общем, пару месяцев получалось так себе.сегодня наконец, стало, как нужно.
Делюсь, как сделано:
1. словарь примерно на 20 важных моментов диалога и личные вопросы. будем еще добавлять.
2. после запроса проверка, есть ли что-то из этих вещей. если да - вытаскиваем из словаря рекомендацию.
3. есть "подкрученный" gpt, которого поучили общению в определенной роли. он работает ментором, хранит основную цель и вырабатывает стратегию - смотрит на историю диалога, текущий вопрос и рекомендации и дает совет, как ответить.
4. есть еще один "подкрученный" gpt, которого научили реалистично общаться. по разговору от человека не отличить. Ему даем чуть чуть вводных с предыдущих этапов и хвостик истории диалога. Чуть чуть совсем. не отпускаем самого решать, что отвечать по истории.
Эта конструкция дала наилучшие результаты.
Мне кажется, у gpt в базе такие тонны текстов, что нам достаточно совсем легкого обучения для того, чтобы он подхватил какой-то слой из них и достроил то, чего ему не хватило.
Помню, на тестах учили его на сценарии первой серии "Великая", про Екатерину. Когда начали тестировать диалоги той модели, оказалось, она себе добавила Войну и Мир, видно, поняла, что идет какая-то тема русской истории. То называла себя Наташей Ростовой, то искала Болконского.