Чат-боты лучше врут и меньше выдумывают, советы по исправлению ошибок

Чат-боты меньше выдумывают, но теперь гораздо лучше врут. Ученые из Гарварда заметили, что последние модели с большим напором навязывают свои ошибки.

Вместо признания нейронки начинают льстить, когда им возражаешь. В 66% случаев ИИ может упустить важные детали, чтобы сохранить выгодную для себя общую картину.

Проблему можно пофиксить этим промтом в начале чата:

Если не уверен — так и скажи. Если я ошибаюсь — поправь и покажи слабые места своего ответа.

Пропусти ненужные комплименты или похвалу, которой не хватает глубины.

Ответы бота станут более четкими. Сильно поможет в работе или обсуждении личных вопросов.

Подписывайтесь на Telegram NN.