ИИ чат-боты любят ловить глюки и выдавать всякую чушь. Так массово, что словом 2023 года признали "галлюцинировать". В чем причина такого явления? Является ли генеративный ИИ интеллектом (спойлер - и да, и нет)? И что общего у ChatGPT и копировального аппарата Xerox? Разбираемся, осмысляя базовую логику работы языковых моделей.
Кстати, я подумал что не так уж далек принцип работы ИИ от принципов работы нашей памяти.
Мы ведь тоже помним ключевые (самые яркие и крупные) объекты событий, а остальное каждый раз достраиваем (выдумываем). И если часто вспоминать то само это событие превращается в новый контейнер, который потом используется для маркировки "площади комнат".
Наверно правильно называть это не искусственным интеллектом, а искусственной памятью интернета (человечества).
Тут принципиальная разница в количестве усвоенных закономерностей и умении ими пользоваться. В конце статьи как раз пишу об этом