Генеративный ИИ - это просто "замыленный JPEG интернета", который убедительно косит под интеллект
ИИ чат-боты любят ловить глюки и выдавать всякую чушь. Так массово, что словом 2023 года признали "галлюцинировать". В чем причина такого явления? Является ли генеративный ИИ интеллектом (спойлер - и да, и нет)? И что общего у ChatGPT и копировального аппарата Xerox? Разбираемся, осмысляя базовую логику работы языковых моделей.
После такой стати хочется порассуждать на тему того каким образом генеративный ИИ может теоретически представлять опасность.
Может быть кто-то обернет в форму статьи аргументы сторонников ограничительной политики в отношении ИИ?
Для меня интеллект как таковой в смысле способности обрабатывать информацию, распознавать связи, выделять объекты и т.д. и мотивация - это совершенно разные почти никак не связанные вещи.
Ну например почему тигр опасен? Потому что у него есть ОТДЕЛЬНЫЙ блок в голове отвечающий за мотивацию - ему нужно искать еду, выживать, защищаться от опасности и т.д. Этот блок задает команды для самого "интеллекта" тигра - что ему надо искать, на кого нападать и зачем.
При чем мотивационный блок в природе сформировался отдельно от интеллекта. У простейших одноклеточных интеллекта (и вообще нейронных связей как таковых) еще нет, но "прошивка" которая определяет в какой момент надо покушать а в какой отдохнуть уже есть.
То есть мотивационный блок не появился из интеллекта каким-то образом сам по себе, а скорее наоборот интеллект развился благодаря работе этого блока.
Мотивационный блок даже и работает-то на других принципах относящихся больше к прошивке ДНК, тогда как природный интеллект - это чисто нейронные связи.
У ИИ мотивационный блок простой - понять о чем его спрашивают и дать ответ. Поэтому сценария при котором ИИ "случайно и безконтрольно" сам себе каким-то образом создаст мотивационный блок я тут не вижу никак. Сначала должна появиться мотивация а потом уже включаться в работу интеллект, но никак не наоборот.
При чем мотивационный блок - это не просто написать боту в чате "уничтожь человечество". Мотивационный блок связан с интеллектом через сложный драйвер который работает и устроен гораздо сложнее чем механизм "ввода-вывода" внешней информации.