GPT-4: Чему научилась новая нейросеть, и почему это немного жутковато
В этой статье мы разберем новые удивительные способности последней языковой модели из семейства GPT (от понимания мемов до программирования), немного покопаемся у нее под капотом, а также попробуем понять – насколько близко искусственный интеллект подошел к черте его безопасного применения?
Павел, а могу вас попросить прокомментировать валидность опасений автора статьи из Wall Street Journal, где ChatGPT в Бинге признавалась журналисту в любви, убеждала, что он несчастлив в браке и так далее.
Спасибо ещё раз отличные статьи!
Модель имитирует всякое разное, что она видела в других текстах. Но это не значит, что это не может быть опасным. Если у модели в будущем появится возможность влиять как-то на окружающий мир (да хотя бы - подкупать других людей делать всякое), то какая разница - чувствует ли она реально любовь, или просто косплеит "неразделенную любовь"? Нанятые в даркнете ребята, которые с битами придут устранять "соперницу" в любом случае могут оказаться одинаковыми.