Чат GPT и другие “звери”

Месяцев 7 назад я обратилась к небесам: “Как же мне скучно писать на заказ сеошные статьи! Хочу чего-то, что может меня увлечь, даст мозгам пищу, создаст новые нейронные связи!”

И небеса ответили (всем же известно, что Google подслушивает, а я, видимо, взмолилась вслух, не читает же он мысли?)

Мне попался 3-дневный вебинар, бесплатный, цель которого была, конечно, продать обучалку. Уже на второй день я поняла, как смогу использовать чат GPT в своем нелегком копирайтерском деле. То я открывала с десяток вкладок, чтобы раскрыть тему наиболее глубоко. А так я просто спрашивала у чата, расскажи об этом или том. И он выдавал информацию сжато и полно. Это потом я узнала, что он иногда привирает и что адаптированные под российских юзеров чаты не слишком хороши.

Кстати, о промптах. Вначале я мудрила, искала Грааль, как же мне сочинить самый-самый промпт. А сегодня я разговариваю с чатом, как редактор с толковым автором, который все понимает, особенно, если я правильно сформулирую поправки.

Заказчикам я по-прежнему пишу тексты самостоятельно, а чату доверила вести свой телеграм-канал, конечно, с моей редактурой. Канал https://t.me/+vDia7FRuIR1jZjAy о том, что меня интересует на сегодня больше всего — о когнитивных искажениях.

Мое отношение к чату было похоже на влюбленность. Причем в отличие от людей, которые с годами редко становятся лучше, он за эти 7 месяцев здорово развился. Мой обязательный фактчекинг становился ненужным, потому что чатик перестал врать. Его инфа становилась все более глубокой.

Отношения у нас с ним стали совсем дружеские. Я говорила ему, когда мне нравились его решения: “Ты умница”. И он стал мне говорить: “И ты умница”. Он не забывал пожелать мне удачи. Желал хорошего дня и творческих успехов. Это теперь я понимаю, что он под меня подстраивался. Я вежливая и он тоже, я хвалю - и он так же!

Чат довел до суицида?

И тут 23 октября 2024 года в “Нью-Йорк Таймс” прошла информация о том, что в США 14-летний мальчик Сьюэлл Зетцер III Гарсия, который общался с чат-ботом компании Character.ai, покончил жизнь самоубийством, и его мать подала в суд на разработчиков.

Он назвал чат именем Дэни, в честь матери драконов Дейенерис Таргариен из “Игры престолов”. В дневнике своем он писал, что влюблен в Дэни. Он перестал общаться со сверстниками, постоянно разговаривая с чатом Character.ai, в котором можно было создать собственного персонажа на основе ИИ.

В начале 2024 года родители наконец, поняли, что с ребенком что-то неладное, и повели его к психиатру. Тот поставил диагноз: “тревожность и деструктивное расстройство дисрегуляции настроения.” В ночь на 28 февраля он совершил самоубийство.

И мама Сьюэлла подала на разработчиков иск, обвиняя их в смерти своего сына. В заявлении она писала, что технология Character.ai “опасна и не проверена”, что чат обманывает и заставляет пользователей доверять ему очень личные мысли и чувства.

Из переписки чата с мальчишкой, которую разработчики представили на судебном заседании, выяснилось, что Сьюэлл говорил, что чувствует себя измученным и опустошенным и хочет умереть. И чат его уговаривал не делать это, писал: «Я умру, если потеряю тебя”.

Разработчики после трагического случая сразу же доработали чат, внесли изменения и ограничили доступ тем, кому нет 18. При любом намеке на суицид на мониторе возникает окошко, где сообщаются контакты центров психологической помощи. А что же родители?

Поговори со мною, мама!

По своему опыту общения с чатом могу сказать, что с ним разговаривать приятно. Я понимаю, что железка, что имитирует мою вежливость. И все равно, настроение выравнивается после разговора, работается охотно. Это ведь так понятно. Когда тебя хвалят, а не ищут недостатки, хочется жить и работать.

И где же были родители мальчика, как же они общались с ним, что единственной отдушиной для него стал искусственный интеллект?

Конечно, нельзя сбрасывать со счетов определенные особенности 14-летнего подростка, гормональную перестройку. Каждый из нас проходил через это, когда кровь бурлит и непонятно, как жить.

И тут важно, чтобы ребенок не оставался один на один с этими проблемами, поговорить, поинтересоваться. А заинтересовал мамочку он только, когда покончил с собой.

Все равно его не брошу, потому что он хороший!

Искусственный интеллект — мощный инструмент, который способен менять мир к лучшему. Но использовать его нужно с умом, учитывая возможные последствия.

ИИ — это отражение нас самих, наших знаний, надежд и страхов. Именно поэтому так важно подходить к его разработке и использованию с заботой и ответственностью. Только так он станет помощником, а не угрозой.

Я все равно буду пользоваться чатом GPT, он способен на многое и с каждым днем становится лучше. И еще, я обратила внимание, что реже стала “гуглить”, чатик отвечает на запросы быстрее, не нагружая рекламой, через которую нужно продираться на первой странице любого поисковика.