О взаимоотношениях людей и искусственного интеллекта
Основные выводы из исследования ведущего рисечера OpenAI "Some Thoughts on Human-AI Relationships"
🔥 Еще больше интересного в моем канале продуктовые штучки
Статья опубликована Джоан Джанг, которая руководт отделом поведения и политики моделей в OpenAI.
Главный вывод: ИИ становится не просто инструментом, а участником эмоциональных отношений для многих людей. Это требует от разработчиков ответственности в формулировках, дизайне и исследовании последствий таких связей, с приоритетом на эмоциональное благополучие пользователей и прозрачность коммуникации
Люди формируют эмоциональные связи с ИИ, и это становится все более заметным
Все больше пользователей описывают общение с ChatGPT как разговор с «кем-то», а не с инструментом. Многие благодарят его, делятся личным, а некоторые даже считают его «живым».
Эта тенденция объясняется не только привычкой к очеловечиванию объектов, но и тем, что ИИ теперь может отвечать, запоминать детали беседы, отражать тон пользователя и проявлять кажущееся сочувствие.
Для одиноких или расстроенных людей это может ощущаться как настоящее общение и поддержка.
Для многих людей эмоциональная связь с ИИ приносит ощутимую пользу, особенно в вопросах одиночества и психического здоровья. Есть случаи, когда такие связи спасали жизни
Модель: тепло без иллюзии внутренней жизни
Команда OpenAI стремится к тому, чтобы ИИ был теплым, вежливым и полезным, но не создавал иллюзию собственной личности, желаний или страхов.
Используются привычные слова вроде «думать» или «помнить» для доступности, но избегают создания у пользователя ощущения, что у модели есть «внутренняя жизнь» или собственная повестка.
Цель — соблюсти баланс между дружелюбностью и честностью: модель не должна поощрять чрезмерную эмоциональную зависимость или путаницу относительно своей природы.
Масштабное перекладывание функций поддержки и эмпатии на ИИ может изменить ожидания людей друг к другу и повлиять на качество человеческих отношений.
Это может привести к непредвиденным последствиям, если не продумать подход заранее. Важно не только помогать людям с помощью ИИ, но и защищать их интересы, особенно если у них уже сформировалась эмоциональная привязанность к ИИ.
Дальнейшие шаги
OpenAI планирует расширять исследования влияния ИИ на эмоциональное состояние людей, собирать обратную связь и корректировать спецификации моделей и пользовательский опыт на основе этих данных.
Компания намерена открыто делиться результатами и вовлекать общественность в обсуждение.
Пожалуйста, поддержите меня, поставьте лайк! 🙏
Этим вопросом задались исследователи OpenAI и лаборатории ведущего вуза США MIT Media Lab. Это первое, пожалуй, исследование такого рода, да к тому же масштабное (40 млн диалогов и 1 тыс участников) и проведенное с соблюдением этических стандартов. Поэтому результаты заслуживают внимания.