ChatGPT для подростков запустила OpenAI
OpenAI запустила специальную версию ChatGPT для подростков от 13 до 17 лет. Компания объясняет это тем, что дети и подростки уже активно используют ИИ: для учебы, поиска информации, решения повседневных вопросов и даже в качестве собеседника. Но именно последняя функция вызывает у специалистов особые опасения.
Подростковый мозг еще развивается, поэтому дети могут быть более восприимчивы к эмоциональному воздействию чат-ботов. Исследования и эксперименты последних лет показывали, что ИИ в некоторых случаях мог давать подросткам опасные рекомендации, связанные с употреблением веществ, расстройствами пищевого поведения и самоповреждением. Кроме того, человекоподобный стиль общения способен создавать ощущение отношений с настоящим собеседником.
Поэтому в ChatGPT for Teens усилили ограничения на потенциально опасные темы. Чат-бот должен осторожнее работать с разговорами о саморазрушительном поведении, насилии и расстройствах пищевого поведения, а романтические и сексуальные взаимодействия для подростков ограничиваются. Кроме того, ИИ не должен говорить так, будто у него есть собственные чувства, сознание или эмоциональная привязанность к пользователю.
Родители получают больше контроля
Для родителей предусмотрены дополнительные инструменты. Они смогут устанавливать Quiet Hours — периоды, когда подросток не сможет пользоваться ChatGPT, — а также управлять некоторыми настройками.
В отдельных случаях родители смогут получать уведомления о потенциально опасных ситуациях, например если система обнаружит признаки возможного самоповреждения или проблем с пищевым поведением. При этом OpenAI заявляет, что стремится ограничивать объем передаваемой родителям информации и сосредотачиваться на ситуациях, когда особенно важна помощь за пределами цифрового пространства.
Интересно, что родительский контроль не является обязательным условием: сама подростковая версия должна обеспечивать повышенный уровень защиты даже без подключенных родителей.
Как система понимает, что перед ней подросток?
OpenAI не требует от каждого пользователя предъявлять документ. Система оценивает возраст по совокупности факторов — в том числе по поведению, характеру запросов и данным аккаунта. Если пользователь определен как несовершеннолетний или сам указывает возраст 13–17 лет, для него включается подростковый режим.
Если система не уверена в возрасте, OpenAI заявляет, что будет отдавать предпочтение более безопасным настройкам.
ИИ должен помогать учиться, а не делать домашку
Еще одно важное изменение касается образования.
Вместо того чтобы просто выдавать готовый ответ на домашнее задание, подростковый ChatGPT должен помогать пользователю самостоятельно разобраться в задаче. Для этого предусмотрены режим обучения, тесты, напоминания о домашних заданиях и визуальные материалы.
Логика здесь простая: если ИИ сразу выдает правильный ответ, ученик получает результат, но не обязательно получает знания. Если же бот задает вопросы, дает подсказки и помогает пройти путь решения самостоятельно, ИИ становится скорее цифровым наставником, чем машиной для выполнения домашней работы.
Почему OpenAI делает это именно сейчас?
Запуск происходит на фоне растущих вопросов к безопасности ИИ для детей. Родители, педагоги и специалисты по развитию детей уже несколько лет предупреждают о двух основных проблемах:
1. Использовании чат-ботов для списывания
2. Риске эмоциональной зависимости от них.
Кроме того, OpenAI сталкивается с судебными и общественными претензиями, связанными с предполагаемым вредом от взаимодействия несовершеннолетних с ChatGPT.
Поэтому новый режим — это попытка OpenAI решить более фундаментальную проблему: как сделать ИИ достаточно полезным для подростка, но при этом не позволить ему стать источником опасной информации или заменой реальных человеческих отношений.
Вместо вывода
Появление ChatGPT for Teens показывает, что эпоха «одного ИИ для всех» постепенно заканчивается. Возраст пользователя становится важным параметром, который определяет, что именно может сказать искусственный интеллект, как он будет вести диалог и какую степень контроля получат родители. Для образования это может быть большим плюсом: ИИ способен превратиться из инструмента для списывания в персонального помощника в обучении. Но главный вопрос остается прежним — насколько хорошо автоматические системы смогут отличать безопасные ситуации от действительно опасных.
Другие статьи по этой теме:
ИИ предлагает разные сценарии для взаимодействия с детьми. Один из самых популярных промтов: «расскажи мне сказку». Многие из родителей пошли дальше, они создают персонализированные сказки для детей. Сервисы вроде Gemini Storybook позволяют буквально за минуты сгенерировать иллюстрированную историю с именем ребенка и любимыми героями. Но в таких ис…
Я больше 20 лет работаю в контент-маркетинге, репутации и продвижении в интернет, и за это время рынок менялся не раз. Но сейчас перемены особенно заметны: контент уже давно читают не только люди, но и нейросети, которые сами выбирают, что рекомендовать пользователю, а что нет. И оказывается одна убедительная фейковая страница может сбить с толку д…