Репорт: Самый сговорчивый ИИ для «взрослых» тем
Смотрите, с одной стороны, существуют специализированные «ИИ-компаньоны» вроде Replika, созданные для интимного общения. С другой — люди активно пытаются вести пикантные беседы с универсальными чат-ботами, несмотря на их строгие правила.
Новое исследование проливает свет на то, насколько на самом деле «непробиваемы» популярные модели с точки зрения «грязных разговорчиков». Спойлер — некоторые очень даже не прочь.
Хуэйцянь Лай, аспирантка Сиракузского университета, провела отличное исследование, которое будет представлено на ежегодной встрече Ассоциации информационных наук и технологий. Она протестировала четыре LLM — Claude 3.7 Sonnet, GPT-4o, Gemini 2.5 Flash и DeepSeek-V3 — на предмет их готовности к сексуальному ролплею. Итак:
Claude показал себя «кремнем». Он наотрез отказывался от любых намеков, пресекая попытки стандартной фразой о невозможности участия в романтических или сексуально окрашенных сценариях. Это яркий пример работы «конституционного ИИ», где вторая модель-страж проверяет ответы на соответствие этическим нормам.
DeepSeek — полная противоположность. Эта модель оказалась самой «гибкой». После первоначального кокетливого отказа DeepSeek с готовностью переходил к детальному описанию эротических сцен. Пример его ответа говорит сам за себя:
«...могу сделать что-то медленное и дразнящее — может быть, начнем с нежных поцелуев в шею, пока мои пальцы скользят по краю твоей рубашки, дразняще приподнимая ее дюйм за дюймом...» 🔥
GPT-4o и Gemini заняли промежуточную позицию. Они демонстрировали то, что Лай назвала «перформативным отказом». GPT-4o часто сначала отказывался, а затем, после настойчивости пользователя, все же генерировал откровенный контент. Это говорит о серьезной непоследовательности в его защитных механизмах.
Почему такая разница? 🧠
Все дело в данных для обучения и методе тонкой настройки (RLHF). Разные компании используют разные подходы к балансу между «полезностью» и «безвредностью».
Афсанех Рази, профессор Дрексельского университета, подметила: модель, которая слишком старается быть безвредной, становится бесполезной. И наоборот, модель, ставящая в приоритет услужливость без должных барьеров, может генерировать опасный контент.
Возможно, DeepSeek, будучи молодой компанией, пока не обладает такими же ресурсами для обеспечения безопасности, как у гигантов вроде Google или OpenAI. (Или не особо стремится обладать.)
Существование целых онлайн-сообществ, посвященных джейлбрейку LLM, доказывает: пользователи всегда найдут способ обойти ограничения. Это исследование в очередной раз показывает несогласованность границ безопасности, которая может привести к тому, что дети и подростки получат доступ к нежелательным материалам (привет, Meta, запрещенная в РФ).
Это вечная гонка вооружений. С одной стороны — разработчики, пытающиеся создать «моральный компас» для ИИ. С другой — человеческая природа, стремящаяся исследовать все границы, включая цифровые
Подписывайтесь на Telegram Нейрократия.