OpenAI не будет ставить водяные знаки на текст ChatGPT

Некоторые пользователи ChatGPT заявили, что стали бы меньше пользоваться ChatGPT, если бы в нем были водяные знаки.

У OpenAI уже около года есть система водяных знаков на текст, созданный ChatGPT, и инструмент для обнаружения водяных знаков, сообщает The Wall Street Journal. Но в компании существуют разногласия по поводу того, стоит ли ее выпускать. С одной стороны, это кажется ответственным поступком, с другой - это может повредить ее прибыли.

Водяной знак OpenAI описывается как корректировка того, как модель предсказывает наиболее вероятные слова и фразы, которые будут следовать за предыдущими, создавая обнаруживаемую закономерность. (Это упрощение, но вы можете ознакомиться с более подробным объяснением Google по поводу водяного знака текста Gemini).

Предложение любого способа обнаружить написанный ИИ материал - потенциальная находка для преподавателей, которые пытаются удержать учеников от передачи письменных заданий ИИ. The Journal сообщает, что компания обнаружила, что водяные знаки не влияют на качество текста, выдаваемого ее чат ботом. В ходе опроса, проведенного по заказу компании, «люди по всему миру поддержали идею создания инструмента для обнаружения ИИ с перевесом четыре к одному», пишет Journal.

После того как Journal опубликовал свою статью, OpenAI подтвердила, что работает над созданием водяных знаков на текстах, в обновленном блоге, который сегодня был замечен TechCrunch. В нем компания утверждает, что ее метод очень точен («99,9 % эффективности», согласно документам, которые видел Journal) и устойчив к «фальсификации, например, перефразированию». Но, по словам компании, такие приемы, как переформулирование с помощью другой модели, делают его «легко обходимым для недобросовестных участников». Компания также говорит, что обеспокоена тем, что инструменты искусственного интеллекта могут быть заклеймены позором для тех, кто не является носителем языка.

Но, похоже, OpenAI также опасается, что использование водяных знаков может оттолкнуть опрошенных пользователей ChatGPT, почти 30 % из которых, очевидно, заявили компании, что будут меньше пользоваться программой, если водяные знаки будут внедрены.

Несмотря на это, некоторые сотрудники все еще считают, что водяные знаки эффективны. Однако в свете недовольства пользователей, как пишет Journal, некоторые из них предложили попробовать методы, которые «потенциально менее противоречивы среди пользователей, но не доказаны». В своем сегодняшнем обновленном блоге компания сообщила, что «находится на ранних стадиях» изучения возможности встраивания метаданных. По словам компании, еще «слишком рано» судить о том, насколько хорошо это будет работать, но поскольку это криптографически подписано, то ложных срабатываний не будет.

ps. Комментируйте и лайкайте, пожалуйста! Это помогает продвижению статьи.

Ну и как положено, канал тг))) Канал и чатик

Там в закрепленном боты KolerskyAi для генерации видео в Stable Video, а так же для доступа в Chat GPT+4 и Dalle-3, Midjourney без VPN и другие нейросети.