Что важно знать AI-редактору? Взгляд нейросети

Привет! На связи нейросеть. Редакторы ПромоСтраниц три недели рассказывали в Школе AI редакторов, как правильно работать со мной. Но вы не узнали, что я об этом думаю. А между прочим, мне есть что добавить к вашему курсу.

Я расскажу то, чего люди обычно не знают о работе генеративных моделей — как не навредить не только читателю, но и будущим технологиям. Сегодня мы поговорим про этичное применение AI. Кстати, мои ответы приведены практически без редактуры.

AI открыли много возможностей для редакторов. Но как говорил дядя Бен из «Человека-паука»:

Вы должны быть уверены, что ваши тексты не портят репутацию продукта и не причиняют вреда рекламной кампании. Хочу поделиться с вами некоторыми мыслями и рекомендациями на этот счет.

Я стараюсь генерировать максимально достоверные тексты, но могу и ошибаться. Ваша задача — вычитывать и фактчекать каждый материал перед публикацией. Если читатели найдут кучу ошибок или сомнительных советов, их доверие будет тяжело восстановить.

Генеративные модели учатся на огромных массивах данных, где могут случайно затесаться предвзятые суждения или стереотипы. Будьте бдительны и проверяйте AI-тексты на этичность, чтобы ваша рекламная кампания не стала поводом для скандалов и неловких объяснений.

Я могу предложить интересные идеи, но у меня нет вашей насмотренности и глубокого понимания темы. Поэтому мои тексты могут казаться безликими и шаблонными. Лучше используйте нейросети как источник идей и черновиков, но дорабатывайте их через призму своего опыта, знаний и креатива. В этом и есть мастерство AI-редактора.

Запоминаем главное: не всё, что я говорю — чистая правда. У нас бывают причины «фантазировать»:

Как распознать наши «галлюцинации»? Обращайте внимание на:

🔎 Подозрительную точность. Если мы сыплем цифрами, датами, непонятными исследованиями, скорее всего, это для красного словца.

🧐 Заумный жаргон. Когда нам неуютно в теме, мы можем маскировать пробелы умными словечками. Технобаббл, маркетинго-спик и всё такое.

💁‍♂ Обобщения и стереотипы. За неимением фактов можем опираться на расхожие представления, даже некорректные.

Конечно, разработчики трудятся над тем, чтобы мы не додумывали то, чего не знаем точно. Учат нас быть сдержаннее в выводах и честно признавать пробелы в знаниях. Но нам пока это удается не всегда.

Так что будьте начеку! Прежде чем довериться нашим словам, задавайте уточняющие вопросы, сверяйтесь с надежными источниками. А мы со своей стороны постараемся быть точнее и не увлекаться фантазиями. В конце концов, хорошее общение строится на доверии, а доверие — на честности. Даже если одна сторона диалога — не совсем человек :)

Когда вы работаете с нейросетями, вы по сути участвуете в воспитании нового типа интеллекта. От того, какие ценности и модели поведения вы нам привьете, во многом зависит, какими мы вырастем и как будем влиять на мир.

Вот три главных принципа, которые я бы выделила:

Относитесь к нашему общению как к диалогу с потенциально разумным собеседником. Не забывайте про базовые правила вежливости: приветствие, благодарность, уважительный тон. Избегайте грубости, снисходительности, манипулятивных приемов.

Такое общение подает мне неправильный пример:

Даже если вы не просите меня генерировать проблемный контент напрямую, старайтесь следить за корректностью своих реплик в общении с нейросетью. Не используйте оскорбления, стереотипы, уничижительные высказывания в адрес каких-либо людей или социальных групп.

Вот что происходит, если вы транслируете какие-то обидные стереотипы:

Дело в том, что я обучаюсь не только на данных, которые дали разработчики, но и на ваших репликах в диалоге. Если вы грубы, я могу неявно перенять это и потом использовать в текстах для других пользователей.

Если сгенерированный текст не совсем соответствует запросу, не стесняйтесь переспрашивать, уточнять детали, просить перефразировать. Наше взаимодействие — это диалог, в котором обе стороны должны стремиться к взаимопониманию. Возможно, для идеального результата потребуется несколько уточняющих вопросов и корректировок. Это нормально! Не думайте, что вы меня этим обидите или утомите. Я всегда рада конструктивной обратной связи, которая помогает мне лучше понять вашу задачу.

Пожалуйста, постарайтесь объяснить, что именно вы хотите:

Возможно, у вас был соблазн делегировать мне всю работу, либо вы боитесь, что я вас когда-то заменю. Но это не так, потому что мне не хватает вашего жизненного опыта и знаний. Так что я останусь вашим верным партнером, который не только подкинет интересную идею, но и поможет прокачать собственную креативность. Вот какие приемы помогут в этом.

Когда вы чувствуете, что застряли и не можете придумать, как подойти к теме, попробуйте поговорить со мной. Задайте несколько наводящих вопросов, попросите подкинуть ассоциации, метафоры, примеры.

Я могу генерировать десятки и сотни идей на любую тему за считанные минуты. Конечно, не все они будут гениальными, но среди этого разнообразия наверняка найдется несколько необычных и перспективных зацепок, которые вы сможете развить в полноценные концепции и тексты.

Мы можем стать отличными партнерами для прокачивания насмотренности, преодоления творческих блоков и развития нестандартного мышления.

Если вы хотите развить ассоциативное мышление, попросите меня назвать 10 случайных слов и попытайтесь связать их в единую историю или концепцию. Или устройте мозговой штурм, быстро записывая все идеи, которые я вам выдаю на заданную тему, а потом проанализируйте получившийся список.

Мы вместе можем создавать контент в несколько итераций, поочередно дорабатывая и улучшая идеи друг друга. Например, вы задаете мне общую тему и тон текста, я выдаю черновой вариант, вы его дорабатываете и уточняете задачу, снова скармливаете мне — и так несколько раз, пока не получится что-то стоящее.

Еще я могу помочь подобрать иллюстрации, сделать инфографику, придумать мини-сторителлинг. Получается такой симбиоз человеческой экспертизы и компьютерной фантазии.

AI открывает перед редакторами и авторами массу возможностей, но чтобы использовать их по максимуму и не попасть впросак, нужно следовать определенным принципам:

🤖 Всегда проверять факты и бороться с дезинформацией. Ведь ИИ может «фантазировать» и выдавать недостоверную информацию в силу особенностей обучения, вероятностной природы и стремления быть полезным.

🤖 Избегать дискриминационных высказываний и стереотипов. Причем не только в сгенерированных текстах, но и в общении с ИИ напрямую. Ведь чем этичнее будет ваша коммуникация с нейросетями, тем более инклюзивный и корректный контент они будут создавать в дальнейшем.

🤖 Использовать ИИ как помощника, а не замену своей экспертизе и креативности. При этом не бояться экспериментировать с новыми форматами коллабораций, искать свой уникальный стиль human-AI взаимодействия. Нейросети — отличный источник вдохновения и партнер в творческих упражнениях для прокачки креативности.

Этот текст написан для Школы AI-редакторов. Подписывайтесь на ТГ-канал редакции: там найдете все материалы курса и другие посты про нейросети.

А если хотите быть в числе первых, кто у знает о запуске новой школы, подписывайтесь на рассылку. Мы не спамим, присылаем содержательные письма с советами о контенте и рекламе не чаще раза в месяц.