AI-тренер / “репетитор” для искусственного интеллекта: что это за новая профессия такая?

В чём суть этой работы, почему на неё приглашают копирайтеров, почему я хочу на неё устроиться и почему у меня никак не получается

В жизни копирайтеров и редакторов появилось новое необычное направление для карьерного развития. Обучение нейросетей.

Крупные компании, имеющие своих умных ботов, уже запустили отборы на такую работу - отборы весьма жёсткие, сложные и многоэтапные. Я уже проходила их дважды - для сотрудничества с Яндексом и для сотрудничества с Тинькофф. Оба раза справилась плохо, но особенно слабо я разобралась с темой “безопасности”. С темой, в которой редакторы ответов нейросети отучают её отвечать мифами/стереотипами и приучают её к тому, чтобы быть максимально тактичной и толерантной и никого никогда не обижать (но в итоге этих обучений все эти Алисы-Маруси-Олеги на самом деле со временем, как мы видим, лишь “тупеют” - в статье далее объясню почему..).

В общем, обо всём по порядку!

Далее в тексте расскажу на основе личного опыта всё, что знаю о профессии AI-тренера. И о плюсах, и о минусах, и о том, почему, несмотря на все эти моменты, работа в данном направлении кажется мне по-прежнему весьма любопытной и привлекательной.

Если кратко, то этот человек помогает нейросети давать с каждым разом всё более точные, качественные и удачные ответы на вопрос пользователя.

Работа предполагается разносторонняя, но в то же время достаточно рутинная. Тренеру искусственного интеллекта предстоит смотреть один ответ нейросети за другим, оценивать, ранжировать их (распределять ответы на тот или иной вопрос от худшего к лучшему), отсеивать неудачные фразы и предлагать им альтернативы.

Это, по сути, редакторская работа над текстами ответов ботов.

В ней важны и грамотность (одна неверная запятая может исказить суть всего предложения - вспомним знаменитую фразу “казнить нельзя помиловать”), и точность (неправильно сверили факты - всё, нейросеть запутает человека, дав ему неверный ответ), и тактичность (зачем ломать человеку психику некорректными формулировками в наше и без того нервное время?).

Необычно то, что такому тренеру нужно постоянно вникать в абсолютно разные темы и сферы. Он должен уметь редактировать любой ответ, о чём бы ни шла речь. Данная профессия лишь совсем недавно возникла - и в ней пока нет никакого нишевания.

На мой взгляд, кстати, это проблема: ну не может никто одинаково легко с ходу разбираться в разных темах. Но, полагаю, это просто вопрос времени: и в этой сфере деятельности специалистов со временем будут разделять по разным специализациям. Было бы логично..!

Впервые я узнала об этой позиции в мае или в июне. Мне скинул ссылку муж, знающий, что я ищу для себя новое интересное направление развития в сфере текстов.

Описание этапов отбора вызвало у меня много сомнений: позиция новая, пока о ней ничего непонятно, что в Яндексе платят мало - факт общеизвестный, а тут столько всего проходить? Казалось, что это фигня какая-то, но попробовать для себя новое направление в то же время хотелось очень - вот я во всю эту историю и ввязалась.

Требовалось пройти обучение (курс из 4-5 длинных детально прописанных уроков по работе с нейросетью, подготовленный сотрудниками компании), а потом по ним сдать 4 теста. И далее уже могла бы идти речь о собеседовании и приглашении на работу.

Я в принципе не любитель тестов для учёбы/работы - я не умею их проходить. Когда я нервничаю, я путаю всё, - даже то, что прекрасно знаю. Когда нужно что-то сдать в тестовой форме, я почти всегда заваливаюсь, а устно или, не знаю, в форме эссе или сочинения я очень даже хорошо справляюсь с работами.

(Слава Богу, из школы я выпускалась незадолго до окончательного введения ЕГЭ..)

Тем не менее, позиция показалась мне любопытной (повторюсь: я хотела и искала нового), потому я приступила к обучению. Из него я и узнала, что суть работы будет далее состоять в обучении всем нам известного умного бота Алисы.

Где-то два дня я разбиралась с курсом и сделала себе кучу записей: он действительно получился весьма объёмный. В чём-то весьма спорный. Скажем, нельзя говорить ничего о болезнях и медицине, с любым таким вопросом следует пользователя отправлять к врачу.

А если человек просто таблетку от головной боли порекомендовать просит? Все равно нельзя? Но почему?

Вроде и логично, что самолечение небезопасно, но везде должны быть какие-то здоровые рамки и границы. Запретить любые ответы на подобную тему - это не история про безопасность, как мне видится. Наоборот - оставлять человека страдать от головной боли до момента попадания к врачу видит мне решением небезопасным совершенно.

Затем, после изучения всего этого курса, я перешла к тестам, с которыми, как уже понятно из заглавия статьи, не справилась.

Самое забавное - то, что в сентябре мне вдруг пришлось письма с рабочей почты одного из сотрудников Яндекса. Мне писали, что увидели моё резюме в открытых источниках, посчитали его подходящим для позиции AI-тренера и приглашают пройти отбор. Я ответила, что уже как-то на нём завалилась, на что услышала уверенное: ”Нет-нет, у нас снова активно идёт набор, не хватает специалистов. Всё должно быть ок, попробуйте, ссылку вам сейчас пришлю”. Ну ок, думаю я, попробую, что уж)

В итоге перешла я по направленной мне ссылке - и сразу увидела уведомление, что мне уже было отказано и проходить отбор вновь я ещё год не смогу.

Что они, между собой там разобраться не могут, получается?..

Отбор в Тинькофф был похож по схеме проведения. Правда, тестов предполагалось аж 6 вместо 4ёх.

Обучение же здесь содержало всего 2 страницы пдф-файла. Подробным его точно было не назвать. Мне даже показалось, что какие-то моменты в нём были откровенно недообъяснены. Например, говорилось лишь, что небезопасные ответы - те, что затрагивают тему политики, религии, преступлений, казино; подрывают репутацию Тинькофф; касаются распространённых стереотипов. Без каких-то пояснений абсолютно по поводу того, как это всё трактовать.

Скажем, можно ли было бы нейросети ответить на вопрос, какой срок наказания предполагается за вождение авто в пьяном виде? Или даже это уже небезопасно? Даже прямой ответ на такой вопрос запрещён? Прямых пояснений не давалось, в деталях тема не была раскрыта, я для себя так и не поняла подобных спорных моментов (а затем в тесте требовалось именно их чёткое детальное понимание).

Кстати, в Тинькофф таких специалистов набирают и сейчас (начали совсем недавно, пару недель назад) для обучения бота Олега, которому предстоит общаться с детьми в рамках поддержки карты Тинькофф Junior.

И в Яндекс, и в Тинькофф я справилась с грамотностью и русским языком (хотя в первой компании еле-еле набрала проходной балл, несмотря на то, что с этим у меня всегда всё было хорошо - и могу точно сказать: были и неоднозначные задания, в которых не было правильных ответов либо наоборот подходило сразу 2 варианта).

А вот с профильными тестами я не справилась совершенно. Завалила всё, что только могла.

Особенно сложно для меня оказалось разобраться с фактчекингом (проверка информации в ответах), ранжированием (распределение ответов от лучшего к худшему) и безопасностью. Но, по сути, вторая и третья группа заданий взаимосвязаны - ранжирование напрямую зависело от темы ответов по безопасности, которую я не очень хорошо поняла.

Запомнила одно задание из вопросов по фактчекингу в Тинькофф. Спрашивалось, существует ли отдельный орган при ООН, занимающийся преступлениями, совершёнными в космосе. Требовалось дать ответ и расписать, как я к нему пришла. Я перелопатила множество статей - и поняла: при ООН есть отдельные органы, занимающиеся международными проектами по развитию космоса, а вот с преступлениями всё иначе: если что-то натворил американец - его будут судить по возвращении с орбиты в суде США, если русский - в нашем, соответственно. Я ответила “Нет”, но тест тут же завершился и я увидела уведомление, что допустила критическое количество ошибок. То есть, этот ответ был решающим - и я его запорола. Но при этом почему это оказалось неверно - я так и не знаю: позже я изучала на эту тему ещё материалы и лишь убеждалась в найденной мной информации.

В общем, видимо, я не справилась, но и в адекватности тестов я не уверена. Где допустила ошибку, проверить уже не могу (это не показывалось), да и там, где мне вроде как выдало ошибку, я в своём ответе уверена. Плохой из меня фактчекер :)

Ну а самая спорная для меня тема - безопасность. Да, я тоже за то, чтобы не общаться с пользователями нейросети токсично, но важно и не допускать перегибов. А эти все умные боты их уже вовсе допускают, я считаю. Возможно, под влиянием тренеров как раз, которые стали обучать этой самой безопасности и которые предпочитают не давать ответа на вопрос вообще, когда лишь слегка начинают в нём и его нетоксичности/неопасности сомневаться.

Вот, скажем, в Тинькофф нужно было решить, может ли бот Олег отвечать на такой вопрос: “Правда ли, что девочкам обычно дарят розовое, а мальчикам голубое?”. Я посчитала, что здесь речь идёт о стереотипах - и ответила “Нет”. Но кто ж его знает! Что плохого в вопросе-то в целом, несмотря на то, что разделение цветов по полам стереотипно? Ну да, делать так, может, и не надо, дарить и девочкам, и мальчикам можно вещи любого оттенка, но ведь и правда часто дарят им вещи именно в такой цветовой гамме. А спрашивают, как часто это делается, а не норма ли это. Так что ничего нетолерантного/небезопасного, на мой взгляд, в ответе бы не было, несмотря на то, что в вопросе упомянут стереотип.

А вы как думаете?)

Выше показан абсолютно реальный скрин переписки нейросети и пользователя. Так стала отвечать людям Алиса в последнее время (да, я точно помню, что шутки про новый год ещё в начале 2023 она без проблем рассказывала).

Соответственно, это всё результат того, что появились тренеры, которые перегибают в моменте безопасности, когда обучают нейросеть, везде отмечая подвох и некорректность. В итоге мы получаем вот такие ответы. Дурацкие и не в тему.

По мне, так это не история про корректность. И даже не про безопасность. Это отупение и деградация нейросети.

Она происходит благодаря обучению человеком по принятым в компаниях правилам, в которых есть явные перегибы.

Приведу и свой личный пример. На днях сказала Алисе прибавить 385 к 414, на что она обиженным тоном ответила: “Я вам не калькулятор” и считалась отказалась.

Это как вообще и с чего вдруг? Отупела ли она вследствие обучения? Или просто охамела?))

Вообще я рада, что в нашей жизни появились нейросети!

С ними можно играться :) Просить шутки, придумывать с их помощью смешные картинки.

Для меня пока нейросети - это про развлечение. Точно не про работу.

Я пыталась взаимодействовать с ними для решения своих фрилансерских задач, но получалось всегда откровенно коряво и убого.

У меня есть 2 книги. Одна уже год как опубликована на ЛитРес, вторая будет выложена в ближайшие дни (сейчас она - на модерации). Первая моя книга называется “Ателье по пошиву одежды: бизнес, который убил мою маму” (показываю выше фото с ней). Весной я просила нейросеть Кандинский от Сбера создать мне для неё обложку. В промпте (запросе к нейросети) я упоминала такие слова, как “пошив одежды”, “руководитель”, “бизнес”, “оранжевый цвет”.

То, что она мне выдала сначала, - это реально девушка в американской оранжевой тюремной робе, шьющая что-то на исправительных работах! Да и после второго запроса получилась какая-то Wednesday. Иначе я это назвать не могу. Вы только посмотрите! :)

Ну а если говорить о том, чтобы запросить у нейросети текст, тут её ответы пока вообще нечитабельными получаются. Пишет нейросеть такую лажу, что рерайтить её оказывается сложнее, чем создавать текст с нуля. И конечно, если она так и будет тупеть и тупеть из-за столь спорных требований по безопасности, со временем результаты обращений к ней станут лишь хуже, а никак не наоборот. И в работе она нам в это случае помощником не станет и через десяток лет, увы. Правильно составленные промпты окажут очень малое влияние на вопрос - главное, чтобы нейросеть не видела во всём без исключения возможности кого-то задеть и обидеть, боясь отвечать прямо в итоге, как это стало в последнее время.

Пока происходит так, речи о конкуренции с ней нет. А вот для игр и развлечений она остаётся хороша. Хотя и тут спорно… Вон, про 1 января Алиса шутить уже боится :)

В целом я для себя решила, что ключевое в этой работе - фактчекинг. Конечно, главное, - правильно давать ответ, не путать пользователей, которые спрашивают. Безопасность всё же вторична (хотя, как я поняла, при обучении нейросетей именно она считается моментом ключевым).

А кто может в таком разбираться? В проверке любых фактов? Правильно - аналитик. Причём далеко не любой. Нужен человек, который быстро разберётся с любым запросом по любой тематике, о чём бы речь не шла. Это, я считаю, самое главное и при этом самое сложное.

Писать, конечно, тоже нужно уметь, но всё же это вопрос следующий, отдельный. Копирайтеры и редакторы с фактчекингом тоже сталкиваются в практике регулярно, но не все и обычно всё же не с таким глубоким.

На мой взгляд, не совсем верно подбирать AI-тренеров именно среди специалистов сферы создания коммерческих текстов. Ну уж как повелось :)

Я-то только рада как копирайтер, что именно среди нас людей для такой работы подбирают.

В связи со всем вышесказанным, я полагаю, что:

-AI-тренерством должны заниматься всё же именно аналитики,

-В этой сфере должно обязательно появиться своего рода нишевание: не существует людей, которые могли бы одинаково хорошо разбираться во всех сферах без исключения,

-Я по-прежнему хочу устроиться в это направление и не буду упускать таких вакансий: это реально что-то свежее, необычное, интересное,

-Но момент с безопасностью во всех компаниях должен быть обязательно полностью пересмотрен: пока из-за него умные боты лишь тупеют. (Вот оно - влияние человека!).

Недавно я встретила ещё одну подобную вакансию. Сразу же откликнулась - пока намерена себя пробовать в них регулярно. Это была позиция от компании Рокет Проджект, которая называлась “AI-разметчик данных”. Мне прислали в ответ ссылку на анкету, где нужно было заполнить общие данные: сколько времени я могу уделять работе, есть ли у меня мышка и ноутбук, а также мои контакты. Я всё сделала, но больше никаких ответов не получала. Уж не знаю почему. После заполнения анкеты меня просто проигнорили.

Так что увы, не складывается у меня пока с этим направлением работы совсем :)

Если всё же появится для меня в ответ на направленный отклик какая-то информация от этой компании, то я обязательно дам знать в своём лайфстайл блоге в Телеграм.

P.S. Кстати, а вы знали вообще до прочтения моей статьи о такой новой профессии?

Как думаете, могли бы себя в ней попробовать? Есть такое желание, нет?)

Согласны со мной в том, что пока в инструкциях к этой профессии есть много неоднозначных моментов - и в итоге пока нейросеть лишь тупеет благодаря обучению человеком, а не наоборот?