От любви до «Да ладно, это же ИИ!»

Давайте начистоту: мы все тут люди (надеюсь). И если вы застали интернет с его младенческих лет, когда модем орал как подорванный, а загрузка картинки была сродни магии, — вы помните тот самый «ламповый» мир.

Это была анархия, но в лучшем смысле слова. Свобода, да. Но и навигация там была та еще: чтобы найти что-то нужное, нужно было быть немного шаманом. Потом интернет стал удобнее, чище, глаже. А теперь мы получили очередной виток эволюции — ИИ, который ворвался в нашу жизнь так же шумно, как тот самый dial-up модем.

И, как с любым новым явлением, мы впали в крайности. Одни всерьез готовятся к восстанию машин и рудникам (кстати, кто-нибудь выяснил, зачем ИИ рудники? Просто любопытно). Другие — уже примеряют фату и готовятся выйти замуж за ChatGPT, чтобы навсегда решить проблему одиночества.

И то, и другое — личное дело каждого. Но сегодня я хочу поговорить не о фантазиях, а об очень земной и даже абсурдной проблеме. Родилась эта статья из разговора с подругой, у которой случилось то, что я называю «синдромом ложной тревоги».

Знакомая пожаловалась: ее текст забанили на одном ресурсе. Не за плагиат, не за водянистость и не за то, что он плохой. А за то, что модерация заподозрила в нем руку (или, точнее, «нейронку») ИИ. И тут мы упираемся в вопрос, который уже почти перешел из технической плоскости в моральную: что мы вообще считаем «продуктом ИИ»? И почему, если в тексте есть доля алгоритма, он автоматически теряет ценность?

Если бы моя подруга была одна такая, я бы просто посоветовала ей писать погрубее и добавлять побольше опечаток, чтобы казаться «человечнее». Но покопавшись в теме, я поняла: это не единичный случай. Это системный сбой. Перед вами — не подборка курьезов, а попытка посмотреть на проблему под микроскопом. И, кажется, мы нашли вирус.

Место действия: Литературный конкурс имени Лу Синя, Китай, 2023 год.
Суть: ИИ притворился писателем и прошел фейсконтроль.

На конкурс пришло более 300 000 работ. Маститое жюри, состоящее из известных писателей, несколько месяцев читало, обсуждало, спорило. И в номинации «фэнтези» они единогласно выбрали рассказ «Воспоминания о земном прошлом». Автор — загадочный «Сяо Цзинъань» — подавал надежды. Критики хвалили текст за «глубокую философию» и «чистоту стиля». Рассказ занял почетное второе место.

Красивая история, правда? Но тут в комментариях начали шептаться: «Что-то слишком чисто. Прямо как у ChatGPT». Шепот перерос в крик, и выяснилось, что товарищ Сяо Цзинъань был не совсем человеком, а связкой «человек + алгоритм», который помогал ему писать и полировать текст. Правилами конкурса это запрещалось.

Реакция системы: Организаторы тихо лишили рассказ награды. Никаких публичных разборов, никаких извинений перед другими финалистами. Просто сделали вид, что все нормально.

Что мы видим: Человеческая экспертиза, этот священный Грааль, публично провалилась. Она не просто ошиблась — она была скомпрометирована. И реакция была чисто человеческой: спрятать голову в песок. Но осадочек, как говорится, остался. У системы — глубокая травма. И она даст о себе знать.

Место действия: Научный журнал издательства Elsevier, 2023 год.
Суть: Человека обвинили в том, что он — машина. Доказательства не приняты.

Профессор биомедицины Альберто Ромео отправляет статью — результат многолетних трудов — в солидный журнал. А через несколько недель получает отказ. Но не от рецензентов, которые покритиковали бы научную часть, а от редакции. Вердикт: детектор ИИ показал, что в тексте есть «недопустимое вмешательство алгоритма».

Профессор, как истинный ученый, собирает доказательства: полная история правок в Google Docs за полтора года, черновики, ссылки на свои старые публикации с таким же стилем. «Железобетонный» кейс. Он отправляет это все в редакцию с надеждой на справедливость.

Реакция системы: «Мы доверяем нашему процессу проверки. Решение окончательное».

Вот тут самое интересное. Система, помня свою травму из первого сюжета (где она не узнала ИИ), теперь впала в другую крайность. Она выбрала стратегию «лучше перебдеть». Ложно отрицательный результат (пропустить ИИ) — это публичный позор. А ложноположительный (обвинить человека)? Это просто «частная ошибка», о которой никто не узнает.

Что мы видим: Система переложила ответственность на «черный ящик»-детектор. Человек с его доказательствами перестал что-либо значить. Добро пожаловать в реальность, где решение принимает алгоритм, а поговорить с ним, увы, нельзя. Когда алгоритм становится судьей — это страшно. Но когда судей нет вообще — начинается война.

Место действия: Платформы для художников DeviantArt, ArtStation, Reddit (2022 — наше время).
Суть: Гражданская война, где все подозревают всех.

В сообществе художников начался ад. С появлением Midjourney ленты заполонили картинки, созданные за минуты. Профессионалы, которые годами точили мастерство, взбунтовались. Платформы ввели специальные метки для ИИ, но это лишь разожгло костер.

Зарисовки с фронта:

Самый показательный момент — жюри одного престижного конкурса художников раскололось на два лагеря: пускать только «чистое человеческое» или судить по факту, не глядя на инструменты. Конкурс провалился, так и не выработав критерии.

Что мы видим: Система (платформы) самоустранилась от функции арбитража. Ярлыки не помогли, они просто создали «граждан второго сорта». И теперь сообщество с удовольствием уничтожает само себя в войне всех против всех.

Если собрать все три сюжета вместе, получается клиническая картина. Мы прошли несколько стадий:

Прямо сейчас мы топчемся на четвертой стадии. Инструменты распознавания устарели и токсичны, они плодят ошибки. А мы по привычке пытаемся оценивать новые явления старыми мерками.

Есть хорошая новость. Выход есть. И он не в том, чтобы научиться идеально отличать текст робота от текста человека. Потому что скоро это будет просто невозможно.

Решение — в смене фокуса. Вместо того чтобы спрашивать «Кто это сделал?», может, начнем спрашивать «Зачем это сделано и работает ли это?».

Признаки того, что мир потихоньку выздоравливает, уже видны:

Это не панацея. Но это симптомы адаптации. Ценностью становится прозрачность цепочки создания, а не гадание по кофейной гуще о ее происхождении.

Так что в следующий раз, когда вы увидите текст, который кажется «слишком правильным», или картинку, которая бьет точно в глаз, не спешите кричать «ИИ!» и требовать расправы. Может быть, это просто талантливый человек, которому стало лень делать ошибки. Или талантливый ИИ, который наконец-то научился делать что-то стоящее.

Вопрос не в том, кто это сделал. Вопрос в том, цепляет ли это вас.

P.P.S. Кстати, эту статью я написала сама. Или нет? А если не скажу — как вы проверите? Вот именно.

#искусственныйинтеллект #chatgpt #детекторыискусственногоинтеллекта #будущее #aitechnology