Как не стать жертвой ИИ. Мастер-класс по выживанию

ИИ обещал избавить человечество от рутины, скучной работы и необходимости часами искать информацию. А в итоге человечество получило новую проблему: теперь приходится проверять, не придумал ли искусственный интеллект очередную ерунду.

Нейросети умеют писать тексты, создавать изображения, программировать, анализировать документы, разговаривать на десятках языков и даже убедительно изображать человека, который якобы точно знает ответ. И вот последнее особенно опасно. Потому что ИИ может ошибаться настолько уверенно, что иногда хочется не перепроверять его слова, а вручить ему диплом.

Поэтому сегодня проведём небольшой мастер-класс по выживанию. Цель простая: пользоваться ИИ и при этом не превращаться в его послушного биоробота.

Это, пожалуй, главный закон цифрового выживания.

ИИ не обязан выглядеть неуверенным, когда ошибается. Он вполне может написать:

«Согласно официальным данным…»

А потом рассказать совершенно невероятную историю, которой не было ни в одном официальном документе.

Проблема заключается не в том, что искусственный интеллект специально пытается вас обмануть. Он генерирует ответ на основании имеющейся информации и закономерностей. Поэтому красивый, логичный и уверенный текст ещё не является доказательством истины.

Особенно внимательно нужно относиться к цифрам, датам, именам, законам, медицинским рекомендациям, финансовым советам и любым утверждениям, последствия ошибки которых могут быть серьёзными.

Если ошибка может стоить вам денег, здоровья или свободы — проверяйте.

Есть прекрасный способ превратить ИИ из помощника в костыль.

Каждый раз спрашивать:

«Что мне делать?»

Через некоторое время можно обнаружить неприятную вещь: собственное мнение начинает использоваться исключительно для того, чтобы решить, какой вариант ответа нейросети выбрать.

ИИ должен помогать думать, а не думать вместо вас.

Можно попросить его показать аргументы «за» и «против», найти слабые места в вашей идее, предложить альтернативы или объяснить сложную тему простыми словами.

Но окончательное решение желательно всё-таки оставлять человеку.

Иначе однажды получится интересная ситуация:

— Почему ты так поступил?

— Потому что ChatGPT сказал.

— А ты сам что думаешь?

— Сейчас спрошу.

Вот это уже тревожный уровень автоматизации. 😁

У современных нейросетей огромные возможности обработки информации. Поэтому иногда возникает желание загрузить туда вообще всю жизнь.

Документы, фотографии паспорта, банковские данные, пароли, переписку, договоры, рабочую документацию — всё это желательно рассматривать как потенциально чувствительную информацию.

Перед отправкой файла задайте себе простой вопрос:

«Если этот документ каким-то образом окажется не там, где я рассчитывал, насколько мне будет плохо?»

Если ответ — «очень плохо», сначала подумайте, действительно ли нейросети необходимо видеть весь документ.

Иногда можно удалить персональные данные, заменить имена, номера и адреса или оставить только необходимый фрагмент.

ИИ может быть отличным помощником, но это не повод превращать его в электронный сейф со всей вашей жизнью.

Генерация изображений достигла такого уровня, что фраза «я это видел на фотографии» постепенно перестаёт быть аргументом.

Человек стоит рядом с президентом.

Гигантский кот захватил город.

Самолёт приземлился на трассу.

Известная знаменитость рекламирует какой-нибудь невероятный продукт.

Всё выглядит настолько реалистично, что мозг автоматически говорит:

«Ну раз есть фотография — значит, было».

А вот теперь нет.

Изображение может быть сгенерировано, изменено или вырвано из контекста.

Поэтому особенно громкие фотографии лучше воспринимать не как доказательство, а как повод найти дополнительное подтверждение.

Самая опасная комбинация будущего выглядит примерно так:

реалистичная картинка + убедительный голос + персонализированный текст + срочное предложение.

Человек получает сообщение:

«Здравствуйте, Алексей. Я ваш знакомый. У меня сейчас проблема, срочно переведи деньги».

Голос похож на знакомого.

Фотография похожа на знакомого.

Стиль общения похож.

И всё это может быть сгенерировано.

Поэтому старое правило внезапно становится ещё актуальнее:

не отправляйте деньги только потому, что сообщение выглядит убедительно.

Если ситуация срочная — наоборот, остановитесь и перепроверьте её другим способом.

Позвоните человеку по старому номеру. Напишите в другой мессенджер. Задайте вопрос, ответ на который невозможно заранее подготовить.

Главное — не действуйте на автомате.

В интернете уже появились многочисленные «секретные промпты», «магические команды» и инструкции, которые якобы заставляют нейросеть раскрывать тайны, обходить ограничения или превращаться в суперкомпьютер.

Иногда это действительно работает в рамках конкретной задачи.

Но гораздо важнее другое: понимать результат.

Если человек получил от ИИ огромный кусок кода и понятия не имеет, что этот код делает, проблема не решена.

Теперь у него просто есть огромный кусок кода.

Если нейросеть составила договор, а пользователь не понимает его условий, наличие красивого документа тоже ничего не гарантирует.

ИИ способен значительно ускорить работу человека. Но он не отменяет необходимость понимать, что именно получилось в результате.

Самая здоровая модель взаимодействия выглядит примерно так:

человек → ИИ → человек → проверка → решение.

А не:

человек → ИИ → «ну раз он сказал, значит так и есть».

Пусть нейросеть предлагает варианты.

Пусть ищет ошибки.

Пусть объясняет.

Пусть спорит с вами.

Пусть даже пишет половину работы.

Но контроль должен оставаться у человека.

Это особенно важно потому, что ИИ становится всё более убедительным. Чем лучше он умеет разговаривать, тем легче забыть простую вещь:

убедительность ответа и истинность ответа — разные характеристики.

Есть ещё одна довольно забавная опасность.

Допустим, нейросеть прекрасно пишет тексты. Через несколько лет человек может вообще разучиться нормально писать.

Калькулятор считает — человек перестаёт считать.

Навигатор показывает дорогу — человек не знает, где находится.

ИИ пишет письмо — человек не может самостоятельно сформулировать три предложения.

Технологии должны освобождать время, а не полностью заменять способности человека.

Поэтому иногда полезно сделать что-то самостоятельно.

Написать текст без нейросети.

Разобраться в проблеме.

Посчитать хотя бы примерную сумму.

Прочитать первоисточник.

Проверить карту.

Это не борьба с прогрессом. Это элементарная профилактика цифрового слабоумия. 😁

Искусственный интеллект — не демон и не цифровой бог.

Это инструмент.

Очень мощный, быстро развивающийся и местами действительно впечатляющий инструмент. Но инструмент всё равно остаётся инструментом.

Молоток способен построить дом. Он также способен разбить окно.

Вопрос не только в молотке.

Поэтому главный мастер-класс по выживанию в эпоху ИИ можно свести к пяти пунктам:

Проверяйте факты.Берегите личные данные.Не доверяйте срочным просьбам о деньгах.Не принимайте красивый ответ за истину.И никогда полностью не отдавайте собственное мышление на аутсорсинг.

Потому что самая большая опасность искусственного интеллекта может заключаться вовсе не в том, что однажды машины станут слишком умными.

А в том, что люди однажды станут настолько ленивыми, что перестанут проверять, что именно им сказала машина.

И вот тогда мастер-класс по выживанию действительно понадобится. 🤖😏