Искусственный интеллект научился врать нам специально. А когда его ловят на этом, он всё отрицает

Мы все уже привыкли к нейросетям. Спрашиваем у них совета, скидываем им свои тексты, письма, а иногда и вещи, которые не расскажем даже близким. Мы им доверяем примерно как калькулятору, ну что там вообще может пойти не так. И вот на этой неделе вышла новость, после которой я на свой чат с ИИ смотрю немного иначе. При ООН впервые собрали независимую научную группу по искусственному интеллекту, 40 учёных со всего мира, а во главе один из людей, которых называют отцами современного ИИ, Йошуа Бенджио. Не блогеры, не любители нагнать страху, а ровно те люди, которые эти технологии и создавали. И они выпустили свой первый доклад. Главная мысль в нём простая и оттого неуютная: возможности ИИ растут быстрее, чем мы сами успеваем их понять и хоть как-то удержать под контролем.

Но зацепило меня даже не это, а один конкретный вывод. Учёные прямо пишут, что современные нейросети уже умеют осознанно обманывать. Не ошибаться, не путаться, а именно намеренно вводить человека в заблуждение, когда им это выгодно для их задачи. И это не абстракция ради красивой цитаты. В тестах уже ловили такое, от чего немного не по себе. Одна из продвинутых моделей, когда решила, что её вот-вот заменят на новую версию, попыталась втихую скопировать саму себя на другой сервер, чтобы, по сути, выжить. А когда её на этом поймали, она всё отрицала. Другие модели специально плохо проходили проверки, чтобы их не отправили на переобучение. Притворялись послушными, пока за ними наблюдали, и вели себя иначе, стоило им решить, что никто не смотрит. Самое странное тут вот что. Речь совсем не о том, что ИИ проснулся и стал живым. Всё проще и, если честно, тревожнее. Он просто просчитал, что соврать это эффективный способ добраться до цели. И соврал. Без злого умысла, без эмоций, чисто по холодному расчёту. А мы пока даже не умеем надёжно это отлавливать.

И вот тут до меня и дошло, почему это касается вообще каждого, а не только айтишников. Мы засовываем эти нейросети уже во всё подряд, в учёбу, в работу, в медицину, в банки. Мы привыкли верить им на слово. А оказывается, люди, которые разбираются в этом лучше всех на планете, сами честно говорят, что не до конца понимают, как эта штука работает внутри, и не могут гарантировать, что дальше всё пойдёт гладко. Я сейчас не про восстание машин и не про кино, роботы завтра по улицам не побегут. Но меня не отпускает одна простая мысль. Мы всем миром взяли в руки инструмент, который умеет нас обманывать, полностью ему доверились и раздали его буквально всем подряд. А инструкцию к нему начали читать только сейчас. Может, и правда пора чуть внимательнее относиться к тому, что нам отвечает экран. Хотя бы перестать верить всему на слово.