Лаборатории ИИ признают: «Это может всех убить» – и продолжают работу

В Кремниевой долине ходит шутка. Когда человек уходит с обычной работы в технологическом секторе, он говорит: «Отлично провёл время, пора к новым вызовам». Когда кто-то уходит из сферы ИИ, он говорит: «Я заглянул в бездну. Ухожу на покой писать стихи. Проводите время с семьями».

Эрик Шмидт рассказал об этом на недавней панельной дискуссии и тут же уточнил: посмотрите на отставку главы отдела безопасности Anthropic несколько недель назад. Шутка перестала быть шуткой.

Шмидт произнёс фразу, которую стоит перечитать дважды. Лаборатории говорят, что есть существенный шанс — их технология убьёт всех. Но они обязаны продолжать, чтобы не отстать от конкурентов. Трое крупнейших игроков делают одну и ту же ставку. Может быть, один из них прав. Скорее всего, двое ошибаются.

Это не цитата анонимного источника из утечки. Это публичная позиция бывшего руководителя Google, который десятилетиями находился в центре технологической индустрии. Человек, который знает этих людей лично, видел, как устроены их лаборатории изнутри, и всё равно не может объяснить, что происходит внутри моделей.

Тут нет пафоса и алармизма. Есть простая арифметика: три компании гонятся к цели, природу которой не понимают до конца. Каждая верит, что именно она сделает это безопасно. Вероятность того, что все три правы, стремится к нулю.

Шмидт подчеркнул разрыв, который редко обсуждают. В Кремниевой долине люди напуганы. Джеффри Хинтон, нобелевский лауреат и один из отцов нейронных сетей, открыто говорит об опасности. Сотрудники лабораторий увольняются. Руководители признают наличие красных линий.

А в Вашингтоне? Там обсуждают беспилотные автомобили, автономное оружие и потерю рабочих мест. Важные темы, но они не про то. Это как спорить о правилах дорожного движения, пока в соседнем ангаре собирают ядерную бомбу.

Шмидт надеется, что к 2030 году ситуация изменится. Что мировые лидеры осознают масштаб проблемы и заключат договор: мы не торопимся к ИИ, превосходящему человека, пока не понимаем, как он работает. Он сравнил это с контролем над ядерным оружием. Только, по его словам, проще. Не нужно запрещать AlphaFold, беспилотники или автономные системы. Нужно остановить одну конкретную гонку — к сверхинтеллекту.

При этом Шмидт не паникёр. Он верит, что к 2030 году у каждого появится персональный ИИ-помощник, который не шпионит и работает под контролем пользователя. Физик получит ассистента, который за ночь обдумает его идеи и утром предложит интересные направления. Студенты будут учиться глубже благодаря персонализированному обучению. Рынок труда переживёт трансформацию, как переживал каждую предыдущую.

Проблема не в ИИ вообще. Проблема в конкретном классе систем, которые никто не понимает и которые строят на скорость. Шмидт чётко разделяет полезный ИИ и гонку за сверхразумом. Первое несёт выгоду. Второе несёт экзистенциальный вопрос, на который у индустрии нет ответа.

Позиция Шмидта ценна не выводами — их можно оспорить. Она ценна тем, что человек его уровня говорит вслух то, что многие обсуждают за закрытыми дверями. Лаборатории знают о рисках. Они продолжают. Регуляторы не успевают. Учёные уходят.

Для предпринимателей и инвесторов это сигнал: строить бизнес на ИИ-инструментах разумно. Строить стратегию на предположении, что гонка к сверхинтеллекту пройдёт гладко, опасно. Между этими двумя позициями пролегает граница, которую полезно видеть.

Полное интервью — на нашем YouTube-канале, можно найти по запросу: