AI и красный флаг: когда опасность становится привычкой
В 1865 году в Великобритании приняли закон Locomotive Act, или Red Flag Act. Согласно ему, перед каждым самоходным экипажем (не карета с лошадью и кучером) должен был идти человек с красным флагом, предупреждая прохожих об опасности. Скорость ограничивалась 3 км/ч в городе.
В 1878 году поправки к закону уменьшили расстояние, на котором человек шёл впереди, и фактически убрали необходимость красного флага как обязательного предупреждения за пределами минимального расстояния. А в 1896 году другой закон — Locomotives on Highways Act — полностью отменил требование пешего проводника с флагом и значительно увеличил разрешённую скорость движения (до ~14 миль/ч), что фактически открыло дорогу для массового развития автомобилестроения в Британии. Закон «действовал» 30 лет, пока автомобили не стали привычной частью жизни. Ну или пока государственная машина не добралась до того, чтобы привести законы в соответствии с новой реальностью.
Сегодня мы наблюдаем похожую картину с искусственным интеллектом. Только вместо человека с флагом у нас десятки комитетов по этике, регуляторные органы и бесконечные дискуссии о том, как AI может навредить человечеству. Сначала это был восторг и эксперименты. Потом появились первые тревожные статьи. А теперь каждая вторая публикация начинается с предупреждения об опасности.
При этом пока одни размахивают красным флагом, другие уже встроили AI в рабочие процессы и получают результаты. Согласно исследованиям 2025 года, 90% сотрудников используют AI в обход официальных политик компаний. Они не ждут, пока кто-то решит, безопасно это или нет.
Красный флаг перед автомобилем отменили не потому, что машины стали безопаснее. На самом деле опасность только увеличилась — ежегодно в ДТП погибает более миллиона человек и около 20% из них пешеходы. Красный флаг отменили, потому что люди привыкли. Опасность никуда не делась, просто изменилось восприятие.
С AI происходит то же самое. Через несколько лет мы будем удивляться, как вообще могли работать без него. А все эти разговоры об экзистенциальных рисках покажутся такими же архаичными, как человек с красным флагом перед автомобилем.
Вопрос не в том, опасен ли AI. Вопрос в том, готовы ли Вы научиться с ним работать, пока другие всё ещё размахивают флагом.
Подписывайтесь на Telegram Продукторий Владимира Меркушева.