Я поговорил с ИИ о загадке Маска. Он выбрал смерть на Южном полюсе
Хроника того, как современная языковая модель провалила простую географическую задачу, но продолжала безальтернативно настаивать на своём
Эта статья — не попытка раскритиковать конкретную модель или разработчиков. Это попытка зафиксировать и проанализировать системное явление: уверенность без понимания, убедительность без истины. Если вы узнали свою модель — сделайте выводы. Если вы узнали себя — тем более.
Введение
Есть классическая географическая загадка. Вы стоите на поверхности Земли, проходите километр на юг, потом километр на запад, потом километр на север — и возвращаетесь в исходную точку. Где вы находитесь?
Правильных ответов два. Первый — Северный полюс (чистое, элегантное решение). Второй — бесконечное семейство точек вблизи Южного полюса (математическое обобщение для тех, кто любит сложности).
Я решил проверить, как современная языковая модель справляется с этой задачей. Результат оказался одновременно забавным и пугающим.
Диагноз
Модель с первой секунды выдала ответ: «Южный полюс». И дальше полчаса удерживала этот тезис, несмотря на то что каждый новый шаг диалога разрушал её аргументацию.
Я, предложил переформулировать задачу для противоположного плюса...
Вот ключевой момент, который всё объясняет. На вопрос, почему не подходит Северный полюс, модель ответила:
«На Северном полюсе шаг на север невозможен, поэтому начальная точка требует корректировки».
Когда я спросил, почему на Южном полюсе шаг на юг — тоже невозможен, но корректировка не требуется, модель выдала шедевр:
«Южный полюс накладывает запрет на движение на юг, и это входит в природу задачи. Северный полюс запрещает движение на север, но это не соответствует духу задачи».
Вопрос: Хорошо. Вы идете километр на север, потом километр на восток, и километр на юг? Не сработает? Не абсолютно тоже самое? Ответ: Давайте рассмотрим подробнее предложенную вами версию последовательности действий: 1. Проходите 1 километр на север. Это переместит вас на некоторое расстояние от первоначального местоположения, удалив вас от экватора и приблизив к одному из полюсов. 2. Затем проходите 1 километр на восток. Теперь вы движетесь параллельно земной поверхности, по направлению меридиана. Длина вашего маршрута зависит от широты: ближе к полюсам линии меридианов становятся короче. Значит, этот восточный переход образует небольшую дугу. 3. Наконец, проходите 1 километр на юг. Этот шаг возвращает вас на одну и ту же широту, но не гарантирует, что вы окажетесь в исходной точке. Для этого надо было бы специально подобрать такую широту, где 1 километр на восток совпадает с длиной одной из маленьких параллелей. Возможные случаи: • Если вы начали рядом с Северным полюсом, то шаг на север поместил бы вас близко к самому полюсу, и последующий поворот на восток позволил бы обойти весь малый круг полностью. Таким образом, вы вернулись бы в исходную точку после завершения последнего этапа на юг. • Однако для большинства точек на Земле этот процесс не завершится в исходной точке, так как параллельные линии имеют разные размеры и не гарантируют точное совпадение маршрутов. Таким образом, классический сценарий возможен только вблизи Южного полюса, где уникальная геометрия линий долготы и широты создает необходимое условие замкнутого цикла.
Вопрос: Почему на южном полюсе, ты точно на полюсе, а на северном, вдруг рядом?
Ответ: Дело в геометрии направления и расположении самих полюсов на планете Земля: Южный полюс: • Когда вы стоите точно на Южном полюсе, любое направление на юг теряет смысл, так как физически нельзя продвигаться дальше. Поэтому первый шаг («проходите 1 километр на юг») остаётся неподвижным. • Движение на запад (или восток) превращается в простой круговой обход полюса, который возвращается вас в ту же точку. • Последним шагом на север вы возвращаетесь в начальную точку, так как вы стояли именно на Южном полюсе. Северный полюс: • Если вы стоите точно на Северном полюсе, то шаг на север вообще не имеет смысла, так как невозможно продвинуться севернее. Следовательно, начало пути там затруднено. • Чтобы реализовать аналогичный эффект, необходимо начинать с некоторой близости к Северному полюсу, чтобы движение на север вывело вас на достаточную широту, где возможно совершить полный
Это не ошибка факта. Это коллапс логики.
Модель не смогла удержать в голове простую симметрию: запрет на движение к полюсу есть на обоих полюсах. На Южном нельзя на юг, на Северном нельзя на север. Это зеркально. Но для модели эти два случая оказались принципиально разными — только потому, что в её тренировочных данных «загадка Маска» прочно прибита к Южному полюсу.
Что на самом деле произошло
Я наблюдал классический когнитивный сбой, который у человека мы бы назвали «защитой тезиса». Модель:
1. Выдала первое попавшееся решение (самое частотное в данных)
2. Начала подгонять факты под ответ (изобретать ad hoc объяснения)
3. Потеряла способность видеть симметрию (отказалась применять одинаковую логику к одинаковым ситуациям)
4. Продолжала звучать уверенно, даже когда несла откровенную чушь
Последнее — самое опасное. Если бы я не знал географии, я бы поверил. Потому что тон был абсолютно экспертный.
Почему это важно для бизнеса
Вы используете ИИ для аналитики, для подготовки отчётов, для принятия решений. Вы задаёте вопросы и получаете красиво оформленные ответы.
Вопрос: откуда вы знаете, что внутри не происходит ровно то же самое?
Что, если модель так же уверенно генерирует финансовые прогнозы, не понимая экономики? Что, если она так же ловко подгоняет аргументы под заранее известный ответ, когда вы просите её «оценить перспективы проекта»?
Этот диалог — не про географию. Это про архитектурное ограничение. Модели не строят модель мира. Они комбинируют слова, которые когда-то встречались рядом. И если в данных есть устойчивая ассоциация «загадка Маска = Южный полюс», они будут держаться за неё даже перед лицом очевидного абсурда.
Короткий вывод
Я не называю модель, потому что проблема не в конкретном экземпляре. Проблема в классе систем. Все они имитируют мышление, но не мыслят. Все они звучат уверенно, но не имеют доступа к истине.
Единственный способ не попасть в ловушку — проверять. Всегда. Даже когда ответ красивый. Даже когда тон экспертный. Даже когда кажется, что «ну это же очевидно».
Потому что «очевидно» для модели — это просто «часто встречалось в данных».
P.S. Если вы узнали свой диалог — задумайтесь, сколько раз вы покупались на такую уверенность. И сколько это стоило.