🧠 Что человечество до сих пор не понимает из-за ограниченности собственного мышления?

Современные LLM становятся всё мощнее. Растёт размер моделей, объём доступного контекста, усложняются механизмы рассуждений и способы работы с информацией.

Но есть одна интересная особенность: значительная часть знаний, на которых они обучаются, создана нами самими. Книги, научные статьи, журналы, сайты, форумы, обсуждения - огромный цифровой след человеческой цивилизации. По сути, мы собрали колоссальный объём написанного человечеством и научились «сжимать» его в модели. Если провести аналогию с поисковыми алгоритмами, то в процессе обучения моделей мы (как человечество) проиндексировали все написанные и доступные материалы.

И я задумался 🤔

Если современная LLM способна одновременно оперировать таким объёмом человеческих знаний, который физически не способен прочитать и удержать в голове ни один человек, то интересно спросить её не о том, что человечество знает.

А о том, чего человечество систематически не понимает. Я сформулировал вопрос самой умной модели на текущий момент из существующих:

И вот что получил в ответ 👇 1. Интуитивное непонимание экспоненты. Люди мыслят линейно: «если сегодня мало, завтра будет чуть больше». Поэтому недооценивают пандемии, сложный процент, рост технологий. Умнее: любой процесс с постоянным процентным ростом взрывается — считать, а не прикидывать «на глаз». 2. Ошибка выжившего. Мы видим успешных предпринимателей, вернувшиеся самолёты, старые «качественные» вещи — и не видим кладбище провалов. Умнее: всегда спрашивать «а где данные о тех, кто не дошёл?» 3. Подтверждение своей правоты (confirmation bias). Люди ищут не истину, а подтверждение уже принятой позиции. Умнее: активно искать самый сильный аргумент против своей точки зрения; если не можешь его сформулировать — ты не понимаешь вопрос. 4. Нулевая сумма. Убеждение, что чужой выигрыш — мой проигрыш (в экономике, торговле, отношениях). Умнее: большинство добровольных обменов создают ценность для обеих сторон; богатство не делится, а производится. 5. Смешение корреляции и причинности. «После — значит вследствие». Отсюда суеверия, лженаука, плохие бизнес-решения. Умнее: спрашивать про контрольную группу, обратную причинность и третий фактор. 6. Невозвратные затраты (sunk cost). «Я столько вложил, нельзя бросать». Умнее: прошлые затраты не вернуть в любом случае; решение принимается только из будущих выгод и издержек. 7. Переоценка коротких горизонтов, недооценка длинных. Люди переоценивают, что изменится за год, и недооценивают, что за десять. Умнее: маленькие ежедневные действия с накоплением бьют героические рывки. 8. Фундаментальная ошибка атрибуции. Чужие ошибки объясняем характером («он глупый»), свои — обстоятельствами («я устал»). Умнее: поведение почти всегда сильнее определяется ситуацией и системой стимулов, чем «личностью». 9. Вера, что мир справедлив. «Ему плохо — значит, заслужил». Это психологическая защита, а не факт. Умнее: случайность играет огромную роль; признание этого делает и добрее, и скромнее в оценке собственных успехов. 10. Бинарное мышление. Всё делится на хорошее/плохое, свои/чужие, правда/ложь. Умнее: мыслить в вероятностях и градациях; уверенность 70% — легитимная позиция, а не слабость. 11. Неумение обращаться с вероятностью и риском. Боятся самолётов, но не лестниц; играют в лотерею, но не страхуются от реальных рисков. Умнее: риск = вероятность × ущерб; яркость события в новостях обратно пропорциональна его частоте.

12. Иллюзия знания. Люди уверены, что понимают, как работает застёжка-молния, экономика или вакцина — пока не попросишь объяснить пошагово. Умнее: техника Фейнмана — объясни просто, найдёшь дыры в понимании. 13. Трайбализм в вопросах истины. Позиция по климату, экономике, медицине определяется принадлежностью к группе, а не данными. Умнее: разделять «что верно» и «за кого я». Истина не обязана совпадать с позицией твоей команды по всем пунктам сразу. 14. Статус-кво как аргумент. «Всегда так было» воспринимается как обоснование. Умнее: традиция — это гипотеза, прошедшая отбор, её стоит уважать, но проверять; «естественное» не значит «хорошее» (натуральны и болезни). 15. Недооценка систем, переоценка героев. Люди ищут виноватого человека или спасителя-лидера там, где работает система стимулов. Умнее: хочешь изменить поведение — меняй правила игры, а не взывай к совести. 16. Мышление «от намерений», а не «от последствий». Политика или поступок оценивается по декларируемой цели, а не по реальному результату. Умнее: спрашивать «что произошло на самом деле, включая побочные эффекты второго порядка?» 17. Прокрастинация смертности. Люди живут так, будто время бесконечно, откладывая важное на «потом». Умнее: конечность — не повод для паники, а инструмент приоритизации: если у тебя ~4000 недель, что действительно стоит твоей недели? 18. Иллюзия контроля и её зеркало — выученная беспомощность. Одни верят, что контролируют всё (рынок, других людей), другие — что ничего. Умнее: стоическое разделение — вложи всё в то, что зависит от тебя, отпусти остальное. 19. Неспособность менять мнение без потери лица. Смена позиции воспринимается как поражение. Умнее: обновление взглядов при новых данных — признак силы интеллекта; «я был неправ» — одна из самых дорогих фраз, которую человек может произносить легко. 20. Вера, что счастье — в следующем достижении. «Вот получу X — и заживу». Гедонистическая адаптация съедает любое достижение за месяцы. Умнее: устойчивое благополучие живёт в процессе, отношениях и внимании к настоящему, а не в точке прибытия.

21. Эффект Даннинга-Крюгера. Чем меньше человек знает, тем увереннее судит — потому что не видит масштаба того, чего не знает. Умнее: уверенность должна расти вместе с компетентностью, а не вместо неё; настороженно относиться к собственной лёгкой уверенности в чужой области. 22. Якорение. Первая услышанная цифра (цена, зарплата, оценка) искажает все последующие суждения, даже если она случайна. Умнее: перед переговорами и оценками формировать своё число независимо, до того как услышал чужое. 23. Неприятие потерь. Боль от потери 1000 рублей примерно вдвое сильнее радости от находки 1000. Отсюда — держание падающих акций, страх любых перемен. Умнее: оценивать позиции «с нуля»: купил бы я это сегодня, если бы не владел? 24. Ошибка планирования. Люди систематически недооценивают сроки и бюджеты своих проектов, даже зная, что все прошлые проекты задерживались. Умнее: смотреть не «изнутри» на свой план, а «снаружи» — сколько реально занимали похожие проекты у других? Умножай на этот коэффициент. 25. Мышление историями вместо статистики. Один яркий случай («мой дед курил и дожил до 95») перевешивает данные о миллионах. Умнее: история — иллюстрация, а не доказательство; спрашивать «а какова базовая частота?» 26. Игнорирование альтернативных издержек. Люди видят цену того, что купили, но не видят цену того, от чего отказались (время, внимание, другие возможности). Умнее: настоящая цена вещи — лучшее, что ты мог бы сделать вместо неё. 27. Эффект ореола. Красивый/успешный/уверенный человек автоматически кажется умным, честным и правым во всём. Умнее: компетентность узкоспециальна; гений в физике может нести чушь о политике, миллиардер — о медицине.

28. Конформизм и социальное доказательство. «Все так делают» отключает собственную проверку. Эксперименты Аша показали: люди отрицают очевидное, если группа против. Умнее: количество верящих не аргумент; толпа бывает права о ресторанах и катастрофически неправа о пузырях и идеологиях. 29. Реактивность вместо проактивности. Жизнь как череда реакций на входящее: уведомления, чужие запросы, срочное. Важное-несрочное (здоровье, отношения, обучение) вечно вытесняется. Умнее: сначала блокировать время под важное, потом впускать срочное в остаток — не наоборот. 30. Ошибка «средний = нормальный для меня». Люди применяют средние по популяции советы (диеты, режимы, методики) к себе без проверки. Умнее: средний по больнице показатель может не описывать ни одного реального человека; личный эксперимент с измерением бьёт универсальный рецепт. 31. Моральное лицензирование. «Я сегодня был хорошим (сходил в зал, помог другу) — значит, можно себе позволить плохое». Умнее: замечать этот внутренний торг; поступки не гасят друг друга, как счёт в банке. 32. Вера в мотивацию вместо среды. «Мне не хватает силы воли». Умнее: воля — исчерпаемый и ненадёжный ресурс; выигрывает тот, кто проектирует среду: убрать телефон из спальни эффективнее, чем «решить меньше сидеть в телефоне». 33. Дихотомия «талант или ничего». «У меня нет способностей к языкам/математике/музыке» — как приговор. Умнее: почти любой навык на уровне «сильно выше среднего» достижим правильной практикой; талант определяет потолок, до которого почти никто не доходит. 34. Незамечание инверсии. Люди спрашивают «как достичь успеха?», но не «как гарантированно всё испортить — и как этого избежать?» Умнее: инверсия часто продуктивнее — избегание глупости надёжнее погони за гениальностью. Не проиграть — уже наполовину выиграть.

35. Информация вместо действия. Прочитать ещё одну книгу, пройти ещё один курс — ощущается как прогресс, но заменяет его. Умнее: знание без применения — развлечение; соотношение «изучаю/делаю» должно быть смещено в сторону «делаю». 36. Ошибка справедливого обмена усилий. «Я много работал — значит, это ценно». Умнее: рынок и жизнь платят за результат и ценность для других, а не за потраченные часы; тяжесть труда сама по себе ничего не гарантирует. 37. Проекция себя на других. «Мне бы это понравилось — значит, и ему понравится». Отсюда провальные продукты, неудачные подарки, конфликты. Умнее: спрашивать и наблюдать, а не додумывать; люди устроены разнообразнее, чем кажется изнутри одной головы. 38. Гиперболическое дисконтирование. Награда сейчас иррационально ценнее большей награды потом: сладкое сегодня против здоровья через 10 лет. Умнее: связывать будущее «я» с настоящим — конкретно представлять себя через 10 лет; автоматизировать полезное (автосписание на накопления), чтобы решение не принималось каждый раз заново. 39. Идентификация с мнениями. «Моя позиция = я сам», поэтому атака на идею ощущается как атака на личность. Умнее: держать мнения как одежду, а не как кожу — их можно менять без утраты себя; «я сейчас думаю так» вместо «я такой». 40. Слепота к сложным системам. Вера, что у сложных проблем (экономика, экология, здоровье) есть простое решение с одним рычагом. Умнее: в сложных системах вмешательство всегда имеет побочные эффекты; уважать правило Честертона — не сноси забор, пока не понял, зачем его поставили. 41. Ошибка «сначала все ресурсы, потом старт». «Начну бизнес, когда будет капитал; займусь спортом с понедельника; выучу язык, когда будет время». Умнее: ресурсы приходят в процессе движения, а не до него; минимальный старт сегодня информативнее идеального плана завтра.

42. Недооценка случайности в успехе (и провале). Успешные приписывают всё себе, а потом пишут книги «как я это сделал», из которых нельзя воспроизвести главное — удачу. Умнее: судить решения по качеству процесса на момент принятия, а не по исходу; хороший процесс с плохим исходом лучше плохого процесса со счастливым. 43. Молчаливое ожидание телепатии. «Он должен был сам догадаться, что мне нужно / что я обижен(а)». Умнее: невысказанное ожидание — это запланированная обида; прямая просьба решает 80% межличностных конфликтов до их начала. 44. Сравнение своего «изнутри» с чужим «снаружи». Свои сомнения и хаос против чужих отполированных фасадов (особенно в соцсетях). Умнее: ты видишь чужой хайлайт-рил и свой черновик; сравнение корректно только с собой вчерашним. 45. Вера в «когда-нибудь потом» для отношений. Работа срочная, близкие «никуда не денутся». Умнее: на дистанции жизни удовлетворённость и здоровье сильнее всего предсказываются качеством отношений (Гарвардское исследование длиной 80+ лет), а не карьерой; отношения — актив, требующий регулярных вложений, а не фон. 46. Ошибка последнего слова. Стремление победить в споре вместо того, чтобы что-то понять или сохранить отношения. Умнее: спросить себя «чего я хочу от этого разговора?» — быть правым и получить нужный результат часто взаимоисключающи. 47. Игнорирование ошибки измерения. «Что измеряем, то и получаем» — люди и организации оптимизируют метрику, а не цель (закон Гудхарта). Школы натаскивают на тесты, компании — на квартальные показатели. Умнее: любая метрика — прокси; периодически поднимать голову и спрашивать «а того ли мы вообще добиваемся?» 48. Недооценивание скуки и тишины. Каждая пауза заполняется телефоном; мозг лишается режима, в котором происходят синтез идей и осмысление. Умнее: скука — не враг, а инкубатор; лучшие мысли приходят в душе 🚿 и на прогулке не случайно. 49. Перфекционизм - это прокрастинация в маске. «Сделаю идеально или никак» звучит благородно, а работает как способ не делать вовсе. Умнее: отправленное на 80% бьёт неотправленное на 100%; итерации доводят до совершенства то, что перфекционизм не дал бы даже начать. 50. Вера, что понимание проблемы = её решение. Люди годами анализируют себя, свои паттерны, своё детство — и ничего не меняют. Умнее: инсайт без нового поведения — это коллекционирование; изменение происходит на уровне действий, повторённых до автоматизма, а не на уровне осознания.

Тут просматривается общий стержень: почти все эти ошибки — это экономия мыслительной энергии. Мозг по умолчанию выбирает быстрый, дешёвый, приятный ответ. Поэтому универсальная мета-привычка — замечать момент, когда ответ пришёл слишком легко, и именно там включать медленное мышление.

Если выделить общий корень большинства пунктов — это то, что мозг эволюционировал для выживания в малых группах, а не для поиска истины. Осознание этого факта само по себе — половина защиты. Меня здесь впечатляет даже не конкретный список. А сама возможность задать машине такой вопрос. Мы впервые получили инструмент, который способен посмотреть на огромный массив накопленных человечеством знаний и попытаться найти повторяющиеся ошибки самого человечества. Конечно, LLM тоже ограничена теми знаниями и текстами, которые создали люди. Поэтому это не взгляд «сверхразума» на человечество и не абсолютная истина. Но как зеркало, собранное из огромного количества человеческого опыта, - уже очень интересно. Кажется, один из самых ценных навыков ближайших лет - использовать AI не только для того, чтобы быстрее писать тексты и делать презентации, а чтобы расширять границы собственного мышления 🧠🚀 @corpent #AI #нейросети #LLM #GPT #мышление #саморазвитие #мудрость #ошибки #байесы