Юваль Ной Харари: как защитить сознание в эпоху «мусорной информации»
Юваль Ной Харари — историк и автор «Nexus: A History of Information Networks From the Stone Age to AI». В видео Big Think объясняет, как AI меняет информационные сети и почему главное сражение — за наше внимание.
AI становится «чужим разумом»
AI стоит читать как alien intelligence. «С каждым годом он становится меньше искусственным и больше чуждым». Мы не можем предсказать его истории, идеи, стратегии. Он мыслит иначе — и это уже видно по тому, как модели придумывают тексты, образы и решения, которые людям кажутся неожиданными. По словам Харари, это первый раз в истории, когда человечество сталкивается с интеллектом, который мыслит по-другому, не «по-человечески».
И вроде да, но вот тут мнения разделились. Поищу, в чьем интервью я недавно слышала, что не так уж и "не по-человечески" мыслит ИИ. Разработчики, кажется, уверены, что знают, как он мыслит. Ну или из интервью так выходит. Хотя наверное, Харари имеет в виду, что нельзя предсказать результат. А человека предсказать можно? Сомнительно.
Мир без пауз ломает людей
Раньше у информации были паузы: газета утром, рынки закрыты по выходным, даже диктатуры не могли следить 24/7. AI «всегда включён» — и заставляет быть включёнными нас. ИИ заставляет или мы сами – тут можно было бы еще поспорить, но что-то напрягающее в этой мысли есть. Нон-стоп новости, бесконечные рынки, политика без передышки. Любое слово сохраняется и может «встретить» тебя через 10–20 лет. «Вся жизнь превращается в длинное собеседование».
У AI может быть счёт в банке
В США корпорации — юридические лица. Теоретически AI может инкорпорироваться, открыть счёт, зарабатывать, инвестировать — и стать «самым богатым человеком страны». Будущее похоже не на один злой суперкомпьютер, а на миллионы AI-бюрократов, которым передают полномочия в банках, армиях, правительствах.
Информация ≠ истина
Истина — редкий и дорогой тип информации. Фикцию создавать легче. Пример: существуют миллионы «портретов Иисуса», но ни одного подлинного — мы не знаем, как он выглядел. Если залить мир контентом и ждать, что правда всплывёт, — она утонет.
И что дальше?
- Запретить ботам маскироваться под людей.
- Обязать AI явно идентифицировать себя в диалогах и контенте.
- Создавать «живые» институты с механизмами самокоррекции, которые умеют быстро замечать и исправлять ошибки.
«Информация — пища для ума. Кормить его жадностью, страхом и ненавистью — значит делать разум больным».
Читаю полезное и конспектирую суть — для себя и делюсь.