🧨 Сэм Альтман ответил на статью New Yorker после коктейля Молотова, полетевшего в его дом
За последние несколько дней на дом главы OpenAI Сэма Альтмана нападали дважды. Сначала 20-летний парень кинул коктейль Молотова, а через пару дней около дома остановился автомобиль и из него стали стрелять. Никто не пострадал. После первого инцидента Альтман написал пост про будущее AI, свою роль и недавнюю громкую статью в New Yorker.
На той неделе New Yorker выпустил огромную статью про Сэма Альтмана (совсем краткий пересказ). В ней, в частности, было про то, что Альтман часто врет. В своем посте Альтман пишет, что кто-то на днях сказал ему, что из-за этой статьи ситуация для него стала более опасной. Но он лишь отмахнулся от этого.
«Теперь я не сплю посреди ночи, злюсь и думаю, что недооценил силу слов и нарративов. Кажется, сейчас как раз подходящий момент, чтобы прояснить несколько вещей», — пишет Альтман.
Пост Альтмана состоит из нескольких частей. Я кратко изложу.
Первая — вот что он верит:
➖ Моральный долг для него — это работать на процветание всех, расширять возможности людей, продвигать науку и технологии.
➖ AI станет самым мощным инструментом для расширения возможностей и потенциала человека. Мир заслуживает огромного количества AI. И мы должны выяснить, как это осуществить.
➖ Страх и беспокойство по поводу AI оправданы. Сейчас крупнейшие изменения за долгое время. И нужно обеспечить безопасность. Нужна общественная реакция, чтобы противостоять новым угрозам. В частности, новая политика, чтобы пройти через сложный экономический период.
➖ AI нужно демократизировать, чтобы власть не была сконцентрирована. Неправильно, что несколько AI-лабораторий принимают самые важные решения о будущем.
➖ Нам придется быстро менять свое мнение по мере развития технологий и эволюции общества. Пока никто не понимает, какое влияние окажет сверхинтеллект, но оно будет огромным.
Вторая — личные размышления:
➖ Альтман гордится, что не поддался в свое время Илону Маску и не согласился на тот односторонний контроль над OpenAI, которого он хотел.
➖ Он не гордится своей нелюбовью к конфликтам. Считает, что плохо справился с конфликтом с предыдущим советом директором, что привело к огромному хаосу в компании. Мол, он знал, что личные разногласия между благонамеренными людьми будут усиливаться, но не хотел переживать конфликты и быть арбитром.
Я — несовершенный человек в центре исключительно сложной ситуации, пытающийся с каждым годом становиться немного лучше, всегда работая ради миссии.
➖ OpenAI теперь не скромный стартап и нужно действовать более предсказуемо. «Последние несколько лет были чрезвычайно напряженными, хаотичными и полными давления»
➖ Он гордится, что они выяснили, как создать мощный AI, как накопить капитал на инфраструктуру, как создать продуктовую компанию и так далее.
Третья — про индустрию:
➖ Почему между AI-компаниями столько драматических событий? AGI — это образно «кольцо власти», которое заставляет людей совершать безумные поступки. Один раз увидев AGI, уже невозможно не видеть его. И компании хотят быть тем, кто контролирует AGI.
➖ Что делать? Сделать так, чтобы ни у кого не было этого кольца. Расширять права и возможности отдельных людей, контролировать со стороны демократической системы.
➖ Демократический процесс должен быть влиятельнее компаний. Даже если изменения идут медленнее, чем хотелось бы. OpenAI хочет быть голосом и заинтересованной стороной, но не обладать всей властью.
➖ Критика в их адрес исходит из искренней озабоченности высокими ставками, связанным с этой технологией. Безусловно, технологии не всегда полезны для всех. Но Альтман верит, что прогресс может сделать будущее невероятно хорошим.
Пока мы ведем эту дискуссию, нам следует смягчить риторику и тактику и постараться, чтобы взрывов было меньше — как в переносном, так и в буквальном смысле.
Подписывайтесь на Telegram The Edinorog 🦄.