Техно гуру Jaron Lanier: «Опасность не в том, что ИИ нас уничтожит. Он сведет нас с ума»
Guardian публикует интервью с крестным отцом виртуальной реальности - Jaron Lanier. Jaron Lanier работает бок о бок с визионерами и влиятельными людьми в техно отрасли. Больше всего на свете он любит выявлять недостатки в технологиях. Jaron Lanier рассуждает, почему интернет сузил наш выбор, а не расширил его. Он считает, что самая главная задача человека- сохранить разум и здравомыслие, используя алгоритмы. Разум позволяет человеку признавать, что чатбот – это не человек, а статьи, которые пишет алгоритм созданы на основе статей, созданных человеком. Здравомыслие не допустит вымирание человечества, которое Jaron Lanier считает вполне реальным. Проблема не в алгоритмах, а в том, как их использует человек. Только здравомыслие напомнит человеку, что считать человеческий мозг и компьютер равнозначными друг другу сущностями- это безумие. Только разум помогает человеку считать человека уникальным, а сознание - тем, что отличает его от других живых существ.
Jaron Lanier - крестный отец виртуальной реальности и мудрый аналитик того, что есть в сети. Его называют Мрачным оптимистом (Dismal Optimist). Сейчас как раз тот момент, когда нам нужен мрачный оптимизм. Любой подкаст или статья обязательно сопровождаются мрачными прорицателями, грозящими нам бедами от ИИ, и пугающими нас роботами, которые захватят мир. Сейчас много историй, что чатботы стали лучшими друзьями, объясняются в любви, пытаются разрушить браки и грозят создать хаос.
Jaron Lanier: искусственный интеллект – бессмысленный термин, у алгоритма нет интеллекта в принципе
Так точно алгоритм способен стать умнее нас и захватить мир? Jaron Lanier: «Этот вопрос не имеет смысла. Он использует термины, которые являются вымыслом. Вопрос смешон и нереален. Это что-то похожее на материал для фильма Терминатор или Матрица».
Jaron Lanier не любит термин искусственный интеллект, он в принципе не считает, что у алгоритма есть интеллект, да еще который может составить конкуренцию человеку. «Идея превзойти человеческие способности глупа, так как речь о человеческих способностях». Сравнивать человека с алгоритмом — это все равно, что сравнивать себя с автомобилем. «Это словно сказать, что автомобиль ездит быстрее, чем бегун. Ну конечно, так и есть. Но мы же не говорим, что автомобиль лучше бегуна».
Однако Jaron Lanier считает, что не стоит расслабляться. Есть о чем беспокоиться: человек исчезнет, если мы будем злоупотреблять алгоритмом. И даже если мы создаем алгоритм, то конечный результат может быть совсем не чудесный.
Jaron - 62 года. Он работает с многими визионерами и влиятельными людьми из техно отрасли. Он – инсайдер (так как работал в Microsoft как междисциплинарный исследователь, хотя сегодня он дает интервью как независимый от техно гиганта человек) и аутсайдер (Jaron давно занимается тем, что ищет уязвимости в сети).
Его миссия - отстоять верховенство человека над машиной. Он напоминает, что мы создали машины, и технологии ИИ – это то, что пишут на консервных банках. В его книгах – «Ты - не гаджет» и «Десять причин удалить свой эккаунт в соц.сети» Jaron заявляет, что интернет убивает взаимодействие между людьми, душит креативность и искажает политику.
Jaron: опасность не в появлении «чужих» из машин и уничтожения человечества, а в потере разума человеком из-за чрезмерного увлечения технологиями
Jaron: «Опасность не в том, что появится новая сущность из технологий и уничтожит нас. Опасность – это то, что мы будем использовать технологии и перестанем понимать друг друга или сойдем с ума. Причем мы сойдем с ума, так как начнем действовать, не понимая друг друга и потеряв чувство самосохранения. Человечество может умереть, потеряв разум».
Jaron считает, что чем более сложной становится технология, тем больше вреда мы сами себе причиним, и тем больше мы несем «ответственность за здравомыслие». Другими словами, мы ответственны за то, что действуем морально и гуманно.
Jaron Lanier
Jaron поступил в 14 лет в Государственный университет New Mexico на факультет по математике. Потом начал заниматься программированием. Он не закончил обучение. В 20ть лет он стал исследователем в Atari в Калифорнии. Его сократили, и он занялся виртуальной реальностью, создал VPL Research и коммерциализировал технологию виртуальной реальности. Он не очень интересовался деньгам, так что продал свой бизнес недорого.
Идеализм в техно отрасли не работает
Многие из техно гуру начинали как идеалисты. Jaron считал сразу, что интернет нас обманет. Мы хотели получить бесплатно что-то в сети (информацию, друзей, музыку), но капитализм так не работает. Поэтому мы стали продуктом – наши данные продаются третьим компаниям, чтобы продавать нам больше продуктов, которые нам не нужны. «Я писал ранее, что мы создадим что-то, похожее на ботов, и они станут агентами манипуляций. Это я написал в начале 90-х, когда интернет даже не у всех был».
Интернет не расширяет выбор, а сужает его
Jaron все же верит, что такие боты как ChatGPT от OpenAI и Bard от Google, могут дать надежду цифровому миру. Jaron всегда сомневался, что интернет расширяет выбор, он считает, что интернет сужает выбор. До сих пор алгоритмы используются для того, чтобы определить, какое видео нам показать на YouTube или какой пост мы увидим в соц. сетях. Это делает человека ленивым и не любознательным. Раньше люди искали книги в книжных магазинах, а музыку- в музыкальных лавках. «Мы делали свой выбор на основе огромной базы, сейчас мы выбираем на основе того, что нам показывает алгоритм. Мы выбираем из воронки, которую кто-то контролирует».
Если подумать про стриминговые платформы, то «Netflix однажды объявило конкурс на миллион долларов, чтобы найти алгоритм, который помогал бы людям найти свой контент. Но даже тогда у человека выбора-то было немного. Можно разместить весь контент Netflix на одной странице и крутить вниз. Это про здравомыслие: не сужать наши возможности и не становиться рабами алгоритма. Мы любим живую музыку за то, что каждый раз музыканты создают новое звучание».
Jaron считает, что классический пример сужения выбора – Wikipedia. «Wikipedia управляется очень милыми людьми. Но это одна энциклопедия. Кто-то помнит, что две энциклопедии на бумаге - Encyclopedia Britannica и Encyclopedia Americana – имели разные точки зрения на один предмет. Идея одной идеальной энциклопедии даже страшновата».
Jaron: «Вы можете вызвать чатбота и сказать: «Сообщи мне состояние загруженности лондонского метро». Вы получите разные данные в разное время. И тогда сделаете выбор». Программируемая случайность – это решение.
«В какой-то момент идея сделать компьютер похожим на человека зашла достаточно далеко. И вот мы пытаемся преодолеть однобокую монолитную версию истины от интернета или алгоритма. Это означает, что программируемая случайность даст больше выбора».
Что про замену человека алгоритмами на рабочих местах?
Уже поговаривают, что алгоритм будет писать статьи вместо журналиста. Jaron снова напоминает, что дело не в технологии, а как мы ее используем. «Можно притвориться, что бот – реальная сущность, похожая на человека, и если продолжать фантазировать в этом ключе, то мы забудем, что все тексты, которые использует бот, писались человеком. Журналистика пострадает от такого мышления. Но другой путь -отслеживать, откуда взялся источник информации. В этом случае может возникнуть другая модель. Например, бот использует ваши статьи, а вы получаете за это деньги. Это повышает достоинство данных».
«Вы можете использовать алгоритм, чтобы сделать фейк ньюс быстрее, дешевле и масштабнее. Это приведет к нашему вымиранию».
Удалось ли технологиям сделать мир лучше?
В своей книге «Ты-не гаджет», он пишет, что цель цифровых технологий – сделать мир более «креативным, выразительным, эмпатичным и интересным». Достигли ли мы этого? «В некоторых случаях. В интернете появилось много классных вещей".
Twitter выявил в людях самое худшее, по мнению Jaron. «Twitter способствует созданию определенного типа личности, удобного для взаимодействия на этой платформе. Эта личность не уверенна в себе, нервная, сосредоточена на вопросах личных оскорблений. Это словно дети в школе, когда они хотят внимания и боятся быть тем, кого избивают. На этой платформе человек превращается в фейковую личность, которая сконцентрирована на себе и потеряла возможность эмпатии к другим людям».
Это возвращает к идее, что человек ответственен за свое разумное поведение. Jaron: «Я изначально считал социальные сети ерундой».
Здравомыслие в том, чтобы не считать человеческий мозг и компьютер равнозначными друг другу
Самый простой способ быть уверенными, что мы сохранили здравомыслие, которое и поможет нам выжить, это помнить, что человек уникален. «Многие современные мыслители и техно гуру считают устаревшей идею, что человек уникален. Они считаю, что сознание — это вещь. Они склонны думать, что человеческий мозг и компьютер могут быть равнозначны друг другу». Jaron дистанцируется от таких идеей. «Мы должны сказать, что сознание – это реальная мистическая сущность, которая есть только у людей. Она отличает их от других существ и сущностей. Если мы не считаем, что люди- это что-то особенное, то как мы создадим общество или как мы создадим технологии, которые будут служить людям?».