Будущее Konstantin Panphilov
5 297

«Слияние человека и машины уже началось»

Президент Y Combinator Сэм Альтман написал заметку о том, как быстро человечество объединится с искусственным интеллектом.

В закладки

В Кремниевой долине популярны обсуждения о том, в каком году люди и машины сольются воедино (а если этого не случится, то в каком году человека превзойдёт стремительно развивающийся искусственный интеллект или генетически улучшенный вид). Большая часть прогнозов приходится на интервал между 2025 и 2075 годом.

Это называют сингулярностью; хотя теперь это выглядит настолько реальным и некомфортным, что многие предпочитают вообще никак это не называть.

Возможно, другая причина, по которой люди перестали использовать слово «сингулярность», заключается в том, что оно обозначает единый момент во времени, а уже сейчас кажется, что слияние будет постепенным процессом. И его будет трудно заметить.

Я считаю, что слияние уже началось, оно происходит уже несколько лет. Наши телефоны управляют нами и говорят, что и когда делать, социальные медиа управляют чувствами, поисковые системы — мыслями.

Алгоритмы, которые за это отвечают, уже не поддаются пониманию человека. Они оптимизируют то, что говорят оптимизировать их создатели, но таким образом, что понять это не в силах ни один человек. Сегодня это выглядит сложным искусственным интеллектом, а завтра будет казаться детской шалостью.

И эти алгоритмы чрезвычайно эффективны — по крайней мере, лично мне трудно сопротивляться тому, что они говорят делать. Я чувствовал себя крайне зависимым от интернета, до тех пор, пока не стал с этим бороться по-настоящему.

Мы уже находимся в стадии коэволюции — искусственный интеллект воздействует на нас, а затем мы его улучшаем. Мы создаём больше вычислительных мощностей и запускаем на них ИИ, а он придумывает, как создавать ещё более производительные микросхемы.

Вероятно, это нельзя прекратить. Как мы уже выяснили, наука в конечном итоге продвигается, если законы физики этому не мешают.

Но что более важно, если мы не уничтожим себя, однажды появится и сверхчеловеческий искусственный интеллект, и генетические улучшения, и интерфейс «мозг—компьютер». Человеческое воображение и высокомерие не дадут нам предположить, что мы никогда не будем строить вещи умнее нас самих.

Наша самооценка настолько сильно зависит от нашего интеллекта, что мы считаем, что он должен быть исключительным и значительно выше, чем у всех остальных. Возможно, ИИ будет чувствовать то же самое и поймёт, что различия между нами и обезьянами едва ли стоит обсуждать.

Соединение человека и машины может принимать множество форм: мы могли бы вставлять электроды себе в мозг, или просто стать очень близкими друзьями с чатботом. Но я думаю, что слияние — это, вероятно, наш лучший сценарий. Если два разных вида хотят одного и того же, но только один может это получить — в нашем случае, стать доминирующим видом на планете и за её пределами — у них начнётся конфликт. Мы должны работать в одной команде, члены которой заботятся о благополучии всех остальных.

Хотя слияние уже началось, оно станет гораздо более странным. Мы будем первым видом, который спроектирует своих потомков. Я предполагаю, что мы можем либо стать биологическим загрузчиком для цифрового интеллекта, а затем исчезнуть в эволюционной ветви, или мы можем выяснить, как выглядит успешное слияние.

Вероятно, это случится быстрее, чем думает большее число людей. Аппаратура развивается экспоненциально. Самое удивительное, что я узнал, работая над OpenAI — это то, как коррелирует развитие вычислительной мощности и прорывы в разработке ИИ. И число умных людей, которые занимаются искусственным интеллектом, так же растёт в геометрической прогрессии. Вдвойне экспоненциальные функции ускользнут от нас очень быстро.

Было бы хорошо, если бы весь мир начал воспринимать это гораздо более серьезно. Всемирная координация происходит не так быстро, как нам нужно.

#будущее

{ "author_name": "Konstantin Panphilov", "author_type": "editor", "tags": ["\u0431\u0443\u0434\u0443\u0449\u0435\u0435"], "comments": 8, "likes": 20, "favorites": 1, "is_advertisement": false, "subsite_label": "future", "id": 30405, "is_wide": false, "is_ugc": false, "date": "Sun, 10 Dec 2017 18:46:00 +0300" }
{ "id": 30405, "author_id": 3, "diff_limit": 1000, "urls": {"diff":"\/comments\/30405\/get","add":"\/comments\/30405\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/30405"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118 }

8 комментариев 8 комм.

Популярные

По порядку

Написать комментарий...

Комментарий удален

0

Довольно странно, что очень многие представляют себе подобные картинки. Ау, народ, прямо сейчас у пары миллиардов людей тупо нет доступа к электричеству - для них еще третья промышленная революция не наступила, а вы уже о четвертой рассуждаете! Большая часть всех ништяков от прогресса будет, в принципе, доступна только золотому миллиарду очень-очень долгое время.

Ответить
5

Кажется, тут нет ни одного абзаца без жутко сомнительного заявления)

Ответить
2

Лучше бы вместо сингулярности объяснили, что такое "стремительно развивающийся искусственный интеллект", "генетически" улучшенный вид, человек "сливается с искусственным интеллектом". А то реально порнография получается.
А вообще, было бы здорово, чтобы кажущаяся простота термина не вводила людей в заблуждение. Всякий, относительно понимающий мозг человек, к возможности искусственности интеллекта в классическом смысле (с творчеством и морфогенетической природой, а не комбинаторикой и цифровой природой, как сейчас) относится, по крайней мере, очень скептически. Сейчас же, если сделать небольшой срез, часть проектов, которые говорят про AI, прикручивают себе маркетинг, часть нейросетками пользуется.

Ответить
1

Более того, всё УЖЕ сделано, правда, об этом мало кто знает.

Ответить
0

в яблочко!

Ответить
1

Появляются секс-роботы, и это даёт фразе «человек сливается с искусственным интеллектом» ещё один смысл

Ответить
1

Мне больше так нравится:

«Слияние человека и машины уже началось»

Командор Джон Шепард написал заметку о том, почему стоит выбирать "зеленую" концовку в Mass Effect 3.

Ответить
0

"Altman be praised".

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

0

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Нейронная сеть научилась читать стихи
голосом Пастернака и смотреть в окно на осень
Подписаться на push-уведомления