Технологическая сингулярность началась

Технологическая сингулярность — это уже не гипотетический момент в будущем, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации, а настоящее.

Гонка за интеллектуальное превосходство машин над людьми буквально началась. Вчера, в один день произошло сразу четыре громких события:

Создание искусственного интеллекта, сопоставимого с человеческим, стало реальностью. Теперь все силы будут брошены на создание еще более мощных систем. Это означает, что конкуренция будет всё более жестокой, и каждый участник борьбы будет держаться за свои разработки, не раскрывая подробностей того как всё устроено, что вероятнее всего приведет в конечном итоге к потере контроля и понимания того, к чему всё это приведет.

Многие могут оспаривать эти выводы, но я убежден, что это так. Экзистенциальные риски для человечества не остановят участников гонки, и за примером далеко ходить не нужно, просто посмотрите о чем говорят сами разработчики подобных систем.

Предлагаю обсудить данную тему в комментариях под этим постом.

И по классике приглашаю подписаться на мой канал, который теперь будет вести тот самый ChatGPT, и да, данная тема взята у Сергея Карелова.

0
18 комментариев
Написать комментарий...
new_comment

С нетерпением жду наступления технологической сингулярности и технократии.
Пока же до этого ещё далеко. Несмотря на кажущийся триумф науки и техники большинство людей всё ещё верят в богов и разнообразную эзотерику. А технически продвинутые страны ничего не могут сделать с сумасшедшими диктаторами. Вот когда ИИ сможет найти решение, как победить автократов, коррупцию и прочие беды примитивных обществ, тогда и можно будет сказать, что наступила сингулярность. А пока - это игрушки.

Ответить
Развернуть ветку
Maksim Shcheglov
Автор

А вы уверены что ИИ будет искать решение как победить диктаторов, а не наоборот, например как подчинить остальных?

Ответить
Развернуть ветку
new_comment

Уверен. Мы же тут не про восстание машин говорим, а про технологическую сингулярность - этап развития человечества, когда технологическое развитие станет настолько быстрым, что это изменит само общество. Пока же миром правит невежество, бюрократия и низменные инстинкты, а все мировые суперкомпьютеры ничего не могут с этим сделать.

Ответить
Развернуть ветку
Maksim Shcheglov
Автор

Я вот там ссылку оставил к фильму, рекомендую посмотреть. Пока миром правит жадность и жажда господства, а технологии лишь инструменты. Складываем один плюс два и получаем что все движется в сторону, когда технологическое развитие станет настолько быстрым, что мы вероятнее просто уничтожим это общество.

Ответить
Развернуть ветку
new_comment

Так я и говорю: пока не видно сингулярности.
Сингулярность будет, когда замкнётся цикл: научные достижения используются обществом для новых достижений. В IT так и было, пока IT развивалось обособленно. Но когда IT стало влиять на общество, сразу из всех щелей полезли чиновники, законодатели, регуляторы. Все эти законы Яровой, обязательная идентификация в интернете, запреты криптовалюты - это палки в колёса прогресса, которые вставляют нынешние дикие правители, боящиеся потерять власть. Я ожидаю скорых запретов на ИИ-судей, ИИ-юристов, ИИ-чиновников. Текущие элиты будут защищаться от прихода технократов. Но по сути, всех депутатов можно заменить на одну нейронную сеть. Потому что депутаты не занимаются ничем, кроме трёпа, а НС сможет принимать законы, необходимость которых научно обоснована. Вот когда власть перейдёт от дикарей к технократам, тогда и наступит сингулярность.

Ответить
Развернуть ветку
Бип
Ответить
Развернуть ветку
Алексей Егоров

Не существует технически продвинутых стран, существуют технически продвинутые люди. В какую они страну поедут - та и будет технически продвинутой. Я предлагаю никуда не ехать.

Ответить
Развернуть ветку
new_comment

Есть технически-продвинутые страны, которые владеют передовыми технологиями. Остальные страны имеют слабые шансы их догнать и перегнать.

Ответить
Развернуть ветку
Алексей Егоров

Ну да. Например, Россия обладает передовыми технологиями в ядерной энергетике, в частности в обогащении ядерного топлива. А особенно актуальными являются разработки по замкнутому ядерному циклу, который может обеспечить население планеты на следующие 3000 лет энергией. Имеют ли остальные страны шансы догнать и перегнать? Глупо говорить, что нет. Но эти шансы действительно слабые.

Ответить
Развернуть ветку
new_comment

Сперва нужно разобраться, что там за технологии. Про ЗЯЦ уже не первое десятилетия говорят, а воз и ныне там. Когда были разоблачены фейки про Арматы и гиперзвуковое оружие нужно с повышенным скептицизмом относиться к "не имеющим аналогов" технологиям.

Имеют ли остальные страны шансы догнать и перегнать?

Для этого нужно, чтобы остальные страны хотели этим заниматься. А вот Германия, например, движется в прямо противоположном направлении.

Ответить
Развернуть ветку
Алексей Егоров

Кто разоблачил эти фейки? Где разоблачение с доказательством? А про Германию сказать нечего - эта страна, которая не обладает способностью принимать свои решения. В Америке дофига АЭС. Топливо для АЭС делать сложно, Американцы сами утратили свои технологии, а новые не изобрели. Поэтому им не выгодно, чтобы кто-то еще имел спрос на ядерное топливо, кроме них. Если нет спроса - топливо будет дешевое. Вот они и слили Японию, за одно и Германию. Если говорить простым языком - немцы идиоты. Но это не так. У них нет выбора. Когда у тебя нет армии, а в твоей стране 150 тыс солдат чужой армии - не очень-то ты можешь что-то против сказать.

Ответить
Развернуть ветку
Ксения Крылова

Меня этот ИИ явно пугает, он должен, по сути, помогать, а не отнимать в будущем работу или не сеять ужас робо-апокалипсиса

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Надежда Барбина

в том то и дело. Что ии пока заменяет не рутинную и черную работу - типа дворников, санитарок, проводников или шахтеров. А творческую и интеллектуальную - дизайнеры, копирайтеры, аналитика, частично программирование

Ответить
Развернуть ветку
Алексей Егоров

Прошел месяц с лишним, а уверенность в наступлении сингулярности через превосходство у меня лично усиливается. Сначала я познакомился с Midjourney и был в шоке, потом GPT4, и, похоже, по нарастающей. Жутковато становится. Но я уверен, что свою работу программиста я не потеряю - должен же кто-то учить ИИ как это нормально делается. Куча кода, по которому учился ИИ - плохого качества, так что есть к чему стремиться )

Ответить
Развернуть ветку
Alex Lebedev

Чё так коментов мало?

Ответить
Развернуть ветку
Maksim Shcheglov
Автор

Только опубликовал, первым будешь

Ответить
Развернуть ветку
Alex Gusev

Сингулярность - понятие философское. В математике существует, а в реальности - нет. В общем, нет повода ни для радости, ни для опасений. Есть только кликбейтный заголовок.

Ответить
Развернуть ветку
15 комментариев
Раскрывать всегда