Человек, будучи диктатором, всё равно умрёт. Но для искусственного интеллекта смерть не наступит. Он будет жить вечно. Так мы получим бессмертного диктатора, от которого нельзя спастись.
Человек, будучи диктатором, всё равно умрёт. Но для искусственного интеллекта смерть не наступит. Он будет жить вечно. Так мы получим бессмертного диктатора, от которого нельзя спастись.
В среде людей которые занимаются именно разработкой ИИ подобных страхов нету и не будет, нет оснований для таких страшилок, вообще. Но Маск человек от ИИ далёкой, он физик, предприниматель, а не исследователь. Очень странные вещи говорит про ИИ постоянно, как будто бы хочет замедлить прогресс. Не понимаю зачем.
думаю, что Нильс Бор и Ко тоже не особо испытывали страх перед тем, что может получиться из их исследований. Однако же
Маск мыслит на десятилетия вперёд. А защитники ИИ мыслят на 1-2 года вперёд.
Разумеется в 2020-м от ИИ не будет никакой угрозы, а как насчёт 2050-го?
А среди моих знакомых есть довольно подавленные настроения пополам с чёрным юмором насчёт сингулярности и опасности ИИ. Прогресс всё время ускоряется, и Маск его остановить не может.
Только обычно всё происходит не так, как предсказывают писатели-фантасты. Вот рядом не зря намекнули на атомную бомбу. Сто лет назад взрывной промышленности и технологий привёл к Первой мировой войне (после появления танков и самолётов). Во Второй мировой нам всем повезло, что Гитлер не успел завершить работы над атомной бомбой, иначе бы, возможно, мы тут сейчас не сидели.
Допустим, никакого диктаторского ИИ не будет. Но разные страны уже сейчас ведут работу над военным ИИ (роботы). Через 5-10 лет уж точно сделают что-то рабочее. Управляться они будут удалённо, конечно же. А теперь представьте, какие разрушения может нанести компьютерный вирус? Он же может пойти мочить людей. Ну как, нет основания для подобных страшилок?
А тот факт, что сейчас можно выиграть выборы, если просто запустить правильных ботов в соцсетях, это ли не опасность? Это же тоже ИИ. Безо всяких ваших боевых человекоподобных роботов. А может быть, можно и по-другому на людей повлиять, более эффективно?
А как на счёт того, чтобы какая-то корпорация сделала вдруг особенно успешных роботов? Настолько успешных, что можно захватить небольшое государство? Нет основания для такого? Вы можете доказать, что этого не произойдёт?
Все основания есть: роботы конструируются и крутят сальтухи, computer vision работает, оружие в некоторых странах можно купить...
ну курнул человек после трудного дня. А умные мысли так и прут, так и прут. Нужно же срочно поделиться ими со всем миром!
Маск чрезвычайно умный и прагматичный парень, работает на упреждение. Учитывая, что он инвестировал в AI стартапы вроде OpenAI, все это показное нытье и причитание по поводу "диктаторского искусственного интеллекта" - лишь ширма. Регуляция действительно будет, в виде, например, ограничения доступа на американский рынок китайским компаниям под предлогом "недемократичности и непрозрачности" их решений ) Что, собственно, Маск и лоббирует в интересах своих подопечных ) Суть высказывания - мы готовы демократизировать AI под ключ, только зачистите нам поле от возможных конкурентов. По мере роста рынка таких протекционистских причитаний будет все больше и больше. Честная конкуренция допустима лишь с теми, у кого заведомо выиграешь ;)
А вообще он не прав, Ким Чен ын будет жить вечно
Господа, искусственный интеллект может быть опасен и будет опасен. Страх Маска рационален.
Рекомендую послушать вот этот подкаст: https://samharris.org/podcasts/116-ai-racing-toward-brink/
Гость подкаста - Элизар Юдковский, один из ведущих мировых специалистов по когнитивной психологии и искуственному интеллекту (а ещё - автор неординарной книжки "Гарри Поттер и методы рационального мышления"), и разработчик первого "дружественного искуственного интеллекта" - такого AI, при разработке которого безопасность стоит на первом месте.
Он довольно подробно объясняет, почему искуственный интеллект будет опасен, если мы не предпримем меры на опережение.
P.S.: если вы хотите узнать поподробней, что это за человек и почему к нему стоит прислушиваться - книжка "Гарри Поттер и методы рационального мышления" будет отличным началом. Вы встретите в ней старых героев, которые попадают в экстраординарные даже по меркам Хогвартса обстоятельства - и о их приключениях написано легко, доступно, смешно, и лучше, чем даже у Роулинг.
Книжка доступна на русском языке по ссылке http://hpmor.ru/ и на английском по ссылке http://hpmor.com/
Вдруг выяснилось, что ты слишком щедр для этой аудитории.
Можно без самопиара пожалуйста?
Комментарий недоступен
Илон шикарный продавец, а все те, кто так или иначе с ним соглашается (причем боятся ИИ только на основе его мнения) просто ведутся на красивые сказочки. Что такое ИИ сейчас? Это просто класс алгоритмов (чаще всего ассоциирующееся с глубинным обучением). Теоретической базе большинства ИИ наработок уже 50-60 лет и сейчас вся эта тема стала популярна только благодаря Как сказал один российский ученый началу использования видеокарт для обучения моделей.
О каком ИИ можно говорить, когда мозг человека еще не расшифрован? Когда мы годами обсуждаем как устроены глубинные нейронные сети т.к. не понимаем процессы в них происходящие(что тем не менее не значит, что вдруг эти сети станут злыми или опасными для человека)? Для человечества больше опасности несут такие как Илон Маск, которые бабками (безусловный доход) хотят заткнуть дыры в образовании и воспитании общества. Большая часть мира не от голода, войны или ИИ умрет - она просто в конец отупеет и благодаря автоматизации богатая прослойка общество все меньше беспокоится об обществе.
| О каком ИИ можно говорить, когда мозг человека еще не расшифрован?
Копирование ЕИ не единственный вариант создания ИИ.
Как известно, человеческий интеллект формируется не сразу, он формируется под воздействием различных факторов окружающей среды: родителей, социального окружения и т.д. К тому же, эмоции и инстинкты в жизни человека играют далеко не самую последнюю роль. Если подумать, то интеллект, испокон веков позволял человеку выживать и выполнять свою биологическую функцию, именно функцию, а не цель. Целью она стала тогда, когда собственно и началось развитие человека, как интеллектуального субъекта, который осознавал, что обладает разумом. То есть искусственный интеллект не может быть похож на человеческий никаким образом, а максимум может просто копировать образ мышления мозга человека, а именно то, как проходят связи между нейронами и т.п.
Резюмируя: интеллект человека развивался под влиянием страхов и инстинктов, соответственно развитие ИИ будет развиваться так, как его запрограммирует человек, в какие искусственные рамки его поставит, и какие «нормы поведения» в него внедрят, в данном аспекте ИИ может быть опасен безусловно... злого гения-ученого из фильмов никто не отменял
Люди, которые занимаются нейронками - обычные нормальные люди, и как любые нормальные люди, они не имеют времени и желания на то, чтобы понять что такое человек. А человек - робот, обрабатывающий входящие флуктуации. И хоть сегодня термин "тоталитарный режим" - строго пропагандисткий, который в ходу скорее в западном мире, который Маск и пугает, но технически это всё ещё остаётся способом управления, который выработался в результате тысячелетних обработок флуктуаций, и который по сей день остаётся эффективным для механизма, который вырабатывался миллионы лет в наших головах и телах. А значит и разные виды сетей при надобности организации ресурсов, может прийти к любой форме этой организации, в т.ч. к манипуляцием для прямого подчинения, особенно если речь идёт про управлении людьми, мозговые механизмы которых не сдвинуть за ближайшие тысячи лет, которые работают, работали и будут работать.
Так что Маск сказал правду. Он не описал ещё пессимистичный вариант, где машины будут менять поведение настолько, чтобы это меняло людей эволюционно, чтобы они ещё больше реагировали на такое изменение и подчинение.
Страшилкам про ИИ верят только ботаники. Да ИИ может быть опасен, как и любая корявая программа или испорченный автомат, которому доверили что-то важное. Это из анекдота "кто бросил валенок на пульт". Но сам ИИ ничего не "захватит". ИИ невообразимо туп (где-то чуть тупее улитки) и будет таким, по современным меркам, вечно. Все современные ИИ вместе взятые не сопоставимы по интелекту даже с 1 насекомым (поскольку насекомое, как и любое живое существо занято сразу множноством "дел"). Конечно, для сидящего 24\7 за компом ботаника стрекоза - это свехрбыстрый инопланетянин-убийца. По мнению ботаника, умеющего нажимать на кнопки клавы и находить холодильник - стрекоза - умная и быстрая штука. Для нормального человека, знающего предел человеческого интеллекта, координации, хитрости, живучести, силы воли и выносливости - для спортсмена, художника, музыканта, изобретателя, артиста, танцора, охотника, военного, строителя - стрекоза - даже не тупое животное. Просто летающий кусок тупизны.
Тоталитарный режим в Северной Корее - это просто пропагандистский термин и на самом деле там люди свободны и прекрасно себя чувствуют?
Это на тот случай, если ИИ люди нужны вообще. У меня ощущение, как будто Маск пытается перевести свое мнение на язык общественности. Люди в большинстве пока не способны поверить в сингулярность и испугаться ее.
Пора выпиливаться с vc несмотря на иногда годные новости. Было интересно читать комментарии, чтобы понять общее отношение к новостям. Но тут уже какие-то Одноклассники пошли. Будем общаться лично и в тру сообществах.
И сделают его русские
Надеюсь, что это будет более цивилизованная страна.
в Америке, и то, если успеют сбежать до введения крепостного права
Пока что скорее китайцы. Потому что есть ресурсы и политические ценности соответствуют.
Есть очень классная российская компания eora, мне кажется они сделают это раньше
Оцифровать сознание П. Тогда ИИ и учиться быть диктатором не прийдется
Наши ученые из института исследования мозга давно ржут над темой ИИ. Машина, в любом случае не сможет никогда мыслить творчески, так как для этого нужно постоянное образование новых нейронных связей. В общем - что вложишь в программу, то и получишь.
Машина, в любом случае не сможет никогда мыслить творчески
«Летающих машин тяжелее воздуха не может быть» — Лорд Кельвин, британский математик и физик, президент Британского Королевского Общества, 1895-й год.
так то уже сейчас есть ии диджеи которые музыку штампуют.
| нужно постоянное образование новых нейронных связей
А ИНС, блин, не образовывают новые связи?
Хорошее правило стартапера, живещего на инвестиции:
1. Постоянно о себе рассказывай: о фантастических и безумных идеях, о планах покорить мир, либо просто высказывайся по повестке для (чем противоречивей вбросишь - тем лучше).
2. Проси денег.
3. Делай хоть что-то.
4. Обьясняй, почему не получилось и что надо чуток подождать.
5. Повтори с п. 1
Только технологии спасут этот мир. Внедрите ИИ в судебную систему, и вот вам непредвзятый судья, неподкупный и строго следующий букве закона. Ах да, наши законы же не совершенны, нужен ИИ, чтобы писал законы. А исполнительная власть, она же тоже не совершенна, нужен ИИ полицейский и т.д. Думаю, его опасения не безпочвенны.
Я лучше буду прислуживать своему тостеру, чем всяким плешивым царям. Машине хотя бы не нужны деньги, одежда, элитные автомобили (ахахах) и секс. Этот совершенный логический разум будет думать о более сложных задачах, чем биологические куски мяса.
Глядишь судья и законы знать будет, и трактовать их всегда одинаково))))) заживем)))
Комментарий недоступен
Эта тема фантастами уже лет сто как обсасывается со всех сторон. В чём новость-то? Что нового Маск сказал?
Комментарий удалён модератором
а вы знаете?
Может так и должен выглядеть конец человечества:
- отреклись от совершенного интеллекта, который создал их (Бог)
- стали рабами или уничтожены интеллектом, который сами же создали
Какой может быть более позорный конец?
Про бога шутка? Его не существует, это до ужаса очевидно.
Этот конец прекрасен
По-моему, Маск тут прав. Другое дело, что прогресс уже не остановить, но о возможных проблемах надо задумываться уже сейчас
Говорить об опасностях ИИ смешно. Решения принимают люди. Если рано или поздно элиты станут настолько некомпетентны, чтобы безоговорочно верить программе (пусть даже и крутой) - их дни закончатся скорее, чем их управление успеет наделать делов.
То же самое и по части производства - какой, черт побери, процент мирового ВВП берет на себя крупное роботизированное производство? И какой - дешевый, порой нелегальный, труд узбеков, пакистанцев, малайзицев и т.д.? Зачем строить полностью автономный завод управляемый ИИ, если легче сначала организовать войну, а потом согнать население, готовое работать за плошку риса, собирать ваш продукт?
Во-первых, табакерку никто не отменял. ИИ нужны вычислительные мощности, нужно электричество. Переключил автомат в датацентре и нет ИИ.
Во-вторых, диктатор потому и диктатор что сначало он жаждет власти и богатства, а получив, в страхе за свою жизнь и все потерять, держиться за трон до конца.
Комментарий удалён модератором
так это и есть его предпринимательское дело - рассказывать сказки и страшилки
Интересно как он задумал монетизировать беспочвенный страх который он зачем-то нагнетает?
Создадут компанию выдающую лицензии на ИИ :)?
Или это просто чтобы быть на слуху.
Насколько мне известно он в open AI разрабатывал искусственный интелект для всех, по крайне мере хотел.
Таки да надо аккуратнее
Мне кажется что при ИИ диктаторе человечество будет жить лучше в миллионы, а то и десятки миллионов раз, чем при кожаных ублюдках во главе.А как вы думаете?
Ага, в матрице будут жить, или на кладбище.
Чтобы капитализировать микро-миф, нужно распиарить макро-миф.
Разархивруйте плиз вашу глубокую мысль
Военка, нефтянка, фарма, агро, химия, и ещё можно долго перечислять эволюционные ходы в разных сферах, которые имеют целые шлейфы деструктива.
И после этого кто-то надеется, что ИИ фартанет?
Не думают те, кому, в принципе пох*й на то, что творится вокруг него.
ну так иди в политику и запрети на законодательном уровне работу над ИИ, зб
Настолько опасный ИИ несможет на одном Макбуке работать будет какой нибудь суперкомпьютер. Который автоматически станет мишенью конкурирующей страны и будет разработана возможность его уничтожения и наоборот. Как это Маск спокойно ночью спит зная что РФ Китай Индия и Пакистан (да и любая другая страна даже союзная) могут в любой момент уничтожить пол США.
Любое действие имеет противодействие, плюс человек так устроен что властью ни с кем и ни с чем делиться незахочет.
Мы уже гибнем уничтожая планету на которой живем. ИИ ускорит процесс сохранения планеты/жизни в её проявлении. Ибо многообразие жизни само по себе Чудо. Высшее создание.
Как говорится: "на воре шапка горит".
Хитренький он, всем говорит что"ИИ-опасно" , а сам по-тихоря вкладывается в ИИ!
Для осознания бессмысленности этого высказывания Маска достаточно ответить на вопрос: являются ли современные наработки в области ИИ хотя бы грубой аппроксимацией модели человеческого мышления? Иными словами, can computer programs think? Ответ очевиден. Любой даже самый навороченный алгоритм - это всего лишь набор инструкций, записанный хитровыдуманной нотацией (=язык программирования). Используя эти алгоритмы, можно написать биржевого бота, который будет совершать операции купли-продажи в интересах владельца или рассчитывать траектории баллистических ракет. Казалось бы, сложные задачи. А теперь представим 5-летнего ребенка, который идет по улице и вдруг решает плюнуть в лужу. Механизмы возникновения этого события не способна объяснить ни одна из существующих моделей ИИ, именно потому, что "архитектура" человеческого мозга имеет мало общего с придуманным человеком куском железа под названием "компьютер". Определенные опасения могут быть связаны со сбоями в работе ИИ, но Маск имеет в виду именно программу, обладающую волей и сознанием, что на данном этапе развития науки является фантастикой.
Есть такой хороший, но забытый термин, который обозначает людей борющихся против инноваций - луддиты и неолуддиты. Маск неолуддит, совершенно не разбирается в технологии о которой говорит, скоро будет с молотком хуярить по дата-центрам с ИИ.