Оффтоп Albert Khabibrakhimov
5 853

Марк Цукерберг назвал «безответственными» предупреждения Элона Маска об угрозах для человечества из-за развития ИИ

Глава Facebook Марк Цукерберг назвал предупреждения Элона Маска и других предпринимателей Кремниевой долины об угрозе развития ИИ для человечества «довольно безответственными». Об этом он заявил во время видеотрансляции в соцсети, передаёт CNBC.

В закладки

Цукерберг отвечал на вопрос одного из пользователей, звучавший следующим образом: «Недавно я смотрел интервью с Элоном Маском, где он рассказал о большом страхе перед ИИ в будущем. Что вы думаете об искусственном интеллекте и как, по-вашему, он может повлиять на мир?».

Глава Facebook назвал «довольно безответственными» сценарии конца света по причине развития искусственного интеллекта. Цукерберг уверен, что в ближайшие пять-десять лет ИИ сделает жизнь людей только лучше.

Я просто не понимаю скептиков, пытающихся подстегнуть интерес к сценарию «судного дня». В какой-то степени это довольно безответственно с их стороны, это негатив.

— Марк Цукерберг
глава Facebook

В середине июля глава Tesla и SpaceX Элон Маск выступал перед губернаторами США и назвал искусственный интеллект «основной угрозой» для человечества. Предприниматель предупредил, что развитие технологий ИИ могут стать причиной безработицы и даже войн.

Маск призвал разработать меры контроля развития ИИ. По его словам, это необходимо сделать, пока не стало «слишком поздно».

В 2016 году Цукерберг говорил, что технологии искусственного интеллекта не могут выйти из-под контроля, поскольку «это всего лишь» математика, статистика, распознавание образов и большие объёмы данных. По его мнению, в будущем системы ИИ получат наибольшее распространение в двух областях: распознавание образов и обучение.

Обновлено 25 июля. Элон Маск назвал «ограниченным» понимание Цукерберга о будущем искусственного интеллекта.

«Я говорил с Марком об этом. Его понимание темы ограничено», — написал Маск в своём Twitter-аккаунте в ответ на просьбу одного из пользователей прокомментировать заявление Цукерберга.

Когда главу Tesla попросили более подробно сформулировать свою позицию, он ответил, что сделает это очень скоро.

#новость #марк_цукерберг #элон_маск #искусственный_интеллект

{ "author_name": "Albert Khabibrakhimov", "author_type": "editor", "tags": ["\u044d\u043b\u043e\u043d_\u043c\u0430\u0441\u043a","\u043d\u043e\u0432\u043e\u0441\u0442\u044c","\u043d\u043e\u0432\u043e\u0441\u0442\u0438","\u043c\u0430\u0440\u043a_\u0446\u0443\u043a\u0435\u0440\u0431\u0435\u0440\u0433","\u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439_\u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442"], "comments": 104, "likes": 22, "favorites": 1, "is_advertisement": false, "subsite_label": "flood", "id": 25382, "is_wide": false, "is_ugc": false, "date": "Mon, 24 Jul 2017 21:54:01 +0300" }
{ "id": 25382, "author_id": 53259, "diff_limit": 1000, "urls": {"diff":"\/comments\/25382\/get","add":"\/comments\/25382\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/25382"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199791 }

104 комментария 104 комм.

Популярные

По порядку

Написать комментарий...
12

Это не такая большая проблема. Просто не давайте железяке много философствовать на темы не касающихся работы, это практика успешно работает на людях сотни лет.

Ответить
4

На солдатах хорошо работает.
Самая страшная опасность для любого солдата, любой армии – это не враг, а безделье

Ответить
12

Кто ещё не слышал о Google A.I. Experiments, зайдите и просто поэкспериментируйте с этими самыми банальными возможностями ИИ от Google: https://aiexperiments.withgoogle.com/

(Рекомендую использовать ПК, для полного удобства работы приложений)

Эти экспериментальные приложения, как минимум, заставят вас задуматься о словах Маска. Если общедоступные экспериментальные приложения ИИ могут такие вещи, то что, интересно, они уже сегодня тестируют в своих секретных лабораториях?! А о недалёкой перспективе вообще страшно становится задуматься.

Нельзя просто игнорировать заявления такого технаря как Маск. Думаю он знает о чем говорит.

Ответить
1

Вы путаете машинное обучение (по ссылке) с ИИ. Это разные вещи. Могу порекомендовать https://habrahabr.ru/company/kaspersky/blog/315326/

Ответить
1

> Если общедоступные экспериментальные приложения ИИ могут такие вещи, то что, интересно, они уже сегодня тестируют в своих секретных лабораториях?! А о недалёкой перспективе вообще страшно становится задуматься.

Я одного не понял. Чего вы такого страшного по ссылке-то увидели?

Ответить
0

Страшнее нативной рекламы, "читающей" открытые письма в Gmail, и подсовывающей соотв. рекламные объявления - я думаю - еще поискать надо было :)

А тут нарисовал два кружочка - тебе говорят - это велосипед, ой да ладно, а я-то хотел сиськи нарисовать ...

Ответить
0

Мне кажется, Вы путаете предсказуемость людей (их шаблонное мышление, стереотипы), которую действительно можно запрограммировать, и настоящий ИИ.

Был неприличный ролик про Google AI Draw, где автор все время рисовал кхм ну заборную тематику ... а Google опознавал это как огурец, то банан, то мост, утку, автомобиль ...

Ответить
2

Я не хотел бы сейчас заниматься оценкой ИИ Гугла. Это уже другая тема. Моя основная мысль - это то, что есть доля правды в заявлениях Маска. Более того, лично я считаю, что комментарий Цукерберга о "безответственности" слов Маска более безответственнен, нежели само заявление Маска.

С учётом геометрической прогрессии темпов развития IT (и AI в частности), как минимум стоит принять определенные меры для контроля данного развития и не пускать все на самотёк. Хотя с другой стороны, как можно держать под контролем технический прогресс?! Стремление человека к новым знаниям + его любопытство всегда было и будет сильнее каких-либо юридических канонов..

Ответить
1

Общие соображения и ощущения - это хорошо, но это же США, там деньги всегда на первом месте.

Грубо говоря, скажет миллиардер "Я думаю, что добился всего благодаря тому что всегда предпочитал белые автомобили" - уже назавтра народ предзакажет именно белых автомобилей, и цена акций лакокрасочных компаний с наиболее богатой палитрой белых оттенков, вырастет.

У Маска финансовый интерес в подогревении страхов перед ИИ (уже 3 раза здесь писал почему).
У Цукерберга - по каким-то причинам - другая позиция.

И их заявления непосредственно влияют на курс акций и стоимость компаний в сфере ИИ.

Ответить
0

Вы, мягко говоря, мало понимаете в этой теме. ИИ- это как джин. Он может всё (ну а смысле сможет, наверное, и не всё, а просто в 1000 раз быстрее человека). Но он не может одного- желать. Чтобы ИИ поставил себе цель- уничтожить человечество или изобрести лекарство от рака- туда нужно запихнуь сознание человека. И не абстрактного, а определенного. Сама по себе нейросеть, какая бы крутая она ни была не может целеполагать. Во-вторых, все эти тн ИИ однозадачны. Например, нейросеть обученная на распознавание рака легких, будет это делать в 100 раз лучше врачей и оставит многих без работы, но она не не сможет отличить яблоко от лампочки. Но на человека это конечно производит впечатление и он начинает хвататься за голову "Если за год такой прогресс в распознавании рака, то через год ИИ заразит все человечество раком". Да, наверное, только если программисты натаскают его нейросеть на эту цель

Ответить
0

Ну он как бы не технарь, он программист (в прошлом) и бизнесмен - прежде всего PR-щик.

Ответить
1

Все же поправлю вас: Маск получил высшее образование по физике, и даже был принят в аспирантуру Стэнфорда по прикладной физике. Программирование было после.

Ответить
7

Надо им дебаты срочно устроить на первом или на дожде

Ответить
6

Теперь ясно, кто мыслит глобально, а кто использует ML только для подсказок в рекламе :^)

Ответить
1

Теперь ясно кто разрабатывает ИИ, а кто не успел забежать в вагон машиниста.

Ответить
0

И что же такого глобального сказал Маск? :)

Ответить
0

Кто мыслит реалистично, а кто раздувает хайп?

Ответить
3

Нет ничего страшного, пока это просто математика, и она например делает маски в снэпчат. Другое дело когда у машины есть доступ к ресурсам города, например для обеспечения энергосбережения. Разумеется что в ближайшие 50 лет машины сами себя создавать не смогут. Но ёбнуть ракетой по Ирану из-за какого-то бага вполне возможно. ИИ это очень круто и необходимо для общества, но такие вещи необходимо контралировать. Хз зачем я эту тут пишу, всё-равно твой стартап не связан с ИИ же да?

Ответить
5

1. "Спас мир от ядерной войны" в поиск - без ИИ, просто на глюке системы раннего предупреждения 26 сентября 1983 года могла бы начаться ядерная война. Должна была бы начаться, если бы 1 человек не потянул время (нарушив четкие и внятные инструкции).

2. Далее, между ИИ и "контролировать" есть несоответствие. В любом сложном программном продукте за год находят десятки (сотни) багов, их выявляют тестеры и пользователи, программисты правят старые багы и невольно вносят новые.

Если мы говорим о ИИ, который будет иметь доступ к своему исходному коду - то всё, приехали. А без этого доступа - он не совсем ИИ, так.

3. "ИИ это очень круто и необходимо для общества"
Обоснуйте?

Ответить
2

1. Читал статью, если Вы об этом: "из-за сильной вспышке на солнце полетела инфраструктура по, что спровоцировало непонятные циферки на экранах?"

2. ИИ - это та же нейросеть, только сложнее в 1000-чи раз. Могу в пример привести человека, есть плохой человек, есть хороший. У каждого своя идеология, взгляды и убеждения. Также и с умной машиной. Необходим приоритет на поступки и область видимости информации и её эксплуатации.

3. А теперь представьте себе огромный дата-центр. Десятки тысяч серверов. И петабайты обработанных данных в минимальный промежуток времени. В считанные дни новые открытия, лекарства, технологии и т.д.

На то что Вам понадобилось бы миллионы лет, дел бы ИИ за 15 минут.

Ответить
2

На то что Вам понадобилось бы миллионы лет,

дел бы ИИ за 15 минут.

Нам это обещают с момента появления компьютеров, не так ли? Вычислительная мощь растет, логика (пока) не меняется.

Для большинства описанных Вами открытий недостаточно мат. моделей, требуются натурные эксперименты (физика и химия).

Если брать медицину, то в 99% случаев она работает по принципу "мы до конца не знаем как это происходит, но для этих анализов и симптомов есть 2-3 метода лечения, которые работают".

Т.е. речь идет прежде всего о "анализаторах", "датчиках", "сканировании" - методики сбора информации, например межклеточного взаимодействия, в организме.

Ответить
0

Я никогда не видел ИИ, я не знаю как это должно работать. Я знаком с машинным обучением, но вот так взять и создать штуку, которая будет понимать твои цели, а не наборы команд. Это очень и очень круто. И Это даже возможно, но даже у самого крутого ИИ, будет существовать порог вхождения. Где либо он тебя перестанет понимать либо ты его. В моем понимании ИИ - это динамическая проработка углублённых алгоритмов.

Ответить
4

Нашел сценку, представьте что в роли молодого - робот с ИИ :)

Ответить
1

Вот что значит хорошо обученная нейросеть против плохо обученной))

Ответить
2

У одного писателя есть образ идеального солдата - который бежит в атаку, и ИИ его комплекса (связь/броник/оружие/медпакет - все сразу), по мере необходимости впрыскивает в него стимуляторы, при ранении обезболивающее. При запредельных травмах (когда жить осталось 1-2 мин) - вкачивает вещества, позволяющие эффективно вести бой и испытывать радость до самой смерти (не чувствуя боли).

Это я к чему - проблемы 1 человека (при любой реальной ситуации) можно затушевать изменением гормонального баланса, и поддерживать человека в таком состоянии сколь угодно долго.

Проблемы групп людей - когда требуется что-то реально сделать, чтобы изменить ситуацию - зачастую просто выдуманы, сиюминутны, а их решения запаздывают - проблема исчезает сама собой.
С этим связана мудрость программеров: "Прежде чем бросаться что-то делать, подожди 2-3 дня, может все изменится". Ну и сценка Райкина была про железную дорогу, аналогичная.

Поэтому "понимать Ваши цели" невозможно, потому что люди декларируют одно, а хотят другого :)
Понимать цели группы - описал выше, еще сложнее.

Исследовать и искать что-то новое - многие открытия совершены случайно, и эта "рандомность" научного процесса, мне кажется, ИИ не может быть воспроизведена.

Так-то, дядечка Невзоров говорит почему-то, что дальнейшему развитию технического прогресса мешает ограниченность человеческих языков (или построенных на его логике компьютерных языках), а также иногда такие вроде некомпьютерные штуки - как мораль, ориентация во всех наших действиях на деторождение (передачу _своих_ генов дальше), конечность человеческой жизни и т.д.

Ответить
1

Современные программные системы невероятно сложны и точно так же подвержены ошибкам. Поэтому совершенно непонятно зачем нужно дополнительное регулирование специально под AI.

Ответить
0

Некоторые вещи неподвластны стандартным алгоритмам. Мир сейчас работает над машинным обучением: нейросети/градиентный бустинг и еще куча технологий. Однако это лишь малая часть того, что можно получить при помощи ИИ. Ну я уверен на 100%, что это две стороны медали, мне лично очень интересно в какую-же сторону будет перевес.

Ответить
1

Где больше можно заработать, как всегда.

Ответить
1

Это каким сумасшедшим надо быть, чтобы давать доступ ИИ к запуску ракеты.

Ответить
0

Напугать? Доступ систем принятия решения к запуску межконтинентальных ракет был ещё в СССР. В том или ином виде эти системы есть у каждого ядерного государства.
https://ru.wikipedia.org/wiki/%D0%A1%D0%B8%D1%81%D1%82%D0%B5%D0%BC%D0%B0_%C2%AB%D0%9F%D0%B5%D1%80%D0%B8%D0%BC%D0%B5%D1%82%D1%80%C2%BB

Ответить
0

Ну вообще для начала отслеживания удара человек активирует систему и только потом идет автоматизация жестко запрограммированных действий.

Ответить
2

Все просто ребята. Цукерберг прав, и вот почему:
1) ИИ - искусственный интеллект. Свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека, эти свойства задаются человеком. Например был создан искусственный интеллект для конкретной задачи с конкретными свойствами игры в шахматы. Этот искусственный интеллект не сможет захватить мир и поработить человечество, по простой причине потому что ему не были заданны такие свойства, он умеет играть в шахматы и все.
2) У тех кто до сих пор не понял, может возникнуть вопрос, а что если сделать искусственный интеллект с заданными конкретными свойствами "Порабощения человечества" XD?? Ну тут все просто, такой искусственный интеллект сделать просто не возможно по не скольким причинам:
2.1 - Нужно создать саморазвивающийся искусственный интеллект во всех направления (которых будет более млрд). Играть в шахмоты это одно направление. Спускаться по ступенькам это второй направление итд..
2.2 - Даже сеть самых мощных квантовых компьютеров в мире просто не сможет справится с потоком данных, по этому в ближайшее 300-3000 лет врятли появится саморазвивающийся ИИ.
2.3 - У ИИ не существует сознания которое присуще человеку и другим живым существам. У ии заданы конкретные свойства, например для игры в шахматы.
Хоть я встал на сторону Цукерберга (или он на мою), все же маск поднимает тревогу не напрасно, и пытается привлечь правительство к этому вопросу для регулирования разработок в сфере ИИ. Плохие люди, могут изобрести ИИ в плохих целях, и вот это уже является проблемой. Сам же ИИ в ближайшие пару веков, угрозы точно не представляет.

Ответить
2

Мне кажется вы несколько переоцениваете сложность создания саморазвивающегося интеллекта. Достаточно чтобы он хоть как-то научился понимать текст и расти, а дальше в его распоряжении для обучения доступен весь интернет и он очень быстро поумнеет.

Ответить
2

Уже есть ИИ понимающие текст и даже делающие бизнес-анализ текста. Но так как его больше ничему не учили, то он больше ничего и не делает. А разработать ИИ, который как человек может сам обучаться ВСЕМУ подряд и ставить себе цели видимо еще долго не смогут по одной простой причине- человек еще сам толком не знает как работает его интеллект, почему он у него работает в миллион раз лучше, чем у шимпанзе и тд. То что вы говорите станет возможно, если в компьютере воссоздать модель мозга человека, а для воссоздания надо знать как этот мозг работает. Дальше этот искусственный мозг надо обучать в КУЛЬТУРНОЙ среде, то есть в окружении людей. Представьте ребенка, которого научили читать и заперли на 15 лет в национальной библиотеке. Если вы думаете, что через 15 лет оттуда выйдет интеллектуал вы ошибаетесь- оттуда выйдет немытый вонючий дикарь.

Ответить
1

Для этого не обязательно знать как работает интеллект. Достаточно придумать способ его увеличивать. И разница с шимпанзе не такая уж большая, не льстите себе. :) Воссоздать тупо нейронной сетью с таким же количеством нейронов смогут достаточно скоро. И интернет это не про запереть в библиотеке. Взять хотя бы того же майкрософтовского бота для твиттера которого быстро плохому научили.

Ответить
0

Вот именно-научили. Все эти ИИ надо учить. И во-вторых, микрософтовский бот не понимал разницы между гитлером и белкой.

Если вы думаете, что можно на чипе создать аналог неокортекса и из этого получится ИИ, который захочет что-то- значит вы совсем не понимаете даже на какой стадии находится наука в этой области

Ответить
1

Ну научится он разговаривать, и понимать смысл вещей, но сами вещи потрогать, посмотреть, попробовать не сможет. Представь что ты знаешь что такое Мороженное, но никогда его не про бывал.
Ну и нет, я ничего не переоценил, до сих пор не смогли создать ии который бы в покер научился выигрывать (как это произойдет, бизнес покер румов пропадет, потому что появятся боты с ии для игры в покер, и начнут выкачивать деньги. Ну а если начнут бороться с этим, то врятли смогут выйти снова на рентабельность, но это уже отдельная тема.) а ты говоришь про саморазвивающийся ИИ в более чем не скольких млрд направлениях )))) Я как раз таки все оценил.

Ответить
0

Вы зря стараетесь :(

Ответить
0

для регулирования разработок в сфере ИИ

не-а, для гос. финансирования его организации
"В 2015 году Маск вместе с сооснователем PayPal Питером Тилем, партнёром Y Combinator Сэмом Альтманом и другими инвесторами основали некоммерческую организацию OpenAI для исследования безопасного развития технологии ИИ. Инвестиции в создание организации составили $1 млрд. "

Ответить
3

Марк дело говорит. Пока что железо еле тянет информацию с датчиков одного автомобиля в реальном времени, а они уже панику разводят.

Хотя сам же Маск говорил про те же беспилотные автомобили, что разработать технологию проще, чем из чиновников разрешение выбить.

Ответить
0

Да на здоровье - при массовом производстве технология беспилотных автомобилей будет стоит $99 и полдня в сервисе (на любой автомобиль после 1996 года).

Вопрос в том, что _отвечать_ за последствия их внедрения Маск не хочет (и никто не захочет).

Ответить
2

То, в чём я принципиально согласен с Маском — это необходимость регулирования экономики связанной с AI. Чтобы не получилось так, что от развития технологий выигрывает небольшой круг людей, а менее удачливые стремительно беднеют, теряют работу и оказываются невостребованными в обществе.

Это — реальная проблема здесь и сейчас, особенно в Штатах.

Ответить
1

1. Как предлагаете регулировать?
2. Деятельность Маска - проблема для аэрокосмической отрасли России (да и США, Китая и т.д.) и людей, работающей в ней.
3. Когда Маск, PR-щик новых технологий, привлекающий под них деньги инвесторов (основная работа последние годы), вдруг заделывается алармистом - нужно понимать почему ЕМУ это выгодно, и в чем ЕГО интерес
4. Его предыщущая деятельность не выявила особой социальной ответственности ...

Ответить
0

1. Адекватная новым реалиям налоговая система. За примером далеко ходить не надо — во многих богатых нефтью странах с околонулевой себестоимостью добычи налог на ископаемые может составлять 98%. Здесь — ровно та же ситуация, вид из 2017 года.

2. Не согласен в корне. Маск и Безос — выходцы из IT и их архиважное достижение в том, что они принесли лёгкую и эффективную систему управления в физическое производство. На Ютубе есть отличное интервью с бывшим инженером NASA (гуглите Dan Rasky), который признаёт, что Аэрокосмическое агенство обладает очень архаичной и забюрократизированной системой управления. Поэтому-то Маск и ускакал вперёд.

Что про отечественный космос: Протон — это надёжно и дёшево, но любая технология рано или поздно выбывает из экономики. При Китай не знаю, думаю у них приоритет — военный космос.

Ответить
1

1. Налогами давить ИИ, который думает бесплатно, только быстрее? Кхм
2. Маск (прочитайте Вики), программист и далее (извините повтор), бизнесмен PR-щик.
NASA - безусловно over бюрократизированное государственное ведомство, частично под контролем военных. Которое никуда не уходит, просто _пока_ отдало на outsource часть _своих_ технологий (и инженеров, очевидно).
3. Мы не обсуждаем чем плоха или хороша та или иная космическая технология. Но конкретно сегодня - работа Маска угрожает рабочим местам в аэрокосмической отрасли (всего мира). А говорит он при этом про опасность ИИ, не странно ли?

Ответить
1

1. Будем грабить ИИ?

Ответить
0

Нет, не будем. По сути речь идёт о плавном переходе от налога на доход физлиц к налогу на прибыль. В результате сокращение числа рабочих мест будет компенсироваться ростом зарплат и стимулировать к освоению более сложных видов деятельности.

При экспансии роботизации и ИИ-изации рано или поздно настанет момент, когда у определённой части населения не будет работы от слова совсем. Но это уже совсем другая история про безусловный базовый доход и т.д.

Ответить
0

Понятно, будем грабить и дальше

Ответить
0

Поясню 2. - "уже сейчас ставит по угрозу сохранение их рабочих мест"

Ответить
0

Не согласен. Все, что регулируеься государством в итоге оказывается более нерациональным, убыточным и неэффективным для граждан.

Ответить
1

Я как и вы настороженно отношусь к госрегулированию, но по мне диктатура корпораций — это ещё страшнее. Цель бизнеса по определению — генерировать прибыль. И без противовеса в виде государства, общественного мнения и репутационных механизмов она может принять гипертрофированные формы. За примерами далеко ходить не надо — Дизельгейт и Убер.

Ответить
–1

Диктатура корпораций ненасильственна в отличие от диктатуры государства. То есть вы можете в любой момент отказаться от услуг любой корпорации и перейти к другой. С государством так не получится.

То, что вы предлагаете- раз у корпораций так вырастет производительность, пусть они поделятся. Потому что переучиваться на новую работу не хочу, а кушать хлеб с маслом по прежнему надо. Кто в этом виноват? Конечно вот этот козёл Джон, который меня уволил и НА СВОЕМ заводе ЗА СВОЙ СЧЕТ установил робота, который делает в 5 раз больше меня. Какого черта Джон не подумал обо мне, а о своей прибыли? Поэтому пусть делится.

Ответить
1

> Диктатура корпораций ненасильственна в отличие от диктатуры государства.

Вы уверены? Посмотрите, что сейчас делает Amazon с индустрией продажи продуктов. А Google? — у вас большой выбор каким поиском пользоваться или через кого продавать рекламу? А Facebook — большая у вас альтернатива?

> То есть вы можете в любой момент отказаться от услуг любой корпорации и перейти к другой.

Если нет монополии. А по факту сфера IT поделена между большими корпорациями и туда уже не протиснуться мелким игрокам — https://vc.ru/p/the-end-of-the-internet-startup

> То, что вы предлагаете — раз у корпораций так вырастет производительность, пусть они поделятся.

Да, именно так. Иначе рано или поздно наступит момент, когда у корпораций будет больше ресурсов чем у государства и ничего хорошего из этого не выйдет.

> Потому что переучиваться на новую работу не хочу, а кушать хлеб с маслом по прежнему надо.

Поток новой информации сейчас такой, что попробуй ещё переучиться. Тем более, что если было 1000 работников, а их заменили на роботов с обслуживающей группой в 100 человек, то что делать остальным 900? 9 новых производств, где они могут заниматься более высококвалифицированным трудом за ночь не появятся.

Ответить
–1

1. Амазон и Гугл насильно заставляют вас пользоваться их услугами? Если я пользуюсь онлайн-магазином Амазон, то потому что это мне выгодно по цене, а не потому что Амазон под дулом пистолета заставил меня покупать. Но тут появляется Денис Кулагин и говорит "Это плохо, надо ограничить Амазон". Слушайте, если вам плохо- не пользуйтесь, а меня и Амазон оставьте в покое, вас наши взаимоотношения не касаются

Ответить
–1

2. То есть вы все таки можете воспользоваться услугами мелких игроков, но не хотите, потому что вас цены и условия этих игроков не устраивают. Но в то же время хотите продолжать пользоваться услугами крупных фирм и навязать крупным корпорациям свои условия и цены. Это попахивает рекетом.

Ответить
–1

3. В 1917 году это уже проходили. "Грабь богатых". Вы можете под любыми лозунгами оправдывать грабеж, но от этого оно не перестает быть грабежом. Можете хоть философский трактат написать об оправдании грабежа- вы преступник. С преступниками я не веду диалог. Прощайте.

Ответить
0

Денис, хотелось бы конкретики, а не общих слов :)

Предлагаю для примера разобрать текущий гос. контроль над наркобизнесом - сильно хорошо получается контролировать?

Если такой пример не годится - возьмем смежную отрасль - фармацевтическую промышленность.

Законодательных актов море, но фармацевты делают что хотят с исследованиями и медициной, и никто им помешать не может.

Ответить
2

Маск имел ввиду, что уже на данном этапе разработчики нейросетей​ (не путать с ИИ), часто сталкиваются с тем, что не знают, что происходит "под капотом" + избежание ситуации, когда такой мощный инструмент как искусственный интеллект будет сконцентрирован в руках одного государства.

Ответить
0

Пожалуйста, уточните, почему Вы думаете что он именно это имел в виду.
По ссылке https://vc.ru/n/musk-ai-threat цитаты из выступления от завиральных до неадекватных:

1. "Пока люди не видят роботов, убивающих людей на улицах, они не знают, как реагировать, потому что такой сценарий кажется нереалистичным"

2. "Глава SpaceX также признался, что его желание колонизировать Марс связано в том числе с угрозой порабощения Земли искусственным интеллектом. "

3. "развитие «глубокого ИИ», который окажется «умнее самого умного человека на планете», может привести к замене людей на искусственные алгоритмы."

И наконец амбула - "В 2015 году Маск вместе с сооснователем PayPal Питером Тилем, партнёром Y Combinator Сэмом Альтманом и другими инвесторами основали некоммерческую организацию OpenAI для исследования безопасного развития технологии ИИ. Инвестиции в создание организации составили $1 млрд."

Вот похоже что "изучать проблему" за чужие деньги, гораздо интереснее ему, чем развивать ИИ.

Ответить
0

Он раньше ещё на эту тему просто высказывался

Ответить
3

Он и правда очень много высказывается, со временем можно будет составить pro и contra по любому жизненному вопросу, не так ли?

Просто я прошу Вас обратить внимание - что основной вид его деятельности - постоянное привлечение средств (инвесторов и государственных), и все его заявления неразрывно связаны с этой деятельностью.

Ответить
0

Как думаете кого больше? Тех кто за нововведения или против?)

Ответить
0

Переживать будет нужно, когда нейросети научаться сами себя конструировать и черпать информацию из внешнего мира. Вот здесь уже будет элемент непредсказуемости. Но пока до этого вычислительные мощности объективно не доросли.

Ответить
0

Что имеете в виду под ИИ начнут конструировать сами себя?

Ответить
4

Я имею ввиду то, что сегодня признаки для обучения, конфигурацию сети и её гиперпараметры задаёт человек. Это — творческий компонент. НС только отвечает за поиск оптимальной комбинации весов для наиболее точного приближения.

Это та же математика, что и всегда, просто применённая к поиску по намного большему пространству вариантов. Но за границы своей конструкции алгоритм выйти не может. Поэтому любая ошибка будет скорее багом, чем злым умыслом машины.

Ответить
0

Вы не много не так представляете ИИ, вы помните тест Тьюринга?

Ответить
4

Вы говорите про сильный ИИ, но его пока даже в проекте нет. И при всём уважении к Тьюрингу, его тест в качестве лакмусовой бумажки для определения наличия у машин сознания ни раз подвергался критике.

И как раз то, что тест в своём строгом варианте до сих пор не пройден, скорее говорит о том, что пока можно не слишком бояться восстания машин и спать спокойно.

Ответить
2

ну как, например когда нейро 3д-принтер "напечатает" вместо смартфона - терминатора )

Ответить
1

Чтобы это сделать, он должен быть зтому обучен

Ответить
0

* этому

Ответить
0

скоро-скоро :-)

Ответить
0

Ну начерпает информации много, ну наделает еще нейросетей и что?)

Ответить
1

Ближайшая аналогия — биологические и компьютерные вирусы или раковые клетки, которые изменяя себя обходят системы защиты.

Мы не можем сформулировать как нейросеть принимает решения, но контролируем те данные по которым она это делает. Это одновременно позволяет спать спокойно и ограничивает возможности и полезность ИНС.

В какой-то момент мы захотим, чтобы машина сама ходила в Интернет, задавала вопросы, обменивалась данными с другими машинами. Тем самым мы потеряем прямой контроль за входными данными.

Следующим этапом будет перестроение самой ИНС по мере использования — цифровая эволюция. Здесь мы отпускаем управление над структурой нейросети.

А теперь представьте себе алгоритм, в котором вы не контролируете ни структуру, ни входные данные. И у которого вычислительные мощности распределены по всему земному шару.

Ответить
0

Вы только один момент не учитываете, что нейросеть может существовать отдельно от общей сети и работать с информацией по ограниченному доступу.

А там у себя пусть делает что хочет... все равно дальше своей сети и наших правил не выйдет.

Ответить
1

Если смотреть на динамику развития IoT, когда у вас каждый холодильник подключен к интернету, то навряд ли станут изолировать умные ИНС. А в целом это вечный трейд-офф между полезностью, простотой и безопасностью. Про последнюю обычно начинают думать уже когда прозвучали раскаты грома.

Ответить
1

Так то умные дома хотят изолировать в отдельную сеть, промышленные объекты в другую, банки тоже.

Просто будет еще одна сеть с полноценным ИИ и куча сетей с нейросетями без возможности эволюционировать.

Ответить
2

Еееее, даешь войну двух гениев!

Ответить
–1

Пиарятся, че им воевать...

Ответить
3

че им пиариться?

Ответить
1

В треде перепись тех, кто не понимает разницы между ИИ, который обучен делать узкую задачу (распознавание, синтез, и прочее) и ИИ который сам построит робота-убийцу и свергнет Человекаф.

Ответить
2

А Вы поясните :)
Классическая страшилка на эту тему - "Косильщик Лужаек" - где на базе человеческого мозга делают мощный ИИ - неплохо раскрывает второй сценарий, развившийся именно из первого - задача-то была изначально узкая, не так ли?

Ответить
0

Ключевой момент в "Газонокосильщике" в том, что это было сделано на базе человеческого мозга. Чувствуете разницу?

Ответить
1

Есть идея что решая какую-нибудь узкую задачу ИИ решит что человек этой задаче мешает. Топчет газоны, мусорит или еще что-то в этом духе. Почитайте на досуге:
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
Там про это было написано если я не путаю ничего.

Ответить
1

Она не может так решить хотя бы по причине отсутствия в себе модели "человек". Чтобы она принимала такие решения, программисты должны ее этому обучить.

Ответить
0

Ну решит, что человек мешает, а дальше что? У программы на С++ вырастут железные руки и она даст по роже? Или она сама по себе получит доступ к API боеголовок и уничтожит человечество?

Ответить
2

... а также в Гугле мне пообещали, что роботы будут использовать Facebook, после захвата мира"

Ответить
0

Жду трансляции дебатов по данной теме ИИ (или OpenAI) Маска с ИИ Цукерберга

Ответить
5

на сайте Навального

Ответить
1

Просто сейчас ИИ на уровне: "Я как бы будильник поставлю, музыку включу, и еще твои слова загуглить могу". И мы на самом деле далеки от реализации настоящего ИИ. Когда я спокойно смогу сказать: "Нарисуй мне логотип/поправь баг в той библиотеки, что я вчера редактировал/введи капчу", после чего глянув код, там не было бы никакой заточенной работы под логотипы, скрипты/парсинг капч.

100% тест на ИИ (По Тьюрингу):

Вы в одной комнате, машина в другой.

Вы задаете вопрос и получаете ответ.

Если Вам не удалось понять кто отвечал на вопросы, человек или ИИ.

То поздравляю, вы из числа тех счастливчиков, которые разговаривали с искусственным интеллектом.

Ответить
1

Тест Тьюринга от 1950 года не предусматривал компьютерной памяти, хранящей миллионы вариантов ответа.
Извините, я процитирую себя же из другой ветки про ИИ
"Тест Тьюринга ИИ может пройти в ближайшие годы, сойти за ребенка/тинейджера не требует много интеллекта (в ответах на вопросы, хватит пары тысяч вариантов ответа на любой вопрос).

Сойти в тесте за обидевшуюся женщину ИИ мог уже в 1950-м году - там требовалось просто молчать :)"

Ответить
1

У меня тоже такие мысли, каждый раз когда пересматриваю Матрицу, но потом через день отпускает. Маску его никто не показывал в последнее время?

Ответить
0

Матрица предполагает, что человек может быть батарейкой - т.е. выделять больше энергии, чем поглощать.

При этом не сообщает, какой именно энергии.

Поэтому я больше верю Терминатору - причем вместо развалин и т.д., просто будут идеальные экосистемы и много животных, растений, и т.д., компьютерное управление климатом и полное отсутствие людей - все проблемы от них, их 7.5 миллиарда ни один вид крупных млекопитающих никогда не достигал такой численности ... (как мне кажется).

Ответить
1

утопия по-терминаторски

Ответить
4

Если стремится к гармонии на Земле и одним из требований к ИИ будет максимальная экологичность - то первое простое решение - убрать людей нафиг, природа тогда быстро восстановится, а где не восстановится - там можно заново создать.

Ответить
1

По теме

Ответить
0

ЕИ человека представляет для человека и его среды куда большую опасность и уже давно.

Ответить
1

Я думаю вы хотели сказать ЕГ человека ))

Ответить
0

Ждем ответа Маска!

Ответить
0

ИИ это как паровой двигатель в свое время, технология которая переведет человечество на качественно новый уровень, вот только этот переход выдержат не все, многие страны исчезнут, волна безработицы поглотит планету, нею луддиты будут более массовым явлением чем раньше.
Государства всех стран должны сделать максимум для, насколько это возможно, плавного перехода в новую экономическую реальность.
Но кто будет сдерживать ИИ тот точно проиграет.

Ответить
0

Маск versus Цукерберг
Пошумим блеаааааааьь!

Ответить
0

какие то абстрактные угрозы притянутые за уши, глобальное потепление, перенаселение и ужасная экология, и деятельность человека это уже здесь и сейчас.

Ответить
0

Я за Маска

Ответить
0

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Команда калифорнийского проекта
оказалась нейронной сетью
Подписаться на push-уведомления