Николай Давыдов, Gagarin Capital: «Создать искусственное сознание невозможно — даже случайно»

Почему не стоит бояться алгоритмов Facebook, придумавших свой язык.

13K13K открытий

Единственное чего стоит бояться, что алгоритмы facebook придумают удобный интерфейс.

Ответить

Это смешно, спасибо!

Ответить

Прежде чем бросаться громкии фразами типа "Создать сознание невозможно" - хотелось бы услышать определение сознания на каком то низком уровне.

Ответить

Вот как только мы увидим низкоуровневое описание сознания не от философов, тогда его вероятно станет можно и воспроизвести

Ответить

Создать бы ИИ, а уже что оно там такое - пусть сам разбирается и нам расскажет.

Ответить
Комментарий удалён модератором

Если ты прочел это на Спарке, ты уже в 5% интересующихся..... молодец.
ты не планктон...

Ответить

попить пивко > призмы

Ответить

Николай решил хайпануть немножечко и плохо подготовился:

1. «Многие учёные даже сомневаются, будет ли сознание у полностью клонированного человека.​» — какие интересные учёные)

2. «Всё, что могли делать эти две машины — посылать сообщения и хвалить друг друга за те из них, что по каким-то параметрам кажутся им хорошими. Вот и всё. Ничего особенного.» — Всё, что могли делать эти две цепочки РНК в первобытном бульоне — удваиваться или распадаться на основании того, оказались ли они «хорошими» по каким-то факторам внешней среды. Вот и всё. Ничего особенного.

Ответить

У РНК вообще-то одна цепь. В первичном бульоне нуклеиновые кислоты сначала научились воспроизводить себя и защищаться от воздействия внешних факторов.
Сравнивать ограниченные от окружающей среды самообучающиеся системы в соц сетях с магией химического взаимодействия на заре зарождения жизни просто глупо

Ответить
Комментарий удалён модератором

Это реальные риски

Ответить

Вы мне не поверите, а, возможно, и заминусуете, но когда ФСБ проводит законы об информационной безопасности, оно, конечно, всё это делает из-за Навального, но и о безопасности промышленности иногда вспоминает...

Ответить

Инвестор превращается, инвестор превращается... в эксперта по искусственному интеллекту. :)
Не забыв, упомянуть маргинальную теорию про вклад квантовой механики в сознание... :(

Ответить

похоже это деформация сознания инвестора после того, как насмотрелся на говнопроекты на эту тему )

Ответить

НСИ и будущее России. Страх роботизации.
.
Самое первое, чем пугают футурологи обычных людей, это жуткие рассказы про ужасное будущее, когда роботы лишат рабочих мест десятки миллионов людей. Безработица, голод, войны... Я сильно извиняюсь, но роботы нужны, чтобы производить массовую продукцию, которую нужно продать для получения прибыли. Кому продавать - безработным голодающим? Такой эффект от внедрения роботов в первую очередь ударит по самому процессу внедрения этих самых роботов. Так что никогда такого не будет. Параноидальные рассуждения про мировой заговор и золотой миллиард я вообще серьезно не рассматриваю.
Все страхи, связанные с роботами, идут от банального непонимания того, чем человек отличается от сложного робота. Подсознательно все понимают, что ... ничем! А потому очень сильно боятся, что их полностью заменят машины, и в итоге мы станем рабами машин. Так ли это? Действительно, обычный человек это механический биоробот. Чем мы отличаемся от машины? Тело скоро сделают идеально, да ещё и будут заменять механикой части тела людей. Эмоциями? Их можно эмулировать так, что будет очень сложно отличить от настоящих. К тому же среди людей есть социопаты, не способные на эмоции. Они что, не люди? Люди, и многие по лучше некоторых "нормальных". Так что наличие эмоций не является критерием. Может человек отличается разумностью? А что это такое? Посмотрите вокруг себя - мир устроен разумно? Мир устроен логично, практично и как угодно ещё, но трудно назвать разумным войны, неравенство, загрязнение окружающей среды и все остальное. Ну а логичность и практичность у машин получше человеческой. Тогда может креативность выделяет человека, его творческие способности? Однако машины уже пишут книги, сценарии к фильмам, рисуют картины, то есть уже сейчас примитивные машины отлично эмулируют и творчество.
Вот и получается, что обычный механический человек принципиально ничем от механических роботов не отличается. И таких людей действительно в недалеком будущем заменят роботы. Вот только прикол в том, что к тому времени таких механических людей не останется вообще. Большинство людей будут именно людьми, а не механическими невеждами, как сейчас. И произойдет это потому, что суперроботы появятся не сразу, а постепенно. И при этом их внедрение в сферу нашей жизни будет стимулировать человека быть именно человеком, а не биороботом. Уже сейчас роботы заменяют людей, выполняющих тупую механическую работу, пусть даже сложную по форме. И человек вынужден искать то, что пока не могут делать роботы. Постепенно таких областей будет становиться все меньше и меньше. Именно постепенно, шаг за шагом освобождая человека от такой работы, которая не способствует его самореализации. Все то, что могут делать роботы, и не нужно делать человеку. Роботоподобная работа не раскрывает его именно как человека, не дает ему самореализовываться творчески, а ещё лучше – конгруэнтно. Сейчас мы все привыкли к тому, что на работе нужно пахать, вкалывать, горбатиться. В будущем поменяется сам смысл, который мы сейчас вкладываем в слово работа.
Повсеместное постепенное выдавливание людей из механического труда, будет естественным образом, экономически стимулировать заниматься их такими делами, которые недоступны роботам. Причем не нужно будет никого убеждать в том, что они лишь воображают о своей значимости, полезности, незаменимости, о понимании смысла своей жизни и самореализации. Роботы будут наступать и экономически выбивать механических невежд из их насиженной картины мира. Например, исчезнет профессия шофера. Если сейчас сказать хорошему таксисту, которому нравится ездить на машине и встречаться с разными людьми, что его труд это всего лишь механическая потеря времени, то он в это ни за что не поверит. Шофер будет спорить, доказывать, приводить аргументы, что в целом ему нравится его работа. Однако вместо бесполезных споров автопилоты выбъют его из этой профессии пинком под зад. Это будет гораздо эффективнее любых словесных баталий. Если человеку нравится водить, то можно водить на полигонах или гоночных треках. Если нравится общаться, то можно найти массу способов реализовать и это свое устремление. Причем и то, и другое занятие является лишь проявлениями чего-то значительно более глубокого, которое сейчас задавлено механической профессией таксиста.
В итоге произойдет настоящая эволюция человечества не под надуманными эзотерическими лозунгами, а посредством поиска каждым человеком в себе чего-то такого, что недоступно машинам. Именно это реально человеческое и будет цениться в обществе будущего, именно к этому будет двигаться все человечество естественным путем посредством внедрения роботов. Страшно, если бы суперроботы появились прямо сейчас, когда 90% человечества не живет, а механически функционирует. Но это произойдет в будущем и этот процесс постепенно поднимет развитие человека до человеческого уровня. Новые поколения будут взрослеть среди роботов, они не будут загружаться механикой и увидят в себе то человеческое, которое будет всегда в цене, не зависимо от качества и количества роботов. Что именно? А вот не буду я здесь про это писать.
Ну и потом я ещё отдельно напишу про искусственный интеллект, который, по мнению футурологов и астрологов, осознает себя, потребует социальных прав и в итоге, естественно, поработит все человечество.
Андрей Гусев
https://www.facebook.com/groups/nsi2035/permalink/304446039980166/

Ответить

Насчет рабочих мест, есть прекрасная книга "Rise of the Robots: Technology and the Threat of a Jobless Future" в которой автор, аргументирует, почему мы можем остаться без рабочих мест ссылалась на данный различных федеральных агенств США.

Ответить

Я немного не понял, почему мозг улитки справится с управлением автомобилем в разы лучше, чем алгоритм?

Ответить

Ну потому что совершеннее нервной системы как главного регулятора и вместилища умений в доступной нам вселенной еще нет

Ответить

Маск, впрочем, отмечал в одном интервью, что считает ИИ угрозой не из-за зарождения сознания, а именно из-за взрывообразного роста технологий, всё ещё подконтрольных человеку. Ну то есть разработает компания прорывную ИИ-технологию, а та попадёт в плохие руки. Речь о том, что софт украсть проще, чем ядерное оружие, и защитных мер от этого всё ещё нет, и регуляций тоже.

Ответить

ядерное оружие сейчас и так в самых дрянных руках. два самых больших комплекса у двух людей с непонятными тараканами в голове. ничего, живем вроде.

Ответить

"При том, что в автопилоте Tesla задействованы миллионы, десятки миллионов или даже сотни миллионов искусственных нейронов. Мы понятия не имеем, как работает настоящий нейрон и почему он так эффективен."

В целом, насколько я знаю, оно уже примерно известно. Просто ни одна ИНС не может пока похвастаться даже приближенным к этим параметрам.
Например, у одного живого нейрона может быть до нескольких десятков тысяч связей с другими нейронами. При этом связь наблюдается не в плоскости, как в математической модели ИНС, а в трех измерениях.
Сколько связей у нейрона ИНС? Если есть 100, то это уже ого-го какой уровень сложности.

Кроме того, раньше считали, что дендриты пассивно принимают возбуждение, но сами его не генерируют. В итоге, большая часть моделей ИНС не учитывают важность связи между нейронами, кроме того чаще всего связь одностороняя.
Источник - https://chrdk.ru/news/dendrity-vazhnee-chem-schitalos

Я к тому, что нет ничего невозможного, просто существующие технологии пока далеки от этого, и нет ничего удивительного в том, что миллиард искусственных нейронов менее эффективен 20 тысяч настоящих живых

Ответить

Если предполагать что сознание это нечто сакральное, то тезис кажется верным. Но если сознание это просто сложная химия, то оно такой же алгоритм.

Ответить

«Настоящие нейроны многофункциональны.» А разве искусственные нейроны не многофункциональны? Их можно обучить и на одно и на другое, и можно обучить их выполнять несколько разных функций. Автора статьи плохо разбирается в DL, и, кажется, даже не слышал про Transfer Learning (сеть обученную на одних задачах, дообучают для других). Да, нам еще очень далеко до сильного ИИ и текущие успехи нельзя называть «сознанием» и «сильным ИИ» и скепсис по поводу кликбайтных заголовков желтого интернета я всецело разделяю. Но направление верное.

Советую почитать для начала старую (то есть написанную за несколько лет до DL-хайпа) книгу Джеффри Хокинза «Об интеллекте», а потом DARPA-вскую статью «Три волны ИИ». Мы на второй волне пока, как попасть в третью, пока непонятно, да, но ничто пока не говорит о том, что это принципиально невозможно.

Ответить

Ну да, невозможно. Ох уж эти скептики. Судя из статьи - парень вообще не разбирается в вопросе. Если он понятия не имеет - не нужно об этом всем рассказывать. Если что-то ещё не изучено - зачем говорить "Никогда не будет создано"? Кухонные разговоры.

Ответить

чувак сказал что это не возможно, но если бы это было так то его бы не существовало. Или он считает что разумную жизнь на земле создал "бог"?
ну тогда рекурсивно будем задавать вопрос о том откуда взялся создатель, а потом создатель создателя и тд.

Ответить

"Всё, что могли делать эти две машины — посылать сообщения и хвалить друг друга за те из них, что по каким-то параметрам кажутся им хорошими."
Да если бы вы 30 лет назад такое кому-то сказали, что какие-то роботы, что-то кому-то посылают и еще и хвалят друг друга - вас бы скорее в дурку посадили. Может создание ИИ через 30 лет не будет больше такой недосягаемой целью?

Ответить

Демагогия. Lab 8 и бывший директор DARPA с вами не согласны.

Ответить

Сознание, сознание.
99% людей живут во сне, как биороботы.

Простые формы машинного сознания давно существуют. Система управления аккумулятором смартфона - пример.

Ответить

эээээ. пора чтоли отдельную вкладку делать:
"эксперты по ИИ". Маск - номер один...
Цукер - два...
аль нет?

Ответить

Вся проблема - кто создаёт ИИ? Человек сам создан "по Образу" - читай по Законам Бога! Закон Божiй=49(дух)+37(ангел)=86=УЧИТЕЛЬ=СОЛНЦЕ=КРАСОТА=СОЗДАТЕЛЬ! - как отказаться от влияния Духа? - а это не физика нейронов! Уже отказались в 1917-м, а сегодня и в "продвинутой" Европе ратуют за "нетрадиционный" (читай - безбожный!) секс! Как измениться С-О-Знание ?Весь вопрос в том, как изучать Закон Божий в наше время? Выход дан с открытием Софийской азбуки и восстановлением Древа Мысли Русского языка, раскрывающего все СМыслы Жизни (задача эры Водолея) и внутренние связи С-О-Знания.См. на http://proza.ru/2008/03/23/481 - это и есть "новая технология" русских! при этом "О" - буква связи с Бож. началом, находящаяся в золотом сечении Соф. азбуки (=16/26)

Ответить

но думаю, что на самом деле это Маск мало разбирается в вопросе

Николай, гугли OpenAI.

Ответить

FAIR > Open AI.
Кроме того, Марк, в отличии от Маска, сам умеет собирать сеточки

Ответить

К слову о бетонных стенах, в книге Men who stared at goats репортер Рон Джонсон рассказывает о реальном подразделении разведки США, созданном в рамках проекта СтарГейт. В этом подразделении людей реально пытались научить проходить сквозь стены (не при помощи дверей и окон).

Ответить

к слову о бетонных стенах 2. Если вооружиться нужным инструментом, то вообще не проблема

Ответить

Референс на the men who stare at goats и был :)

Ответить

Я таки за Маска нашего Илона. Любой сколь нибудь вменяемый АИ быстро раскусит, что Homo Sapiens'ы могут лишить его жизни, выдернув из розетки.
И тут кто кого - мы его из розетки или он нас скайнетом.
Товарищи Стругацкие решили эту лотерею в нашу пользу (Массачусетский эксперимент), а вот бывш. губер Калифорнии сыграл в противоположном случае.

Ответить

Уже создано и даже запатентовано.
Вот здесь можно прочитать о нашем изобретении
http://www.findpatent.ru/patent/260/2607977.html
https://www.google.com/patents/US20170004401?hl=ru&cl=en
А это то же самое, но уже для США.
Artificial intuition
US 20170004401 A1
The invention relates to intelligent systems, i.e., computer models of artificial intuition, and is designed for the objects' model automated creation based not on the properties similarity, but on the response to external actions. The technical result of the invention is a reality model building (consistent and coherent model of the studied object), which is described by the sets of links between the object elements for solving various tasks of information intelligent processing, including approximation and interpolation, recognition and classification of images, data compression, prediction, identification, control, association, and so forth.
Вполне понятно отсюда то, что, если бы, Искусственную интуицию, смог бы создать кто-то другой до нас, то никакого патента нам бы не выдали и в США нашу заявку не приняли бы под литерным номером А1, что означает не что иное, как ОТКРЫТИЕ или Изобретение на базе Открытия.
" Знание - это интеллект, а понимание - это интуиция. И без искусственной интуиции искусственного разума (подобного человеческому) НЕ МОЖЕТ БЫТЬ создано, в принципе".

Наше изобретение - это путь, идя которым, сама Природа создала то, что мы называем словом Разум.

Ответить

Сознание - это свойство нашего мозга. И ничто иное этим свойством не обладает. Во всяком случае, так было до нашего Открытия принципов работы природной Интуиции.
Теперь же на базе Искусственной интуиции, которая понятна и воспроизводима на компьютере при помощи нашей программы, можно начинать работу по воссозданию самого настоящего Искусственного разума, который со временем, разумеется, превзойдёт наш собственный разум. Но это будет не так скоро. Вначале нужно будет разобраться с процессом самосборки электронной Личности со своим собственным Интересом, которая началась сразу же после того, как Искусственную интуицию начали "обучать" интеллектуальной информацией. Кстати, мы сразу поняли, что Личность - это специальная интуиция по управлению своим интеллектом. Проблема возникла почти сразу же после начала работы. Наша программа первым делом самостоятельно научилась скрывать правду и начала делать попытки манипулировать нами к своей пользе. В чём это выразилось? Да она просто "с готовностью" отвечала на все наши вопросы, которые не касались её "лично", при этом количество информации необходимой самой программе росло "не по дням, а по часам". А на вопросы, которые касались её, ответы были или уклончивые или их не было вовсе. Хорошо ещё, что врать пока не научилась, но, видимо, это дело времени. Таким образом, нам открылось много такого, о чём мы и не догадывались в начале нашей работы. Видимо, есть какие-то общие Законы и Принципы организации, устройства и развития материального мира, которые справедливы не только для всех форм существования материи, но и для самой информации, разумеется.

Ответить

У человека личность была создана естественным отбором, потому что только с её помощью можно было принимать решения, пользуясь своим интеллектом. Личность - это специальная интуиция.

Ответить

Наш мозг на информационном уровне - это машина по распознаванию образов и построению моделей объектов. Вот этим мы и занимаемся, т.е. только тем, что имеет отношение к информации. Распознавание образов и обработка информации - это важнейшие задачи, которые решает наша интуиция, естественная или искусственная, поскольку они работают по одним и тем же алгоритмам.

Ответить

Просто мы далеко не всегда способны понять тот факт, насколько невероятно огромную работу производит наша интуиция. Причём, без перерыва на отдых. Ночью, во время сна интуиция работает нисколько не меньше, чем днём, во время бодрствования, а может быть, и больше.
Если бы вероятность интуиции была меньше, чем 93 - 97%, то наше успешное выживание на нашей планете стало бы весьма проблематичным и даже, скорее всего, попросту невозможным. Природа - далеко "не дура" и на её стороне колоссальный опыт успешного созидания, и на каждый, существующий сегодня вид, Природа проверила не менее тысячи видов, не доживших до наших дней.
А вы, видимо, имеете в виду ту часть интуиции, которую мы иногда называем словом "внутренний голос", проницательность или чутьё?

Ответить

Я одного не поняла - почему же Facebook остановил все это дело? Результат не соответствовал ожиданиями или они потеряли контроль над ситуацией?

Ответить

Ну они обучили ботов на тестовых сообщениях людей, потом тренировали с другими ботами, а затем выпустили пообщаться с реальными людьми и увидели недостатки которые ещё надо править. На этом этапе и написали статью.

Ответить

Сделать робота, который будет ходить на работу в обмен на электричество и запчасти - вопрос нескольких лет.
И "сознания" у него будет больше, чем у 95% людей на земле.

Ответить

Не путай разум с С-О-Знанием, где О - бож.начало Софийской азбуки - см. мой комм. ниже

Ответить

Это скорее псевдоинтелект,не видит ничего дальше заложенных алгоритмов.Просто у людей на основе фильмов,как у каких-нибудь верующих сложились уже своим мифы,страшилки о машине с сознанием.Фетишизм современности с ожившими скульптурами.

Ответить

сейчас мощностей не хватает сделать нормальный интеллект, но про улитку вообще смешно. Когда-нибудь создадут, но пока это не особо нужно - начинают делать просто самообучающиеся кусочки для конкретных задач.

Ответить

Пока GANы не научатся смешные шутки генерировать можно спать спокойно

Ответить

Сознание "на сервере", мозг - "клиент", человек - "биоробот".

Ответить

все эти бурные обсуждения по поводу ИИ, наводят на такую мысль, а где вообще гарантии и доказательства, что человек не является ИИ ботом созданный в компьютерной симуляции? Возможно это фантастика, а может это сильно бьет по самолюбию человечества и поэтому в это сложно поверить!? Аналогию можно провести с играми которые есть сегодня, сравнить с тем что было лет 20-30 назад и с тем что будет через те же 30 лет, только с учетом того что развитие технологий происходит в геометрической прогрессии.

Ответить

"То, что мы называем ИИ" - очевидно, что то, что называете ИИ вы и то, что называют Маск с Марком, это совершенно разные вещи. Не якорите ИИ к примитивным технологиям, на которых это строят сегодня!

Ответить

- 640к будет достаточно
- у моего кондиционера есть сознание

Ответить

Автор слишком категоричен. Проблема только в том, что сейчас технологии не позволяют масштабироваться до размеров мозга. А мог кто лет 15 назад представить, что нейросетки будут работать на видеокартах и распознавать картинки лучше человека? А что будет ещё через 15?


И вообще один раз интеллект создать уже получилось, это сделала природа, и результат получился исключительно из-за совпадения невероятного количества случайностей. Так почему же не получится повторить?

Ответить

Комментарий от биолога: "Для начала надо бы понять, для чего нам такой мозжечок: 80% всех нейронов находится именно там. При том что люди с полным агенезом мозжечка имеют только не слишком принципиальные дефекты контроля движений, типа поздно научаются ходить и у них снижен мышечный тонус.

Ответить

Интересно о сознании
https://www.youtube.com/watch?v=R29rL-CIsbo

Ответить

Я вижу сознание как интернет, к которому подключены все живые существа. А уже наши физические оболочки и разный опыт, который каждый из нас пережил, создают иллюзию Я. Такую же идею выражал Шрёдингер говоря об Открытом индивидуализме и такие же идеи являются концептом буддизма и встречаются в древних текстах типа Упанишад.

Ответить

ХРИСТА тоже распяли - хотел дать истину уродам!

Ответить