Николай Давыдов, Gagarin Capital: «Создать искусственное сознание невозможно — даже случайно»

Почему не стоит бояться алгоритмов Facebook, придумавших свой язык.

Пожалуйста, перестаньте делиться статьями с кликбейт-заголовками о том, как «страшный искусственный интеллект вышел из-под контроля и изобрёл собственный язык».

Всё, что могли делать эти две машины — посылать сообщения и хвалить друг друга за те из них, что по каким-то параметрам кажутся им хорошими. Вот и всё. Ничего особенного. Нет, это не создание «Скайнета». И знаете что? Мы вряд ли увидим изобретение «Скайнета».

Недавно Элон Маск и Марк Цукерберг заочно поспорили о будущем искусственного интеллекта: Маск заявил, что подобные технологии таят в себе большую угрозу для человечества, а Цукерберг не согласился. Тогда Маск сказал, что представление главы Facebook о предмете дискуссии ограничено — но думаю, что на самом деле это Маск мало разбирается в вопросе.

Что такое на самом деле глубокое обучение и насколько близко оно воспроизводит человеческий мозг? То, что мы называем ИИ, или в частных случаях свёрточными нейронными сетями, в действительности — всего лишь примерная модель того, как небольшая группа нейронов решает конкретную задачу. Например, поиск объекта на фотографии. Или перенос художественного стиля как в приложении Prisma.

Если мы можем создать подобную модель работы группы, возможно ли объединить множество таких групп нейронов и воспроизвести активность человеческого мозга? Короткий ответ: нет. Но я могу его детализировать.

То, что мы называем ИИ, ужасно громоздко. У простой улитки, например, в мозгу около 20 тысяч нейронов, и лишь 400 из них отвечают за задачи, связанные со зрением. Однако улитка хорошо умеет искать пищу, партнёров, избегать опасностей и так далее. ​

Если бы мы подключили мозг улитки к системе управления Tesla​, он бы справился в разы лучше, чем автопилот Маска.

При том, что в автопилоте Tesla задействованы миллионы, десятки миллионов или даже сотни миллионов искусственных нейронов. Мы понятия не имеем, как работает настоящий нейрон и почему он так эффективен.

Настоящие нейроны многофункциональны. Они могут переключаться с одной задачи на другую и передавать друг другу информацию, пригодную для решения разных вопросов. ​При этом расчёты, вероятно, производятся не только внутри нейрона, но и «вокруг» него — например, на синапсах.

Некоторые учёные считают, что живая клетка — это фактически ультраэффективный квантовый компьютер, который производит вычисления за пределами понимания современной науки. Искусственные нейроны — это просто математические формулы. Они вычисляют некие коэффициенты, потом запоминают их и слепо применяют в момент, когда информация проходит через них.

Решающую роль в когнитивном процессе играет наше сознание, но мы понятия не имеем, что это на самом деле такое, как оно работает, и задействован ли в нём мозг в принципе.

Искусственно создать сознание невозможно — даже случайно. Настолько же невозможно, как пройти сквозь бетонную стену.

Многие учёные даже сомневаются, будет ли сознание у полностью клонированного человека.​

То, что мы называем искусственным интеллектом, совсем не похоже на «Скайнет» или HAL9000. Это просто новый способ создания ПО. Его исследования велись с 50-х годов, и теперь он наконец получил распространение благодаря развитию аппаратного и программного обеспечения. Да, эта технология будет невероятно важна, изменит глобальную экономику, заменит многие рабочие места и создаст новые. Точно так же, как это сделали паровоз, компьютер и интернет.

2323
73 комментария

Единственное чего стоит бояться, что алгоритмы facebook придумают удобный интерфейс.

34
Ответить

Это смешно, спасибо!

1
Ответить

Прежде чем бросаться громкии фразами типа "Создать сознание невозможно" - хотелось бы услышать определение сознания на каком то низком уровне.

10
Ответить

Вот как только мы увидим низкоуровневое описание сознания не от философов, тогда его вероятно станет можно и воспроизвести

14
Ответить

Создать бы ИИ, а уже что оно там такое - пусть сам разбирается и нам расскажет.

Ответить