Лого vc.ru

«Стадия развития ИИ сейчас — на уровне двухлетнего ребёнка»

«Стадия развития ИИ сейчас — на уровне двухлетнего ребёнка»

Конспект лекции директора по распространению технологий «Яндекса» Григория Бакунова.

Лекция прошла в рамках мероприятия Sberdays.

Трудности перевода

Прежде чем дать определение искусственному интеллекту, хорошо бы определиться, что такое естественный интеллект. Однако человечество пытается понять это со времен Декарта, и у него это не очень получается.

Словосочетание «искусственный интеллект» — это калька с английского, при этом неточная. В английском языке используется термин artificial intelligence, который нельзя напрямую перевести как «искусственный интеллект». Это «неестественно образованные умности».

Почти каждый раз, когда вы слышите разговор об искусственном интеллекте, вы на самом деле слышите об очень узких решениях конкретных задач с помощью систем, которые стали называть искусственным интеллектом исключительно из-за того, что они начали самообучаться.

Эта неточность порождает неверную интерпретацию следующего рода: «Искусственный интеллект — это дело будущего. Через 50 лет вокруг нас будут умные роботы, которые окажутся умнее людей. Они будут все для нас делать, даже помогать сигареты прикуривать. Если, конечно, к тому времени люди ещё будут продолжать курить и если у них ещё будут легкие».

В словосочетании «искусственный интеллект» две ошибки: он не интеллект, и он не искусственный. И принципиальной новизны здесь нет: на самом деле современный мир базируется на технологиях, которые с недавнего времени почему-то начали называть искусственным интеллектом.

Один из самых наглядных примеров — это прогноз погоды, где подобные технологии используются уже 25 лет. Таких примеров в самых неожиданных индустриях очень много. Все эти системы сейчас базируются на так называемых узких искусственных интеллектах. Главная задача этих систем — фактически, заменить живого человека.

Нечёткие закономерности

Даже по очень размытой фотографии незнакомого человека вам нетрудно понять, улыбается он или нет, мужчина это или женщина и так далее. Системы pattern matching работают по тому же принципу, что и мы, когда решаем подобные задачи: они пытаются выявить нечёткие закономерности.

Такая же история происходит с распознаванием голоса. Мы постепенно учим компьютер понимать человеческую речь. Происходит это точно так же, как обучение маленьких детей. Большим количеством повторений достигается совпадение двух паттернов: наборов звуков и букв. По той же модели человечество сейчас пытается строить систему pattern matching для компьютера.

Раньше для того, чтобы выстраивать эти модели, писались сложные алгоритмы, которые описывали, например, что человеческое лицо состоит из эллипса, в нём ещё два эллипса — это глаза, и так далее. Сейчас компьютер смотрит на картинку в целом, не выделяя отдельных объектов.

Когда этого не было, происходило много смешных историй. Одна из моих любимых: компания, в которой я в тот момент работал, пыталась создать сложную систему безопасности. На базе цифровой фотографии человека пыталась определить, можно его впускать в это помещение или нет.

Обучение происходило довольно просто. Делалась цифровая фотография, после этого её конвертировали в чёрно-белую. На ней выделяли форму подбородка, носа, глаз — и сопоставляли этим формам лица генерального директора, руководителя службы безопасности и так далее — и места, в которые их можно пускать.

В какой-то момент в системе произошёл совершенно чудовищный сбой — она стала всех пускать всюду. Мы пытались понять, что же произошло. Оказалось, что в компании ввели новый дресс-код. До этого в галстуке ходил только генеральный директор, а с понедельника на работу в галстуках вышли все.

Неинтеллектуальные собеседники

Все видели, как работают Siri и «Okay, Google», многие — как функционирует Amazon Alexa. Это так называемые интеллектуальные помощники, а на мой взгляд, они и не интеллектуальные, и не помощники: просто умеют поддерживать диалог. Никакого отношения к искусственному интеллекту такие сервисы не имеют.

Муравьи и самообман

Хорошую имитацию интеллекта трудно отличить от подлинника. Поведение муравьев выглядит как интеллектуальная деятельность, но на самом деле это просто набор рефлексов. У муравья условные четыре нейрона, это на самом деле даже не мозг.

Так вот, весь рывок в области искусственного интеллекта за последние двадцать лет объясняется тем, что человечество научилось обманывать самих себя, показывая интеллект там, где его нет, строя простейшую схему на рефлексах.

Однако есть и хорошие новости. Например, «Яндекс.Навигатор» — это история про то, как мы позволяем компьютеру построить качественную нейронную сеть, которая распознаёт адреса не просто лучше среднего человека, а даже лучше среднего таксиста. И это довольно большой прогресс.

Аналогичная ситуация с самоуправляемыми машинами. В среднем человечество водит хуже, чем современные системы автономного вождения. На сегодняшний момент системы такие автомобили наездили суммарно около 4,5 млн км, и за всё это время попали в четыре аварии. Да, нужно понимать, что в среднем этот самоуправляемый автомобиль ездил, как бабушка — 35 км/ч в правом ряду, автобусы не обгонял, вел себя как пенсионер. Но это всё равно очень хороший показатель.

Один раз мне задали очень смешной вопрос: «Хорошо. Смотрите, искусственный интеллект может водить машину. А оперу написать может? Это же творчество». Раньше я говорил: «Да, не может. Что поделать?». А сейчас прошло 20 лет. Теперь он может, а вы нет. Средний искусственный интеллект, пусть даже «тоненький», работает лучше, чем средний человек на простых решениях.

«Железная тётка» в колл-центре

Мы автоматизировали колл-центр для одного из больших сотовых операторов. Человеку отвечает «железная тетка»: мы специально сделали голос, по которому слышно, что он роботизированный. При этом она распознает естественно сформулированные вопросы (например, «что у нас с балансом?») и поддерживает диалог.

Интересно, что благодаря натуральности общения появились новые проблемы. Например, системе распознавания речи, как и живому человеку, нужно какое-то время, чтобы понять вопрос. Скажем, это 1,5 секунды между тем, как человек закончил говорить, и ответом от системы. 1,5 секунды — довольно большой срок, и человек начинает беспокоиться: «Что там происходит? Почему она молчит? Может, сломалась?»

Мы решили эту проблему так: в тот момент, когда человек начинает говорить, он слышит звук печатания клавиш. И это успокоило людей, которые понимали: она записывает мой запрос, все нормально.

Этот пример наталкивает меня на мысль, что значительная часть проблем, связанных с искусственным интеллектом, связана с тем, что человек просто не привык к общению с ним. Это одна из причин, по которым я считаю, что искусственный интеллект будет сейчас очень активно развиваться: изменить человеческие привычки не так-то сложно, достаточно сделать действительно удобную услугу.

Правило одной секунды

При этом не стоит обманываться и думать, что можно заменить на текущем этапе какую-то серьёзную рассудочную деятельность на работу обычного компьютера. У меня есть простое правило, которое позволяет определить, можно ли какую-то деятельность заменить на системы искусственного интеллекта.

Я его называю «правило одной секунды», оно звучит так: если вы ставите задачу ответственному уверенному профессионалу и он принимает по ней решение в течение секунды, то это означает, что задачу можно автоматизировать. На принятие осмысленного решения человеку нужно значительно больше, чем одна секунда.

Битва машин

Одно из самых важных событий в сфере искусственного интеллекта за последние годы произошло для большинства людей незаметно: прорыв с программой AlphaGo. Дело даже не в том, что компьютер победил профессионального игрока в игре, в которой, как считается, больше всего комбинаций. История Deep Blue произошла более 20 лет назад. Рано или поздно компьютер будет выигрывать у человека в любой игре.

Главное в случае с AlphaGo — что два искусственных интеллекта играли друг против друга на протяжении огромного количества машинного времени. Компьютер учился у компьютера, и на этой базе построена машина, которая выигрывает у человека. Это переломный момент для человечества.

Кто поставит диагноз

Человечество в последние 30 лет взялось за ум и решило, что медицину пора превращать в науку. Сегодня вероятность того, что врач по описанию болезни поставит правильный диагноз, составляет 24%. Такими числами даже стыдно оперировать. Я надеюсь, что в ближайшие несколько лет нас ждет революция в этой области.

На самом деле базовая диагностика — это очень простой процесс. В американской медицинской практике он вообще заскриптован: у врача есть готовый скрипт, который показывает, как именно нужно опрашивать пациента.

Однако современные системы искусственного интеллекта показывают, что этот скрипт написан неправильно. При этом диагностику можно автоматизировать и улучшить радикальным образом. И для этого нужен не миллион датчиков, а правильный процесс опроса пациентов. Мы бесконечно далеки от того, чтобы отказаться от врачей вообще, но сильно близки к тому, чтобы автоматизировать процесс диагностики. Обращаю внимание: только диагностики и только автоматизировать.

Что дальше

Легко представить себе систему, которая будет вместо человека заниматься программированием. Я знаю целых три таких готовых системы. Это решение, которое выглядит как применение в коде готовых наработок, существующих в интернете. Код будет ужасный, профессиональные программисты при его виде будут хвататься за голову, но это только первые шаги.

Если мы можем теперь сделать искусственный интеллект, то, наверное, можно представить себе сингулярность, перенести человеческий интеллект в компьютер и получить там почти живого человека? Вот от этого мы бесконечно далеки. Почему? Потому что мы по-прежнему не понимаем, что такое интеллект. Все, что мы научились делать, — это мимикрировать под человека: имитировать его поведение и принятие им решений. Это стадия ребёнка в 1,5-2 года.

Присылайте свои колонки о том, как изменится наш мир, на future@vc.ru.

Интересно, что текущее развитие машинного обучения, приводит к тому, что для решения ИИ-задач требуется не столько программирование в классическом смысле, сколько поиск и подготовка правильные данных + вычислительные мощности, способные их переварить.

нынешнее ИИ это в абсолютном большинстве случаев это просто нейронная сеть.
нейронная сеть строится из узлов(синапсов). синапс это штука которая связывается с предыдущими такими же синапсами и этот же синапс хранит некоторую циферку. Эта циферка зависит от других циферок, которые есть у других синапсов связанных с этим. То есть нейронка это набор узлов и связей между ними. Один узел может быть связан с множеством других узлов в определенном порядке (порядок связи называется топологией сети).

Вот то что делают те чуваки что програмят эти сетки это пытаются выстроить оптимальнейшую топологию в контексте конкретной задачи. Ну тоесть методом эмпирических наблюдений за этим миром или методом научного тыка.

Процесс обучения сетки это тот момент когда топология уже есть но циферки внутри синапсов не верные. К примеру чтобы обсчитать всю сетку нужно сделать миллион вычислений (эта цифра зависит от количества всех связей между всеми синапсами, а количество связей может быть совсем диким количеством) и после этого сетка выдает результат и этот результат сверяется с заведомо верным ответом. Сетке сообщается что она не права и затем сетка меняет циферки внутри синапсов(в разных случаях по разным алгоритмам) и затем еще раз делает обсчет и так оооочень много раз пока не выставятся такие циферки в синапсах когда ответ будет максимально удовлетворительным, обычно это некий набор процентов.

собственно это краткое пояснение что оно такое.
отсюда вывод: это не интеллект, это очень продвинутый молоток, которым можно стучать быстрее и удобнее чем обычным молотком.

сложный вопрос.

Но я склонен думать что железяка, которой я говорю "найди мне тут тех кого я знаю", не обладает интеллектом.

Не зная что такое интеллект, нельзя однозначно утверждать, что железяка им не обладает.

0

Можно, что вам запрещает? Был бы у железяки интеллект, вы бы не задавались этим вопросом, согласитесь. У вас был бы диалог, но поскольку его нет, нет и интеллекта, вот и приходится загружать программы типа акция-реакция. Такой интеллект не способен породить интеллектуальный продукт.

В будущем ИИ сможет научиться не только прикуривать, но и открывать банки с пивом. И это вселяет надежду, что Бакунов работает не зря

Самоуверенное заявление. Мы не знаем, какие будут в будущем механизмы в пивных банках, и тем более, какие будут в будущем любители пива.

Григория не поймешь: то ли он троллит аудиторию, то ли гиперболизирует, говоря про четыре нейрона в мозгу муравья(на самом деле сотни тысяч).

0

Мне кажется, четырёх нейронов не хватит даже чтобы ходить на шести лапах по пересечённой местности. Не говоря уже о поиске еды, распознавании врагов, размножении и социальном поведении. Чего стоит одно только распознавание образов.

0

Строго говоря, один искусственный нейрон не равен одному органическому. Если их вообще можно сравнивать.
Например, один искусственный нейрон может кое-как распознавать изображения.

0

Присоединяюсь, тоже интересно, что это за системы такие )

Не думаю что можно вот так просто сопоставить интелект человека и ИИ который вообще работает по другому принципу и в другой среде, это все больше смахивает на пиздежь зажравшегося гуся который думает что что то в этом понимает...

в 1 год ребенок уже видимо умнее любого животного.
а ИИ даже того же муравья имитировать не может.

В 1900-м году Давид Гильберт сформулировал 23 проблемы математики. И пока пытались их решить, математику серьёзно продвинули вперёд.

С ИИ сегодня такая же история — в погоне за сильным искусственным интеллектом создаётся бесчисленное количество технологий, которыми мы пользуемся каждый день. А с Siri по-прежнему разговаривает на уровне трёхлетнего ребёнка, постоянно отправляя тебя в поиск.

Вполне может быть, что к 2030 году Siri так и не научится имитировать живого человека. Но при этом мы будем ездить на беспилотных автомобилях, пользоваться качественным машинным переводом и пожинать плоды персонализированного онлайн-образования. Тоже круто.

> А с Siri по-прежнему разговаривает на уровне трёхлетнего ребёнка

Фишка в том, что 2-х летний ребенок не просто повторяет за взрослыми, но и активно занимается словотворчеством.

Кто интересуется темой-прочитайте книгу "Новый ум короля". Переворачивает представления об ИИ. Хотя и старая книга, но нихрена не изменилось и сейчас.
Хороший пример оттуда - если написать книгу, которая от и до описывает мозг и личность А.Эйнштейна, по которой со 100% вероятностью можно предсказать, что сделает Эйнштейн в той или иной ситуации - будет ли она Эйнштейном? Конечно нет. Так же и программа - это лишь книга. Набор инструкций. И всё. Мы катастрофически далеки от разработки реального ИИ.

Присоединяюсь. Хэв-ту-рид для всех, кто интересуется ИИ и мышлением человека.

P. S. Можно сначала прочитать книгу Анны Свердлик "Как эмоции влияют на абстрактное мышление и почему математика невероятно точна" в которой делается много отсылок к книге Пенроуза.

Интервью с ней на T&P: theoryandpractice.ru/posts/14575-emotsionalnaya-nauka-anna-sverdlik-o-prirode-matematiki-s-tochki-zreniya-neyrouchenykh

>> Мы катастрофически далеки от разработки реального ИИ.

Пенроуз и вовсе считает, что это невозможно на компьютерах с современной архитектурой.

По факту настоящий ИИ нужен не всем — это сразу много вопросов этического характера и реальная угроза для человечества. Бизнес сейчас хочет скинуть интеллектуальную рутину на компьютеры, чтобы остаться конкурентоспособным и это у корпораций довольно неплохо получается.

Возможно, что будущее не за стэндэлоун AI, а за нейроинтерфейсами и киборгами. В конце концов сейчас львиная доля времени тратится на то, чтобы переложить информацию из головы в компьютер, а не на сам процесс придумывания.

Причем, не просто считает, но и убедительно доказывает это в книге. Нужен прорыв какой-то именно в железе, непонятно, какой именно. Но на данном этапе развития технологий ИИ в принципе нельзя создать.

Просто нужно признать, пытаться сделать за пару десятилетий то, на что у Природы/Бога/эволюции (подчеркните нужное) ушло порядка 3 млрд.лет - это не просто сверхамбициозно, но и неуважительно как-то!

0

Как сказать. Природа действует полным перебором, а человек в целом более интеллектуально подходит. Может поэтому у эволюции решения более изящные, а у человека более топорные, но и более быстрые.

0

дайте человеку миллиард лет, как эволюции
пока он и тысячу лет не наработал по крупному, а некоторых отраслях - и сотни, и десятка

Иногда эволюция носит направленный характер, см. "Рождение сложности". стр 102 bookscafe.net/read/markov_aleksandr-rozhdenie_slozhnosti_evolyucionnaya_biologiya_segodnya-224532.html#p101

0

Дайте ИИ 5-10 лет и он обгонит всех нас вместе взятых.

25 лет назад тоже так говорили. А также много раз до этого. В реальности же существует много факторов, прежде всего экономических, которые обеспечивают технологическую инерцию.

Так что технологии, безусловно, сильно разовьются за ближайшие 5-10 лет, но предпосылок для того, о чём вы говорите, пока нет.

0

и 50 лет назад так же говорили )

0

Интересно, почему тогда сведующие люди типа Хокинга, так обеспокоились вопросом?

0

Прикольно ) У меня есть версия фантазии на тему структуры хранения данных нейронной сети ГМ человека. Ну чистая фантазия да, но что-то в этом есть )

Структура миниколонки - функциональной единицы неокортекса - это всего лишь десять нейронов разных типов, выстроенные в ряд пучком по 10 шт. Всё. Два квадратных метра этой плёнки, связанной коннектомом - это и есть человек, - его интеллект, подсознание и сознание. И никто до сих пор не понимает как эти десять нейронов всё это создают.

0

Точнее, мне кажется, никто до сих пор не понимает, как точно работает то, что называется "второй сигнальной системой".

Распознавание образов, перемещение по неровной поверхности - это уровень если не рефлексов, то довольно близкий к ним. То, что современная компьютерная наука научилась решать эти задачи - это определённо прогресс, и немалый! Но расстояние от этой точки до "настоящего" искусственного интеллекта - а именно, способности моделировать ситуации и принимать решения на основе предыдущего опыта - ещё очень далеко.

Прямой эфир
Голосовой помощник выкупил
компанию-создателя
Подписаться на push-уведомления