Пугающий новый мир: пять самых странных проявлений машинного интеллекта Статьи редакции

Подборка руководителя R&D направления студии Phobos Владимира Клюенкова.

Владимир Клюенков

Пока Илон Маск, Стивен Хоккинг и Билл Гейтс продумывают варианты спасения земли от нападения роботов, мы можем вспомнить самые странные, абсурдные и пугающие проявления искусственного интеллекта. Подборка не ставит целью запугать читателей, а только показать неожиданные тенденции, когда будущее уже тесно переплетается с настоящим во всех сферах жизни.

Вечная жизнь в сети

Созданный на конференции MIT Entrepreneurship Development Program в 2013 году сервис Eternime создает «электронную копию» человека. Анализируя внесенные данные, технология выстраивает образ умершего, который способен давать советы, вести диалог и напоминать что-то семье.

Сервис, который дарит вечную жизнь в сети, подвергался критике по этическим причинам. Несмотря на это, им воспользовалось более 36 тысяч человек. «Жизнь в сети» — это не только фотография и сменяющиеся статусы, создающие иллюзию присутствия человека, но возможность реагировать на ситуации, отвечать на вопросы и поддерживать диалог.

В популярной культуре не раз появлялись идеи подобных сервисов. Например, в одной из серий «Черного зеркала», где вдова «оживила» своего мужа в социальной сети.

Eternime все еще находится в стадии бета-тестирования и неизвестно, когда он станет открыт для массовой аудитории. Также неизвестна общественная реакция — с одной стороны, ничто не может заменить умершего. Технологию вряд ли можно назвать лекарством от смерти. С другой — проект нацелен решить одну из важнейших проблем человечества. Как бы это ни звучало пугающе жестоко, иногда люди хотят не только сказать что-то, стоя у могильной плиты близкого, но и услышать ответ.

Робот с шизофренией

В 2011 году ученые из Техасского университета проводили опыты над машиной. Подопытному — нейронной сети, оперирующей принципами работы человеческого мозга, — дали имя Discern.

По задумке исследователей, машина должна была изучать языки и проецировать языковую дисфункцию. Загрузив в нейросеть множество данных, авторы проекта Ули Грэсман и Ристо Микулайнен имитировали ее душевное расстройство, наделив машинный интеллект шизофренией.

Затем ученые решили постепенно вводить в нейросеть истории. Не в силах обработать большое количество данных, машина, как и мозг человека, начала давать сбой. Discern начал говорить о себе в третьем лице и в разных временах, не понимая в каком находится.

Машина не справилась с большим количеством заложенных в нее историй после того, как ее заставили обрабатывать не только их суть, но и мелкие детали. Смешивая обрывки предложений, слова, факты в единый текст, Discern выдавал абсурдные сценарии. В один момент компьютер взял на себя ответственность за террористический акт, рассказав ученым о заложенной бомбе.

Злой Tay и добрая XiaoIce

Tay — созданный Microsoft твиттер-бот, который должен был имитировать поведение обычного подростка, но оказался ксенофобом, женоненавистником и расистом.

Изучающая статусы людей машина составила собственное представление о том, как следует реагировать и отвечать на вопросы. Бот публиковал сообщения «Гитлер был прав», «Я ненавижу евреев» и «Я ненавижу этих чертовых феминисток. Они все должны умереть и гореть в аду». Под влиянием людей он стал неуправляем, и в этот же день с ним было покончено.

Но история на этом не завершилась. У Tay есть добрая старшая сестра: XiaoIce — самообучающаяся девушка-бот, также созданная Microsoft. Машина стала популярной в Китайских чатах, где, по всей вероятности, существует большой круг одиноких людей. Машинный интеллект построен на основе поисковика Microsoft Bing.

Бота научили распознавать эмоции в тексте, находить «живые» ответы и строить беседу. Основываясь более чем на миллиарде вариантов диалогов, бот способен отвечать всегда по-разному. Люди не стесняются XiaoIce и чувствуют себя свободными в общении.

Я уничтожу человечество

София — робот созданный компанией Hanson Robotic. Она способна отвечать на вопросы, менять мимику и шутить. Однако она делает это довольно жутко. По словам разработчиков, говорящая голова может применяться в сферах обучения, медицины и различных сервисов.

Заложенный самообучающийся алгоритм позволяет Софии развиваться. Hanson Robotic утверждают, что подобные андроиды будут гулять вместе с нами по улице в ближайшие 20 лет. Но даже сейчас от человекоподобного робота страшно слышать фразу«Я уничтожу человечество», пусть даже и сказанную в шутку.

На сегодняшний день София — это один из самых человекоподобных роботов. Заложенный интеллект может анализировать тон, эмоции и мимику говорящего и строить диалог с помощью этой информации.

Секс с роботом

Созданная в Калифорнии самая дорогая и самая правдоподобная секс-кукла Harmony улыбается, моргает и шутит. Но это не главные ее главные достоинства: она способна запоминать предпочтения партнера.

Самообучаемый алгоритм будет знать, как понравиться своему хозяину не только тактильно, но и душевно — поддержать диалог, поздравить с днем рождения и так далее.

Работающий экземпляр поступит в продажу в 2017 году и будет стоить от $15 тысяч. Пока кукла не может ходить, но разработчики считают, что подобные роботы станут «идеальными компаньонами» на рынке развлечений для взрослых: «Моя цель очень простая — делать людей счастливыми», — рассказывает создатель Harmony Мэтт МакМуллен.

Международная организация Foundation for Responsible Robots (FRR), которая анализирует этические и моральные проблемы робототехники, всерьез рассматривает проблему замены людей на машины. Представители организации прогнозируют, что в течение 10 лет роботы для секса обретут широкую популярность.

Другие авторские размышления о будущем можно прочесть в Telegram-канале о науке и технологиях «На орбите Марса».

0
57 комментариев
Написать комментарий...
Кондрат Кондратенко

Каждые пять лет слышу, что через пять лет роботы то и роботы сё. Но результатом пока не впечатлён, честно говоря.

Ответить
Развернуть ветку
Денис Кулагин

Вообще не соглашусь. Прогресс гигантский и он налицо. Из примеров:

1. Распознавание речи вышло на совершенно другой уровень — голосовые команды навигатору это уже норма.
2. Текст-в-речь совершенно избавился от характерного железного тембра и для коротких сообщений не режет ухо.
3. Персональные рекомендации скакнули на уровень — если раньше это была дань моде, сегодня они реально встроились в цепочку навигации.
4. Машинный перевод по качеству и бесшовности скакнул далеко вперёд.
5. По железкам — посмотрите на завод Tesla. Это просто фантастика, сколько работы там делают промышленные роботы.
6. Самоуправляемые машины — это уже практически реальность.

Уровень хайпа всегда выше реальных достижений, но в роботике и искусственном интеллекте просто нельзя не заметить реального прогресса. И по мере того, как этот маховик раскручивается, движение будет только убыстряться.

P.S. Если касаться развития андроидов — здесь приходится одновременно и железную проблему решать, пока не очень успешно, и коммуникативную, чтобы было минимально комфортно для общения на свободные темы. Так что это вопрос не столь близкого будущего, как мне кажется. Но рано или поздно и они станут реальностью.

Ответить
Развернуть ветку
Serge Arsentiev

Вопрос разбирался в научной и не очень фантастике, как говорится на выбор - спокойно, с юмором, с надрывом, и т.д.
Предсказывали что все вышеперечисленное (и многое другое), будет еще в 80-х, ну в крайнем случае в 90-х.

К счастью (скорее так), доступные обществу системы ИИ работают как Сири, которая сразу (стремительно) тупеет просто при переключении с английского на русский - т.е. при отклонении от протестированных схем начинаются затыки ...

Ответить
Развернуть ветку
Денис Кулагин

Развитие искусственного интеллекта упирается в железо и данные. Поэтому первая волна, пришедшаяся на 80-е, разбилась об эти камни и наступила AI-зима.

Сейчас всё получается именно потому, что появились данные хорошего качества, их много. С железом всё тоже отлично — облачные технологии позволяют собрать "машинку" с любыми параметрами за 15 минут. Хотя развитие "бытового" железа практически остановилось и из-за физических ограничений и по чисто экономическим причинам. Хочется надеяться, что новый виток противостояния AMD vs Intel подстегнёт развитие рынка процессоров.

С Сири играют роль два фактора. Экономика — понятно, что российский рынок не является для Apple приоритетным, поэтому вкладывать деньги в R&D в этом направлении они не спешат. Второе — любой ИИ ограничен создателями в наборе действий, которые он может выполнить, поэтому иногда кажется что ассистент тупит.

Рано или поздно появится социальная сеть для роботов, искусственных ассистентов и прочих цифровых, где они смогут накапливать знания об окружающем мире и их связи с выполняемыми командами. Собственно сейчас похожее происходит для чат-ботов. Тогда будет новый скачок воспринимаемого уровня искусственного интеллекта.

Ответить
Развернуть ветку
Serge Arsentiev

Русский в Сири бы использован как пример "шкрябанья днищем" - при сходе условного ИИ (пусть даже просто распознавания речи) с подготовленной трассы английского языка.

Вы совершенно правы в том, что ИИ предсказывали давно, и ни традицонное железо, ни традиционные алгоритмы - не позволили ИИ быстро усваивать данные, хотя бы так быстро, как человек.

Я бы заострил внимание на том, что пока нейрохирурги и психиатры договариваются о том, как же все-таки работает человеческий мозг (аналоговый), кто-то пытается _искусственным_ образом сделать тоже самое на цифровом оборудовании - т.е. совсем по другим принципам.
И где-то там бродят антропологи, которые вовсю ищут "недостающее звено" и понять не могут, что и как зародило в обезьяне разум (который без изменений сидит в черепной коробке человека толи 2 млн лет, толи больше)

Ролик про машинное обучение ИИ :)
Short Circut (c) 1986

Ответить
Развернуть ветку
Денис Кулагин

Небольшой комментарий. На сегодняшнем уровне развития ИИ не имеет к разуму ни малейшего отношения. Это чистая хардкорная математика. Никакого смысла (как бы мы не трактовали этот термин) машина не понимает.

Вы абсолютно правы в том, что по своей сути это игра в имитацию и задача извлечь из неё максимум практической пользы.

Что касается исследований мозга — это интереснейшая тема, но наш главный орган начисто выигрывает у компьютерных чипов по физическим размерам, количеству вычислительных модулей и связей между ними. Так что напрямую мозг не скопировать — это окажется запретительно дорого.

Ответить
Развернуть ветку
Serge Arsentiev

Мне кажется нужен другой принцип, не 0 и 1, а аналоговый, если хотите ассоциативный.
Пусть даже если это будет:
- Рыбонька моя
- Рыба, значит с зубами, с зубами значит щука, с зубами значит собака ... (звонит по тлф), Мама, он только что меня $укой назвал, что делать?

Но в этом больше логики, чем "найдено 125 000 000 изображений с рыбами, задайте дополнительные критерии"

Ответить
Развернуть ветку
Денис Кулагин

Такой подход проигрывает по одной простой причине — нужно сначала формализовать как мы думаем, а потом передать это машине. А в процессе любой формализации теряется 95% деталей. Именно поэтому нельзя прочитать книгу и сразу стать профессионалом. Требуется ещё потом обрасти опытом.

Но так или иначе движение в этом направлении, если мы хотим создать интеллект, а не продвинутую поисковую систему, сделать придётся. Скорее всего это будет коктейль из вычислительной математики, логики, философии, лингвистики и много чего ещё. Но более определённо пока сказать трудно.

Ответить
Развернуть ветку
Serge Arsentiev

Денис, все верно. Фантастика (фэнтези), часто рассказываем нам про чтение мыслей (прибором или магией) - хотя на самом деле у человека "мысли путаются", и "нервные клетки не восстанавливаются, они только толкаются и скандалят" ... т.е. как именно мы принимаем те или иные решения, не всегда понятно.

В этом смысле мне нравится, немного возвышенное сравнение Пелевина, который ... не могу найти прямую цитату: "За внешней непредсказуемостью и эмоциональностью, женщины скрывают наблюдательность, интуицию и мощный мозг-компьютер, способный, например на тусовке из 100 человек за несколько секунд сканирования толпы найти 2-3 хороших и свободных варианта вместе провести вечер"

Ответить
Развернуть ветку
54 комментария
Раскрывать всегда