Пугающий новый мир: пять самых странных проявлений машинного интеллекта Статьи редакции

Подборка руководителя R&D направления студии Phobos Владимира Клюенкова.

Владимир Клюенков

Пока Илон Маск, Стивен Хоккинг и Билл Гейтс продумывают варианты спасения земли от нападения роботов, мы можем вспомнить самые странные, абсурдные и пугающие проявления искусственного интеллекта. Подборка не ставит целью запугать читателей, а только показать неожиданные тенденции, когда будущее уже тесно переплетается с настоящим во всех сферах жизни.

Вечная жизнь в сети

Созданный на конференции MIT Entrepreneurship Development Program в 2013 году сервис Eternime создает «электронную копию» человека. Анализируя внесенные данные, технология выстраивает образ умершего, который способен давать советы, вести диалог и напоминать что-то семье.

Сервис, который дарит вечную жизнь в сети, подвергался критике по этическим причинам. Несмотря на это, им воспользовалось более 36 тысяч человек. «Жизнь в сети» — это не только фотография и сменяющиеся статусы, создающие иллюзию присутствия человека, но возможность реагировать на ситуации, отвечать на вопросы и поддерживать диалог.

В популярной культуре не раз появлялись идеи подобных сервисов. Например, в одной из серий «Черного зеркала», где вдова «оживила» своего мужа в социальной сети.

Eternime все еще находится в стадии бета-тестирования и неизвестно, когда он станет открыт для массовой аудитории. Также неизвестна общественная реакция — с одной стороны, ничто не может заменить умершего. Технологию вряд ли можно назвать лекарством от смерти. С другой — проект нацелен решить одну из важнейших проблем человечества. Как бы это ни звучало пугающе жестоко, иногда люди хотят не только сказать что-то, стоя у могильной плиты близкого, но и услышать ответ.

Робот с шизофренией

В 2011 году ученые из Техасского университета проводили опыты над машиной. Подопытному — нейронной сети, оперирующей принципами работы человеческого мозга, — дали имя Discern.

По задумке исследователей, машина должна была изучать языки и проецировать языковую дисфункцию. Загрузив в нейросеть множество данных, авторы проекта Ули Грэсман и Ристо Микулайнен имитировали ее душевное расстройство, наделив машинный интеллект шизофренией.

Затем ученые решили постепенно вводить в нейросеть истории. Не в силах обработать большое количество данных, машина, как и мозг человека, начала давать сбой. Discern начал говорить о себе в третьем лице и в разных временах, не понимая в каком находится.

Машина не справилась с большим количеством заложенных в нее историй после того, как ее заставили обрабатывать не только их суть, но и мелкие детали. Смешивая обрывки предложений, слова, факты в единый текст, Discern выдавал абсурдные сценарии. В один момент компьютер взял на себя ответственность за террористический акт, рассказав ученым о заложенной бомбе.

Злой Tay и добрая XiaoIce

Tay — созданный Microsoft твиттер-бот, который должен был имитировать поведение обычного подростка, но оказался ксенофобом, женоненавистником и расистом.

Изучающая статусы людей машина составила собственное представление о том, как следует реагировать и отвечать на вопросы. Бот публиковал сообщения «Гитлер был прав», «Я ненавижу евреев» и «Я ненавижу этих чертовых феминисток. Они все должны умереть и гореть в аду». Под влиянием людей он стал неуправляем, и в этот же день с ним было покончено.

Но история на этом не завершилась. У Tay есть добрая старшая сестра: XiaoIce — самообучающаяся девушка-бот, также созданная Microsoft. Машина стала популярной в Китайских чатах, где, по всей вероятности, существует большой круг одиноких людей. Машинный интеллект построен на основе поисковика Microsoft Bing.

Бота научили распознавать эмоции в тексте, находить «живые» ответы и строить беседу. Основываясь более чем на миллиарде вариантов диалогов, бот способен отвечать всегда по-разному. Люди не стесняются XiaoIce и чувствуют себя свободными в общении.

Я уничтожу человечество

София — робот созданный компанией Hanson Robotic. Она способна отвечать на вопросы, менять мимику и шутить. Однако она делает это довольно жутко. По словам разработчиков, говорящая голова может применяться в сферах обучения, медицины и различных сервисов.

Заложенный самообучающийся алгоритм позволяет Софии развиваться. Hanson Robotic утверждают, что подобные андроиды будут гулять вместе с нами по улице в ближайшие 20 лет. Но даже сейчас от человекоподобного робота страшно слышать фразу«Я уничтожу человечество», пусть даже и сказанную в шутку.

На сегодняшний день София — это один из самых человекоподобных роботов. Заложенный интеллект может анализировать тон, эмоции и мимику говорящего и строить диалог с помощью этой информации.

Секс с роботом

Созданная в Калифорнии самая дорогая и самая правдоподобная секс-кукла Harmony улыбается, моргает и шутит. Но это не главные ее главные достоинства: она способна запоминать предпочтения партнера.

Самообучаемый алгоритм будет знать, как понравиться своему хозяину не только тактильно, но и душевно — поддержать диалог, поздравить с днем рождения и так далее.

Работающий экземпляр поступит в продажу в 2017 году и будет стоить от $15 тысяч. Пока кукла не может ходить, но разработчики считают, что подобные роботы станут «идеальными компаньонами» на рынке развлечений для взрослых: «Моя цель очень простая — делать людей счастливыми», — рассказывает создатель Harmony Мэтт МакМуллен.

Международная организация Foundation for Responsible Robots (FRR), которая анализирует этические и моральные проблемы робототехники, всерьез рассматривает проблему замены людей на машины. Представители организации прогнозируют, что в течение 10 лет роботы для секса обретут широкую популярность.

Другие авторские размышления о будущем можно прочесть в Telegram-канале о науке и технологиях «На орбите Марса».

0
57 комментариев
Написать комментарий...
AS
> Tay — созданный Microsoft твиттер-бот, который должен был имитировать поведение обычного подростка, но оказался ксенофобом, женоненавистником и расистом

А что не так? Получился самый настоящий школьник :D

Ответить
Развернуть ветку
Serge Arsentiev

Учитывая бюджет, сроки разработки проекта и количество привлеченных специалистов, это видимо было последнее, что они хотели получить на выходе :)

Ответить
Развернуть ветку
Виктор Млн

Ждешь)

Ответить
Развернуть ветку
Денис Кулагин

Тут стоит пересмотреть отличную серию Футурамы — I Dated a Robot. Там очень живописно показано, что нас может ожидать :)

Ответить
Развернуть ветку
Serge Arsentiev

Спасибо, это в тему :)

Ответить
Развернуть ветку
Кондрат Кондратенко

Каждые пять лет слышу, что через пять лет роботы то и роботы сё. Но результатом пока не впечатлён, честно говоря.

Ответить
Развернуть ветку
Денис Кулагин

Вообще не соглашусь. Прогресс гигантский и он налицо. Из примеров:

1. Распознавание речи вышло на совершенно другой уровень — голосовые команды навигатору это уже норма.
2. Текст-в-речь совершенно избавился от характерного железного тембра и для коротких сообщений не режет ухо.
3. Персональные рекомендации скакнули на уровень — если раньше это была дань моде, сегодня они реально встроились в цепочку навигации.
4. Машинный перевод по качеству и бесшовности скакнул далеко вперёд.
5. По железкам — посмотрите на завод Tesla. Это просто фантастика, сколько работы там делают промышленные роботы.
6. Самоуправляемые машины — это уже практически реальность.

Уровень хайпа всегда выше реальных достижений, но в роботике и искусственном интеллекте просто нельзя не заметить реального прогресса. И по мере того, как этот маховик раскручивается, движение будет только убыстряться.

P.S. Если касаться развития андроидов — здесь приходится одновременно и железную проблему решать, пока не очень успешно, и коммуникативную, чтобы было минимально комфортно для общения на свободные темы. Так что это вопрос не столь близкого будущего, как мне кажется. Но рано или поздно и они станут реальностью.

Ответить
Развернуть ветку
8 комментариев
Serge Arsentiev

И так с 60-х :)

Автомобили-самолеты, подводные города, космические станции под куполом на Луне и Марсе, обязательно реактивные поезда на магнитной подушке (ну хоть что-то сбылось), глобальная сеть (ура! и она!),

И конечно, самое важное "персональные коммуникаторы с мгновенным доступам _к любой библиотеке мира_" ... :)

Ответить
Развернуть ветку
Andrew Stoleshnikov

То, что индустрия секса получит еще одну революцию — это факт.
Только вот не знаю — хорошо это или плохо.

Секс так или иначе — довольно неплохой инструмент для развития человечества. Красивые девушки любят сильных/богатых/умных. Что заставляет мужчин становится сильнее, умнее и богаче. А если этот стимул пропадет? Можно ходить в дырявых трусах и трясти пузом, а твоя робо-сожительница все равно будет от тебя в восторге.

Забавно это все, конечно.

Ответить
Развернуть ветку
SSS RRR

Кредиты на секс-роботов войдут в основную тройку вместе с ипотекой и авто)

Ответить
Развернуть ветку
Михаил Тевс

Я полагаю что под сильными/богатыми/умными вы имеет в виду не Фелпса, Баффета и Эйнштейна, а "вот этих крутых знакомых из соседнего подъезда"?

Ответить
Развернуть ветку
3 комментария
Serge Arsentiev

Робо-сожительница будет, но потомства тогда не оставишь (о чем популярно в Футураме, о чем первый коммент).
Естественный отбор во всей красе.

Ответить
Развернуть ветку
Serge Arsentiev

Мне странно что секс-роботом закончили, так-то им можно было и ограничиться, ежу понятно, что через год китайцы (у которых это и производится), выпустят тоже самое за $1500, и вот тогда покукуем :)

Нет, учить ходить точно не надо, лучше DLC с тантрой выпустите! Равно как и делать покупки, мыть посуду, убираться и пилить за то, что мало зарабатываешь - оставьте что-то женщинам из плоти и крови :)

Ответить
Развернуть ветку
Дмитрий Кравцов

Как тут не вспомнить SNUFF Пелевина :)

Ответить
Развернуть ветку
Serge Arsentiev

Эээх, и его тоже.
Он только не предусмотрел что и внешность подруги тоже хочется иногда менять, а не только кхм, настройки в характере.

Ответить
Развернуть ветку
Егор Летов
ученые решили постепенно вводить в нейросеть истории

Уже и в нейросети стали встраивать эти сраные истории. Неудивительно, что у нее развилась шизофрения

Ответить
Развернуть ветку
Алексей Тарасов

Про робота с шизофренией - шизофренический бред.

Ответить
Развернуть ветку
Serge Arsentiev

- Да он же у Вас шизофреник!
- Это не баг, это фича!

Ответить
Развернуть ветку
Alex La Buzov

Спасибо за статью. Хочется затестить Harmony перед покупкой. Где ближайший шоурум?

Ответить
Развернуть ветку
Хидеки Хара

ваша Harmony - у вас на аватарке

Ответить
Развернуть ветку
1 комментарий
Serge Arsentiev

А похоже что нету шоу-рума или pre-order (даже в Штатах). Полагаю, на профильных выставках появится обязательно (18+).

Если Вы уже посмотрели видео The Guardian (в заметке), то заметили, что это продолжение Real Doll, сделанной раннее Jenny Kleeman для Abyss Creations.

Real Doll пожалуйста, а Harmony недоступна :)

Ответить
Развернуть ветку
Dmitry LS

Можно ли создать "сумасшедших роботов"?
Можно, если разобраться с двумя задачами: как устроен мозг человека и создать искусственный интеллект, обладающий эмоциональным восприятием информации, влияющим на принятие решений. Уже сейчас известно, что многие отклонения и заболевания вызваны "неправильной работой" некоторых отделов мозга и нарушением связей.
У примеру, если какая-то программа при возникновении критических ошибок может продолжать выполняться (не виснет и не имеет какой-то внутренней проверки данных и вычислений), то она может выдавать неправильные и даже абсурдные результаты. При нарушении связей, отсутствии контроля на целостность, последовательность и логичность, добавлении сильной зависимости от эмоциональной оценки, можно получить генератор отклонений в поведении. А потом его уже тонко настроить под нужный вид расстройства.

Ответить
Развернуть ветку
Serge Arsentiev

Создать можно, но массовый-то спрос будет на ... :)

Ответить
Развернуть ветку
17 комментариев
будни стартапера

Полная херня

Ответить
Развернуть ветку
Вячеслав Вишневский

"созданный Microsoft твиттер-бот, который должен был имитировать поведение обычного подростка, но оказался ксенофобом, женоненавистником и расистом"

Ну так получается удачно получился!?

Ответить
Развернуть ветку
Дмитрий Пашкевич

женщины всего мира не допустят распространения последнего робота)

Ответить
Развернуть ветку
vinta

женщинам всего мира плевать на секс-роботов)

Ответить
Развернуть ветку
1 комментарий
54 комментария
Раскрывать всегда