Пять мифов об искусственном интеллекте Статьи редакции

Директор по маркетингу Fast Forward Lab Кэтрин Хьюм рассказала о том, как СМИ нагнетают обстановку вокруг разработок учёных.

Израильский историк Юваль Ной Харари в книге «Sapiens. Краткая история человечества» пишет, что люди, в отличие от других живых существ, могут действовать сообща, объединяясь в гигантские группы по системам, которые сами же для себя придумали. Примеры таких систем — боги, нации, деньги, человеческие права, которые строго поддерживаются религиями, политическими структурами, торговыми сетями и законами.

Как предприниматель я восхищаюсь силой коллективных систем. Построить технологическую компанию трудно. Проигранные сделки, неугомонное эго, импульсивные решения, ошибки в коде, сорванные сроки, гонки за клиентами, ошибки в реализации: что угодно может спустить вас с небес на землю. Миссия — это возможность держать команду в тонусе в трудных ситуациях.

До тех пор, пока миссией компании управляют харизматичные лидеры, бизнес вовлекается в систему, которая гораздо больше него. В этой системе возможно всё, границы гибкие, и это вдохновляет команду.

Безумно интересно работать в компании, которая создает программное обеспечение с искусственным интеллектом (ИИ). Искусственный интеллект умеет обобщать информацию о продукте, чтобы дать человеку новые данные. Однако если бы ИИ просто собирал статистику, вокруг него не было бы столько шума.

Нас соблазняют идеи о том, как искусственный интеллект перевернет жизнь человечества. Мы восхищаемся искусственным интеллектом, когда думаем, что его можно научить делать то, на что способен только человек: говорить, писать и создавать предметы искусства. Или избавить нас от необходимости «гуглить» или работать в Excel.

Проблема в том, что пока мы мечтаем, мы не знаем реальных способностей, возможностей и угроз новой технологии. В этой статье я рассмотрю пять популярных заблуждений об искусственном интеллекте.

Каждый раз, когда мой отец слышит, что искусственный интеллект заменит людей, он вспоминает фильм «Кабинетный гарнитур»— романтическую комедию 1957 года с участием Спенсера Трейси и Кэтрин Хэпберн.

Это фильм о библиотекарях, которые боятся потерять работу, потому что в компании установили электронный мозг «Эмерак» (назван так в честь компьютера компании IBM ЭНИАК). Он знает ответы на все, даже самые пустяковые вопросы клиентов. Фильм добрый и предсказуемый, наверняка, если вы воображали себе мир без работы, то это были бы сцены из «Кабинетного гарнитура».

Руководство не опровергает сплетни о том, что машина заменит людей, и просит сотрудников держать информацию в секрете. Все это для того, чтобы акции не упали перед большой секретной сделкой по слиянию с другой компанией. В лучшей сцене примитивный электронный мозг не справляется с блестящим интеллектом героини Кэтрин Хэпберн, в неё влюбляется герой Трейси. Фильм заканчивается тем, что машина, которой все боялись, ошибается и отправляет всем сотрудникам извещения об увольнении. Только в тот день руководство компании сообщает, что «Эмерак» не должен был заменить людей, а лишь помочь им лучше работать.

«Кабинетный гарнитур» преподносит нам урок. 1950-е были бумом разговоров об искусственном интеллекте. В 1952 году Клод Шеннон разработал Theseus — искусственную мышь, которая умеет проходить лабиринты. В 1957 году Франк Розенблатт построил компьютер Mark I Perceptron, предшественника современных нейросетей. В 1958 году Ганс Питер Лун написал статью об искусственном интеллекте, который управляет информационными системами.

Мы до сих пор работаем над тем, чтобы создать такую систему. В 1959 году Артур Сэмюэл ввел в употребление термин «машинное обучение», после того как создал программу по игре в шашки. Профессор университета Carnegie Mellon Том Митчелл написал манифест о машинном обучении в современном мире.

Общество волновалось и предвкушало изменения: что работа, как мы её себе представляем, просто закончится или коренным образом изменится с приходом искусственного интеллекта. Но этого не произошло. Мы попали в ловушку искусственного интеллекта. Исследования не пригодились.

Технологии повлияли на то, как мы работаем и живем, но совсем не так, как представляли себе люди в 1950-х. Несмотря на прогнозы, мы создали много новых рабочих мест. И в 1950 году никто не мог себе представить Сан-Франциско, полный кремниевых транзисторов и подростков, которые зарабатывают миллионы на мобильных приложениях. Никто не представлял себе Марка Цукерберга. Никто не представлял себе Питера Тиля.

Чтобы искусственный интеллект реально повлиял на что-то в бизнесе, мы должны постоянно над ним работать. За последние два года я увидела больше сотни предприятий, и скажу вам, что нам предстоит немало работы, чтобы искусственный интеллект заменил человека.

Чем больше мы соберем аналитики, тем точнее будет информация от искусственного интеллекта. Как сказал ученый Амос Тверски: «Человек — это точное устройство, выброшенное во вселенную вероятностей».

Люди ошибаются, они предпочитают чёткие инструкции неопределённости. Маура Гроссман и Гордон Кормак — профессоры по исследованиям, David R. Cheriton School of Computer Science at the University of Waterloo, потратили годы, собирая доказательства, что люди не такие внимательные, какими привыкли себя считать. Джон Холл, глава компании Intapp, объясняет, что юридические департаменты компаний по-прежнему страдают, пытаясь обнаружить конфликт интересов или потенциальные улики. Наши убеждения должны измениться, чтобы искусственный интеллект стал по-настоящему эффективным.

Я обожаю статью, в которой описывается отчаянное волнение президента США Барака Обама, узнавшего о местонахождении террориста Усамы Бен Ладена в 2011 году.

Прежде чем рассуждать, как искусственный интеллект заменит человека, давайте научимся работать со статистикой и теорией вероятностей. На это потребуется время.

Управленцы должны быть готовы рисковать и принимать решения в условиях неопределенности. Руководители должны решить, где нужна информационная прозрачность — это ситуации, в которых важно знать логику принятия решения, например при выдаче потребительских кредитов. А также ситуации, в которых точность и аккуратность нужнее: самоуправляемые автомобили, где важнее спасти жизнь, чем знать причины принятия решений.

Задача в том, чтобы разделить работу человека и машины. Для этого нужны консультанты, которые помогут соединить работу человека и искусственного интеллекта.

Почти каждый умеет говорить, но лишь немногие рассказывают что-то значимое и интересное. То же правило действует для чат-ботов, систем программного обеспечения с интерфейсом для живого разговора. Чат-боты — это следующее поколение после голосовых опций в меню авиакомпаний, страховых, банков и коммунальных служб.

Сейчас чат-боты используются даже для записи на йогу или стрижку. Эта идея прекрасна: она делает технологии дружелюбными, технофобам вроде вашей бабушки помогает заказывать на Amazon через помощника Alexa, и упрощает жизнь бизнесу, который работает с гигантскими клиентскими базами.

Проблема в том, что люди так увлечены идеей создания умного бота, что забывают о главном. Возможность говорить не гарантирует содержательных ответов.

Мы в Fast Forward Labs видели влюбленные в чат-боты стартапы, которые забыли о большой внутренней работе по обучению бота. Эта работа состоит из сбора, чистки, передачи и хранения информации для бота. Важные аспекты: постановка вопросов, на которые бот должен отвечать, конфиденциальность, возможность включить человека в процесс, если что-то пошло не так, и так далее.

Искусственный интеллект — не волшебная таблетка. Он только на стадии становления, и мало кто использует его в работе на 100%. Мы экспериментируем, ограничиваем область применения, поэтому реальность далека от образов, подаренных нам учеными из 50-х.

Когда моя коллега Хиллари Мазон рассуждает о лучшем применении аналитики, она приводит в пример Google Maps. Почему? Потому что они обычные. Google Maps просты и удобны для пользователя, весь технический сложный бэкграунд разработчики заботливо спрятали в невидимый нам код.

Разговор с чат-ботом — не единственный способ общаться с клиентами. Лучшие приложения на основе искусственного интеллекта будут разработаны дизайнерами, которые соединят текст, речь, картинки и навигацию воедино.

Энди Стерн, автор книги Raising the Floor, предлагает внедрить правительственную программу универсального базового дохода, которая даст любому гражданину Соединенных Штатов ежемесячную стипендию в размере $1000. Это способ противостоять безработице.

Базовый доход объединяет разных людей. Либералы-технократы из Кремниевой долины и консерваторы, прогрессивные социалисты — например, Энди Стерн, возглавлявший Международный союз работников сферы обслуживания несколько лет, — и футуристы вроде Питера Диамандиса.

Однако базовый доход отвлекает нас от проблемы, которую создало общество в погоне за технологиями, — неравенство доходов. Она образовалась на стыке глобализации, технологий, государственных программ, образования, профессиональных школ в Соединенных Штатах.

В книге Seventh Sense Джошуа Купер Рамо объясняет, как глобализация меняет концепцию власти. Сегодня большая власть сосредоточена в «руках» нескольких корпораций (Google, Facebook, Amazon, Uber), а микро-власть получили миллионы пользователей этих платформ, которые могут открыто высказываться и влиять на своих подписчиков. Николас Блум, профессор экономики Стэнфордского университета, пишет об этом в статье для Harvard Business Review, посвящённой роли корпораций в эпоху неравных доходов.

Экономические последствия превратившегося в единую сеть мира могут быть ужасны, и их необходимо осмысливать с помощью подходов, которые не существовали в 20-м веке. Идеи прошлого века, такие как политика протекционизма, не помогут решить проблему растущей роли корпораций. Это лишь временное успокоение, которое может привести к насилию в будущем.

Важный аргумент в пользу базового дохода — эта программа помогает бедным вернуть достоинство. Представьте: чтобы поесть, вам бы пришлось отстоять огромную очередь на задворках производственного склада. И единственная еда, которую вы можете позволить, — жирная и ведет к проблемам с сердцем и диабету. Представьте, сколько времени вам бы пришлось провести в очередях и офисах, вместо того, чтобы научиться чему-то новому.

Посмотрите фильм «Я, Дэниэл Блейк». Вы увидите доброго работящего честного человека, который вынужден пройти все круги бюрократической системы, прежде чем он взбунтуется против нее.

Базовый доход не решит всех проблем, но поможет с эмпатией относиться к тем, кто не разделяет наши политические убеждения. Напуганные и уставшие от бедности люди имеют право голоса.

Таким образом, гонка за технологиями и предвкушение от эффекта их внедрения отвлекает внимание сильных игроков рынка от реальных социальных проблем.

«Просвещение — это выход человека из состояния своего несовершеннолетия, в котором он находится по собственной вине. Несовершеннолетие есть неспособность пользоваться своим рассудком без руководства со стороны кого-то другого. Несовершеннолетие по собственной вине — причина такого состояния заключается не в недостатке рассудка, а в недостатке решимости и мужества пользоваться им без руководства со стороны кого-то другого. Sapere aude! — имей мужество пользоваться собственным умом! — таков девиз Просвещения».

Это первый абзац эссе Иммануила Канта 1784 года «Отвечая на вопрос: Что такое Просвещение?». Я привожу его, потому что разговор об искусственном интеллекте как об угрозе для человека напоминает мне Средневековье, когда философы вроде Фомы Аквинского и Вильгельма вон Окэма аргументировали свою точку зрения на постулатах авторитетов: «Это не подлежит сомнению, потому что так сказал Аристотель...»

Декарт, Лютер, Дидро, Галилео и другие мыслители эпохи Просвещения не хотели слепо следовать чужим постулатам. Они утверждали, что любой человек способен критически мыслить и принимать решения исходя из своей картины мира.

Идеи мыслителей эпохи Просвещения стали началом направления «романтизм», которое перешло в реализм, навеянный идеями Генри Торо и Ральфа Уолдо Эмерсона (американские мыслители девятнадцатого века). В двадцатом веке мы вернулись к тому, чтобы больше полагаться на мнение авторитета, чем на собственное.

Чертовски трудно идти в ногу со всем, что происходит, поэтому мы отдаем экспертам право принимать решения и делать выводы. Это значит, что если Билл Гейтс, Стивен Хокинг и Элон Маск, гении инженерии, науки и предпринимательства, считают, что искусственный интеллект — угроза человечеству, то и мы, люди далекие от технологий, поверим в это.

Проблема в том, что идеи, которых придерживаются люди вроде Ника Бострома — шведского философа, профессора Оксфордского университета, — готовят нас к худшему, отвлекая от реальных проблем, которые несет искусственный интеллект.

Но вместе с этим формируется новое отношение к ИИ. Движение «Честность, подотчетность и прозрачность» в машинном обучении фокусируется не на мошеннических операциях (старая идея из стихотворения Гете 1797 года «Ученик Чародея»), а на том, как алгоритмы влияют на предпочтения людей.

Написано много серьезных текстов о практическом применении искусственного интеллекта. Стажер Fast Forward Labs только что опубликовал статью об инструменте под названием FairLM, который он использовал для исследования о скрытом расизме при принятии решений об уголовных наказаниях. Математик Кэти О’Нил регулярно пишет статьи о пороках технологий для Bloomberg.

Гидеон Манн, который отвечает за аналитику в Bloomberg, пишет Клятву Гиппократа для ученых по большим данным. Инженер по программному обеспечению Блейз Агуера и Аркас и его команда по искусственному интеллекту в Google ищут неточности в алгоритмах Google. Ученый-аналитик Клэр Кортелл собирает практиков в Сан-Франциско, чтобы развивать методы работы с большими данными. Список можно продолжить.

Разработка этичных алгоритмов — это марафон, а не спринт. Управленцы в больших корпорациях ищут финансовую выгоду от применения искусственного интеллекта. Этика не стоит на первом месте. Я считаю, что в будущем бизнес поставит на первое место информационную безопасность, чтобы защитить репутацию компании.

Мы говорим об искусственном интеллекте так, как будто он живой человек. В ноябре я выступала на конференции Artists and Machine Intelligence, которую Google проводила в Париже. Это удивительное событие.

Оно собрало высококвалифицированных инженеров и далеких от технологий художников, чтобы посмотреть, как люди, не связанные с технологиями, интерпретируют алгоритмы инженеров, их создавших.

Иногда это полезно: художники вроде Росса Гудвина и Кайл Макдональд обдумывают идею отдать власть компьютерам, чтобы освободить творческий дух человека. Иногда это нелепо: один участник, узнав, что проект Google DeepDream — это попытка разгадать принцип работы нейронных сетей, спросил, можно ли использовать искусственный интеллект как новую ветвь психоанализа Фрейда.

Идут споры, могут ли художники использовать искусственный интеллект, чтобы раскрыть весь креативный потенциал человека. Я думаю, что все возможно, и время покажет.

То, что мы говорим об искусственном интеллекте, в конечном счете определяет, на что он способен. Наша способность очеловечивать таблицу умножения достойна восхищения. Но я не могу не сомневаться, когда читаю о социальной справедливости для роботов. Все бы ничего, если бы речь шла только о клиентском сервисе, но не о праве на конфиденциальность.

Суд рассматривал дело о том, может ли полиция использовать конфиденциальную информацию о подозреваемом в убийстве с устройства Amazon Echo.

Джоанна Брайсон, ученый из Университета Бата и Принстона, предложила интересное объяснение, почему нет смысла юридически наделять искусственный интеллект индивидуальностью: «Искусственный интеллект не может быть приравнен к человеку, потому что в качественно собранном искусственном интеллекте нет места человеческой тревожности». Тревожность, говорит Брайсон, это неотъемлемая часть нашего культурного кода.

Мы, люди, не воспринимаем себя как сумму отдельных элементов или отдельный от тела мозг. Мы ощущаем себя через связь с другими людьми, действуем по правилам, не хотим потерять связь с группой и не хотим страдать. Мы можем придумать механизмы эмпатии для робота, но мы не придумаем ему самосознание и способность делать выводы исходя из личной картины мира.

Эта тема гораздо глубже, чем то, что вам предлагают почитать в статьях про эмоциональный интеллект: что продажи, работу с клиентами, уход за больными и образование будут в будущем ценить больше, чем монотонный труд. Это большой культурный пласт, который поможет нам переосмыслить собственные представления о морали.

#Будущее