«Люди соревнуются друг с другом, будто забыв о том, что они никогда не обыграют программу» Статьи редакции

Лекция директора по маркетингу сервисов «Яндекса» Андрея Себранта об отраслях, которые обречены на забвение в ближайшем будущем.

Сотрудникам технологических компаний — «Яндекса», Mail.Ru Group, Parallels, IBM — легко говорить о будущем. Ведь такие гиганты во многом сами его формируют.

При подготовке к этой лекции мне на глаза попалась обложка августовского номера журнала The Economist с изображением изношенного двигателя внутреннего сгорания. Оказалось, сейчас в мире происходит перестройка автомобильной промышленности и всего, что с ней связано.

Где двигатели внутреннего сгорания, там и топливо. А это интереснейшая отрасль нефтехимии и одновременно огромная инфраструктура, выросшая вокруг неё. На протяжении как минимум последнего столетия всё, что связано с двигателями внутреннего сгорания, было воплощением смелых инженерных идей. Теперь вся эта новизна постепенно исчезает. Выпуск двигателей внутреннего сгорания прекратится к 2050 году. Это значит, что и наука, и инфраструктура обслуживания должны будут перестроиться.

Многие ещё мечтают о том, как будут проектировать огромные двигатели для гоночных машин. Вузы готовят инженеров, наука улучшает технологии. Все они работают на обреченную отрасль.

Так происходит не впервые. На рубеже 20 и 21 веков то же самое случилось с наукой и технологиями обработки фото- и кинопленок. В начале 21 века на Kodak — крупнейшую мировую корпорацию — работали целые научные центры, не говоря уже про соответствующие кафедры и вузы. Однако это не помешало компании обанкротиться.

И так не только с двигателями. За пять минут я набросал список из шести отраслей, которые полностью изменятся в ближайшие 15-20 лет. Это лишь то, что сразу приходит в голову.

Я очень люблю рассуждать о технологиях машинного интеллекта. События 2017 года показывают, насколько быстро, радикально и неожиданно всё меняется. В человеческом сознании стала резко смещаться граница между человеческими и машинными способностями.

Начнём с вполне физических возможностей человека. Когда-то умение донести весть, пробежав марафонскую дистанцию в 42 километра, было важно потому, что другого способа передавать информацию не было.

Сейчас бег уже не служит таким решением. Однако марафонами увлекаются столько людей, сколько не увлекалось даже в Древней Греции. Мы не перестали бегать, хотя теперь в этом нет никакой практической необходимости. Изменилась мотивация.

Это справедливо и для других областей человеческой деятельности. Первыми под удар попали шахматы. На сайте Electronic Frontier Foundation есть интересный материал о том, как в разных областях машины отвоёвывали позиции у человека.

В середине 20 века возникла идея о том, что машина может неплохо имитировать человеческий интеллект, тогда же начали появляться программы для игры в шахматы. С 1980-х годов их уровень повышался, но до чемпионов мира им было далеко.

Потом появился суперкомпьютер Deep Blue, который в 1997 году обыграл Гарри Каспарова. На этом прогресс не остановился. В какой-то момент оказалось, что машины играют в шахматы на недостижимом для человека уровне. Однако чемпионаты мира по шахматам продолжили существовать.

Мы не соревнуемся с рациями в скорости доставки информации на 42 километра. Спортсмены бегают на марафонскую дистанцию потому, что им интересно соревноваться друг с другом. И в шахматах появились две лиги: машины играют с машинами, а люди — друг с другом, будто забыв о том, что никто из них никогда не обыграет программу.

Победа машины над человеком в шахматах, конечно, стала событием, но не таким большим, как когда компьютер начал хорошо играть в го. Шахматы — игра, просчитываемая до конца, в ней не так много позиций, а стратегии известны. До 1990-х годов компьютеры не выигрывали у человека только потому, что им не хватало вычислительных мощностей.

Технологический прогресс привёл к тому, что на рубеже веков стало возможным просчитать оптимальную партию. С этого момента выиграть у машины нельзя: она может просчитать столько ходов, сколько не просчитает ни один шахматист. Человеческая интуиция обесценилась, ведь по ту сторону доски — заведомо оптимальные решения. Это называется «брутфорс» — перебор всех вариантов, для которого достаточно вычислительных мощностей.

Когда машины начали хорошо играть в шахматы, для специалистов в машинном интеллекте возник следующий предел — игра в го. В го количество возможных ходов на много порядков превышает число атомов во Вселенной. Невозможно просчитать эту игру методом брутфорса.

Не существует учебников по игре в го. В неё нужно погружаться. Как человек постепенно начинает чувствовать прелесть сложной классической музыки, так и игрок в го чувствует гармонию позиций, правильность следующего хода, непредсказуемость хода противника. Это выражается не в количественных формулировках, а в таких категориях, которые, казалось, невозможно объяснить машине.

В 2014 году эксперт пишет: прогноз о том, что через десять лет машина победит человека в го, кажется оптимистичным. Сами игроки считают, что это не машинная задача. При этом в начале 2014 года британская компания Deep Mind, купленная Google, начала работу над проектом AlphaGo. Пока эксперт предсказывал будущее, они его строили.

В 2015 году, когда AlphaGo уже на равных играл с европейскими чемпионами, другой эксперт написал, что игра в го по-прежнему не поддаётся компьютерам, ведь в ней нужна интуиция и другие исключительно человеческие качества.

Через несколько месяцев после этого, в начале 2016 года, прошёл матч между AlphaGo и профессиональным игроком в го Ли Седолем. В матче из пяти партий Седоль выиграл одну, AlphaGo — четыре. После этого Всемирная федерация го решила запретить использование смартфонов на чемпионатах по го.

Одновременно появилось огромное количество статей и заявлений о том, что Ли Седоль выиграл одну партию в условиях стресса, поэтому у человечества остаётся надежда. В конце 2017 года в Москве пройдет фестиваль научно-популярного кино «360», его проводит Политехнический музей. В рамках программы будет представлен документальный фильм под названием AlphaGo.

Я смотрел его и остался недоволен. Это фильм про то, как Ли Седоль отстаивает честь человечества в го, а создатели AlphaGo выглядят как толпа программистов, тычущих пальцами в экран. Уверен, со стороны команды AlphaGo было вложено не меньше умственных усилий, чем со стороны Ли Седоля.

После Седоля китаец Ки Цзе, признанный лучшим в мире игроком в го, пообещал победить AlphaGo. Сыграв в мае 2017 года одну партию, он проиграл всухую.

Надо понимать, что алгоритмы, которые обыгрывают человека в го, учатся, играя сами с собой. Они не знают никаких стратегий, в них не заложено ничего, кроме формальных правил игры. Они играют сами с собой и поэтому совершенствуются непрерывно. Они набирают такой опыт, который никогда не получит ни один человек.

После победы над Ли Седолем AlphaGo играла с Ки Цзе, но также сыграла ещё несколько миллионов партий сама с собой. Ки Цзе просто не осознавал, что у него нет шансов. После победы программы над Цзе создатели AlphaGo объявили, что закрывают проект, потому что дальше уже неинтересно. Они опубликовали лучшие партии из сыгранных AlphaGo с самой собой, чтобы все могли увидеть игру нечеловеческого уровня. Пара моих знакомых фанатов го говорят, что это действительно нечто невозможное.

После этого игроки и учёные заговорили про покер — это ещё одна игра, которая считается недоступной машинам, потому что там надо хитрить и жульничать. Итог понятен. Машине не показывали лучшие партии в покер, а просто дали правила и сказали: «Поиграй сама с собой, а потом — с лучшими игроками мира».

В августе 2017 года бот — то есть очередная программа с машинным интеллектом — обыграл живого игрока в Dota 2. Многие говорили, что он победил, потому что игра была один на один. Dota — это командная игра. Считается, что машины никогда не победят команду людей. Возможно, но следующее, чему будет учиться команда ботов, — играть друг с другом, команда на команду.

Машины быстро вырабатывают качества, которые считаются исключительно человеческими: умение договариваться, полагаться на интуицию и прочие. «Вырабатывают» — это значит, что их никто не программирует. На этом моменте начинается непонимание.

В «Яндексе» мы решили пойти другим путем и не экспериментировать с играми. Мы посмотрели, могут ли современные способы машинного обучения решать творческие задачи, которые считаются сугубо человеческой прерогативой. Оказалось, что могут.

Создание музыки при помощи алгоритмов

Самое ценное для меня в этом ролике — мнение Маши Черновой. Легко написать нейронной сеткой то, что понравится нам самим. Но что скажут эксперты? Примут за своего или нет? Приняли. Конечно, есть и другая точка зрения. Есть люди, которые по-прежнему говорят: нет, я чувствую, что это писал не человек. Возможно.

Мы убедились, что во всяком случае у нас есть шанс на интересное творческое партнёрство. Можно прийти в музей Скрябина с композицией, написанной нейросетью под руководством Вани (Иван Ямщиков, консультант «Яндекса» — vc.ru) и Леши (Алексей Тихонов, ведущий аналитик «Яндекс.Дзена» — vc.ru), а сотрудники музея найдут композиторов, пригласят Петра Термена — правнука Льва Термена, создателя терменвокса.

Все они очень вдохновлены и ради выступления на конференции «Яндекса» собираются, репетируют и играют эту музыку. Это хорошая иллюстрация того, как люди и машины работают вместе, решая творческую задачу.

В процессе работы Ивану и Алексею пришлось написать научную статью, в которой они описали изобретённый ими автоматический механизм преобразования. Во введении к этой работе есть любопытная фраза о том, что задачи, которые считались сугубо человеческими из-за интуитивной или творческой направленности, становятся доступны алгоритмическим решениям. Музыка — лишь один пример из множества.

Креативный или интуитивный характер задач — это не только музыка, это огромное количество других отраслей: и классическое творчество, и хороший бизнес, и честный маркетинг.

Почему история про самообучение машин так пугает людей? Им нужно привыкать жить с мыслью, что компьютер — это не просто программируемый механизм, которому нужно задавать пошаговую инструкцию.

Поворот мышления происходит тогда, когда становится понятно, что с машиной можно взаимодействовать по-другому. Хорошо, пожалуй, не с машиной, но с программистом. Не — «У меня есть последовательность действий, зашифруй её», а — «У меня есть задача, пусть машина сама научится её решать, хотя я понятия не имею, как это делать».

Однако тут необходимы данные для обучения. Наверное, наиболее классический, кочующий из одной научно-популярной статьи в другую, пример — это коты и собаки.

Вам сложно ответить, где изображен кот, а где собака? Наверняка нет. Кто может описать, как он пришёл к этому решению?

Зритель: У пса длинный нос, у кота нос плоский. У кота есть усы…

Андрей Себрант: Давайте начнём с носа. А если это мопс? Он сразу кот?

Зритель: Нет.

АС: Усы. У моих друзей ребенок побрил кота, сбрил ему усы. Перестал ли кот при этом быть котом?

Зритель: Наверное, дело в форме носа? У кота он треугольный, у собаки — круглый или прямоугольный. Ещё есть разница в форме зрачка.

АС: Так, фраза про форму зрачка мне нравится. Представьте, что вы должны объяснить это программисту. Как он должен рассказать программе, что такое зрачок?

Голос из зала: Надо загрузить учебник биологии.

АС: Загрузить учебник биологии, выделить круглые объекты. Вы действительно проделали эти действия, когда взглянули на картинку?

Зритель: Мы же учились…

АС: Учились. Это ключевое слово. Когда вы были детьми, родители не рассказывали вам про форму носа у кота и собаки. Они говорили: «Вот это собачка, а это кошечка». В итоге вы можете их различать.

Ниже ещё один график с сайта Electronic Frontier Foundation. Он показывает долю ошибок при работе программы с огромной базой изображений. Компьютер должен был определить, что изображено на картинке. Ещё не так давно, в 2011 году, программа ошибалась в 25% случаев. Судя по этим данным, в 5% случаев человек всегда врёт. А к 2017 году погрешность компьютера даже стала ниже.

Как удалось этого добиться? Программе показали миллион котов и миллион собак с соответствующими тегами «кот» или «собака». Это классический вариант обучения с подкреплением: программа что-то отвечает, правильность её ответа подтверждается, в следующий раз она ошибается, за этим следует реакция: «Неверно». После некоторого количества повторений компьютер перестает ошибаться.

Как ребенок учит новый язык, когда его перевозят в другую страну? Его не заставляют оканчивать филологический факультет или изучать теорию времён и падежей. Он начинает беседовать со сверстниками и через некоторое время говорит лучше, чем человек, прошедший систему традиционного образования.

Почему мы считаем, что машина должна сначала усвоить все правила? Современную программу можно заставить работать по тем же механизмам, что и ребёнок, который погружается в новую языковую среду. Этот подход используется во всех современных системах машинного перевода. Они всё время улучшаются — но не потому, что для них дописывают теорию, а за счёт постоянного обучения.

Я предполагаю, почему многие не верят в способность машины обучаться так, как учится ребенок. В нас встроен антропоцентризм. Мы — высшая ступень эволюции, а машины ниже нас, они не могут превосходить нас интеллектуально, ведь именно мозг делает нас особенными.

Но почему? Кто сказал, что мы венец творения? Может быть, мы промежуточная стадия для создания машинного сверхинтеллекта? В ответ я слышу те же аргументы, которые до Галилея люди приводили в защиту геоцентрической схемы.

Видно, что Солнце встаёт и ходит по небу, видно, что есть неподвижные звезды, видно, что планеты движутся сложным образом. Эта модель держалась веками и считалась глубоко научной, ведь этому учил весь человеческий опыт. Видимо, с антропоцентризмом дело обстоит примерно так же.

Это становится причиной появления странных суждений, в том числе и в бизнес-сфере. Классическое представление о взаимодействии человека и машины в информационном обществе — это телепорт в фильме «Особое мнение». Ты передвигаешь пальцами элементы интерфейса — и всё меняется.

В кино это выглядит так, а в жизни — совсем по-другому. На этой картинке исследователь данных говорит: «После внимательного рассмотрения всех этих 437 графиков, таблиц и метрик я решил сдаться, пойти за выпивкой и хорошенько напиться. Кто со мной?» Абсолютно адекватное описание реальности.

Это следствие убеждения о том, что данные непременно должны быть преобразованы в читаемый человеком вид, чтобы у него в голове возникали инсайты и варианты решений. Так построено современное производство.

Считается, что в информационном обществе идеал структурного производства выглядит следующим образом. Есть внешний мир — люди, заводы, «умные» дома, — который создаёт огромное количество данных. «Умные» алгоритмы преобразуют эту информацию в человекочитаемый вид.

Дальше человек принимает решение. Другой человек, программист, воплощает его в цифровой форме, которая что-то меняет в этом мире: встраивается в производственный цикл, перераспределяет потоки продуктов в магазины, настраивает температуру дома.

Когда есть повторяющиеся и слегка изменяемые ситуации, алгоритм, обучающийся на исторических данных, работает лучше. В условиях растущего количества производств человек оказывается лишним, ведь он ошибается чаще.

При этом возможность внедрить в схему «умную» машину становится доступна всем, поскольку произошла революция, которую никто не заметил, — революция открытых источников. Алгоритм, который умеет учиться, ещё десятилетие назад считался бы главным коммерческим секретом компании, а теперь его публикуют в открытом доступе.

Google предоставила всем доступ к TensorFlow — алгоритму обучения при помощи глубоких нейронных сетей. В июле «Яндекс» опубликовал свой CatBoost — алгоритм, использующий градиентные ускорения и эффективно работающий на промышленных задачах.

Для того, чтобы начать пользоваться этими технологиями, нужен всего один программист среднего класса вместо команды компьютерных гениев. Microsoft описывает это термином «демократизация технологий».

Компания McKinsey, которая занимается промышленным консалтингом, опубликовала текст, в котором употребила фразу со свойственной американской политкорректностью: «Использование человека в цикле принятия решений становится непрактичным».

Поначалу надо мной смеялись, теперь смеются меньше. Если человек приходит учиться и говорит: «Покажите мне алгоритм, по которому надо работать», то он обречен. Алгоритму проще обучить любую машину.

Примеры

В выплавке современной стали всегда немного меняется сырье. Сталеплавильное производство получает металлический лом, который сегодня привезли из города, где сломали чугунную ограду, а завтра — с какой-нибудь автомобильной свалки. Это разный по составу металл, поэтому всякий раз нужно вводить добавки, чтобы сталь соответствовала требованиям.

Для этого технологи, знающие теорию металлургического производства и имеющие профессиональное чутьё, каждый раз подбирают новый режим. Но поскольку эти производства хорошо автоматизированы, на них ведётся запись сырья, технологических решений, результатов.

Если использовать эти данные для обучения программы, можно снизить расходы эффективнее, чем это сделает самый опытный и одаренный технолог.

Есть и другой пример. Модератор — человеческая роль. Клиент в этом случае — престижная сеть знакомств. Предположим, у неё есть огромный штат индусов, которые должны модерировать аватары пользователей так, чтобы там не было неприличного контента и изображений знаменитостей.

Если обучить индусов искать порнографию как-то удалось, то заставить их знать всех знаменитостей — никак. Они часто ошибались. Для нейросети это простая задача. Индусов освободили. Время модерации резко сократилось, а качество — повысилось. Увеличились и пользовательские оценки. Но индусы остались без работы.

Не так давно в США для диагностики нескольких типов рака кожи разрешили применять хорошо обученную нейронную сеть. Она ошибается реже, чем самые опытные дерматологи. На анализе изображений основано 90% медицинской диагностики, будь то рентгенограмма, УЗИ или что-то ещё.

Программу можно обучить распознавать невероятное количество визуальной информации. И она начнёт видеть то, что врач упускает. Однако люди привыкли слышать свой диагноз от врача, поэтому у многих возникает психологическая реакция отторжения на сотрудничество специалиста с машиной.

В 2016 году ещё невозможно было привести этот пример. Albert — маркетинговая платформа полного цикла. Она осуществляет практически все операции. Многие фирмы заявляют, что пользуются технологиями искусственного интеллекта, но Cosabella — компания-производитель нижнего белья — расформировала свой отдел маркетинга и полностью доверилась системе Albert.

В Cosabella говорят, что нужно отличать компании, в которых технологии искусственного интеллекта лишь приводят к инсайтам, от компаний, где все маркетинговые решения принимает нейросеть.

Есть очень много видов деятельности, которые может выполнять нейросеть. К примеру, сортировка мусора: его дорого перерабатывать, экономика не замыкается, нужны субсидии. Проблема в том, что мусор всегда немного разный, а чтобы его эффективно переработать, он должен обладать фиксированными характеристиками.

Это как с металлургией, где всё время немножко разный лом. Обученная программа позволяет сделать переработку мусора экономически выгодной. Это неплохое решение глобальной задачи.

Вопрос, который всегда задают на лекции о машинном интеллекте: мы вместе с технологиями или они вместо нас? Когда как. В случае с рутинными профессиями — технолог, ассистент врача, маркетолог — компьютеры способны замещать людей. Однако иногда они работают вместе: вместе с группой музыкантов, сыгравших на открытии конференции «Яндекса», вместе с врачом для постановки максимально точных диагнозов пациентам.

Я сформулировал четыре правила для каждого человека после 2020 года. Самое главное, как мне кажется, первое. Об этом ещё говорил Дмитрий Песков из Агентства стратегических инициатив.

У меня часто спрашивают, чему учить ребёнка. Ответ: учите учиться. Самые интересные профессии ещё не появились, и пока ими невозможно овладеть. Но вскоре они появятся. Десять лет назад не существовало профессии оператора беспилотника, а сейчас это интересная и популярная работа в самых разных сферах — от кинематографа до военных действий.

Напоследок я хотел бы порекомендовать две книги. Одна из них переведена на русский язык — это «Неизбежно» Кевина Келли. Вторая — Machine Platform Crowd пока вышла только на английском. Надеюсь, её когда-нибудь переведут. Первая книга больше про жизнь и про то, куда мы все идем. Вторая написана двумя экономистами. Она посвящена экономическому и коммерческому влиянию трёх основных трендов: машинное обучение, новые платформы и краудсорсинг в широком смысле этого слова. Именно эти три направления и изменят экономику в ближайшие несколько лет.

0
89 комментариев
Написать комментарий...
Дмитрий Кащеев

А мне надоело ездить за рулём, я бы с удовольствием сел на заднее сиденье и доехал до места назначения в автоматическом режиме. К тому же если представить себе роботизированное движение автомобилей на автопилотах то исчезнет куча проблем, таких как обгон по обочине, засыпание за рулём, опрокидывание грузовика из-за неверного выбора скорости, неверная оценка расстояния при обгоне по встречной полосе и т.д.

Ответить
Развернуть ветку
Кондрат Кондратенко

Да и пробок поменьше станет.

Ответить
Развернуть ветку
Камаз Узбеков

Жду-не дождусь

Ответить
Развернуть ветку
Aleksey Fankin

Да. Но именно при условии полного перехода на автопилот. Если будут и роботы и люди за рулем (например переходный этап), то наверняка получится треш :)

Ответить
Развернуть ветку
Nisar Shams

Очень крутой материал! И очень предсказуемая реакция части комментаторов. История с отрицанием последствий технического прогресса повторяется уже много-много раз.

Но самый интересный для меня вопрос: что будет дальше происходить с приростом населения?

Пока еще человек - основа промышленности/бизнеса, но вскоре все больше и больше задач будут решать задачи, вплоть до полной автоматизации многих сфер деятельности.

Зачем тогда 7-10 млрд. населения? Что они будут делать и кто эту массу людей захочет "просто так" кормить/развлекать/занимать чем-то? Базовый доход, как по мне, решение поверхностное...

Что будет с миллионами и миллиардами "лишних" людей? Смогут ли они как-то дожить свои жизни? Смогут ли иметь потомство?

Я не верю, что 80-90% населения сможет "научиться учиться", перейти в творческие профессии и т.п. по целому ряду причин (генетика, образование, возраст, мотивация и пр.).

Какие у кого мысли по этому поводу?

Ответить
Развернуть ветку
Ivan Ganev

Посмотрите на любую страну живущую за счет продажи энергоносителей где работу всей экономики обеспечивает пара процентов населения, всякие Катары или Россия. В России армия бюджетников которые ничего не делают, но "ходят" и якобы за это получают деньги - ну вот как-то так и будет организован базовый доход.

Ответить
Развернуть ветку
3 комментария
Kodik Кoтик

По-моему это уже было как раз в фильме про умных роботов, они также как и сегодня кормили всех,Валли называется.Щас вот Африку подкармливаем,как домашних животных, от этого умнее точно не станут,но потешить самолюбие "О какой я умный,добрый и тд".Что наша жизнь без зрителей.

Ответить
Развернуть ветку
Максим Нуриев

Ну пока у каждого человека нет личного дома с личным авто и проложенной до него дорогой/коммуникациями, людей есть чем занять в реальном производстве.
Но что-то не видно, чтобы это решали глобально, массово и для всех.

Ответить
Развернуть ветку
Алексей Тарасов

Кормовая база уменьшится, рост населения остановится. Сейчас рост населения идёт в странах, живущих за счёт продажи энергоносителей. Когда зависимость от них упадет, там начнётся вымирание. Предполагаю, что 10 миллиардов человечеству никогда уже не достичь.

Ответить
Развернуть ветку
1 комментарий
Даниил Даниил

Может уберут половину населения вирусом.

Учиться никто не будет. Сейчас по сути никто не учится, уровень комфорта даже в России позволяет кормить себя почти ничего не делая, особенно молодежи, куча алкашей и наркоманов, которые не работают и ничего не умеют. Основа развития это доминирование, а если не перед кем будет доминировать, а делать только ради творчества и интереса сидя тихо дома, то зачем это нужно?

Ответить
Развернуть ветку
Птиц

Самое "забавное" начнется тогда, когда алгоритм решит, например, сбросить несколько десятков водородных бомб на Северную Корею. Просто взвесит все за и против, оценит риск. Просто расчеты, ничего личного.
Промышленный робот с алгоритмами обучения решит что человек - самое неэффективное звено и его нужно устранить.
Много сценариев, и во многих - человек в принципе становится лишним. И для всего этого даже не нужно создание искусственного интеллекта, подобного человеческому. Простые алгоритмы.

Ответить
Развернуть ветку
topovyj
>сбросить несколько десятков водородных бомб на Северную Корею

1. Кто сейчас принимает такие решения?
2. На основе каких данных и по какому расчету это происходит?
3. Если автоматизировать результат сбора этих данных и возложить расчет на скрипт, разве ситуация поменяется?

Иными словами, если кто-то захочет сбросить на Северную Корею бомбу - они сбросят. А обоснование можно сделать любым удобным. Может когда-то это даже действительно припишут "ошибке ПО".
Но сами программы то тут ни при чём.

Ответить
Развернуть ветку
2 комментария
Эл Хэлфрид

Похоже, ваши предоставления об ии основаны на терминаторе. Пока нейросети не дали возможность пускать ядерные бомбы, она не может этого сделать даже если посчитает необходимым. А если нейросеть, взвесив все за и против, решит сбросить на северную корею бомбы, то может действительно лучше так и сделать? :)

Ответить
Развернуть ветку
topovyj

Похоже на бред. Многие мало понимают программные продукты и реальный мир вообще - представляют себе некое фентези. В реальности всё иначе.

Ответить
Развернуть ветку
sf

вы утрируете. для того чтобы это просчитать нужно иметь множество ядерных войн для обучения. а у нас пока максимум Хиросима. не будет такого

Ответить
Развернуть ветку
Kodik Кoтик

если это не делают люди, то поистине глупо так поступать машине .
Всегда поражался как в фильмах,неебические гении почему то выдавали тупость,даже не оговорку,провоцирую героев

Ответить
Развернуть ветку
Иван Анохин

К сожалению, написание музыки в стиле Скрябина это довольно далеко от творчества. С тем же успехом можно называть творчеством алгоритм формирования случайных чисел.
По сути к созданию ИИ до сих пор никто не приблизился даже на метр. Все, что сейчас есть - это лишь псевдо-ИИ имитирующий деятельность интеллекта, но по сути это все тот же машинный алгоритм, под капотом которого заложен сложный математический алгоритм, который выявляет некие закономерности.
Игры - это все-таки алгоритмы, причем довольно жесткие, с точными правилами. При должных мощностях машина победит человека во всех играх, но это не делает её по настоящему интеллектуальной. Плюс-минус будет тот же самый брутфорс, просто более умный.
Наиболее показательный пример: нейросетка в теории может написать отличный реферат за студента, но никогда не сможет написать научную работу, претендующую на научную новизну.
Если вслушаться, то почти вся музыка, написанная нейронкой совершенной не запоминается.
Мне вообще кажется, что для создания полноценного ИИ копать надо скорее в сторону изучения мозга человека и затем, поняв до конца как работает мозг пытаться воссоздать искусственную версию мозга.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Julia Berzoy

Если мы не понимает как что-то работает, но может получить лучший результат своим способом, чем это хуже?

Ответить
Развернуть ветку
Dmitry Nosov
Шахматы — игра, просчитываемая до конца, >в ней не так много позиций, а стратегии >известны.

Андрей, иногда лучше жевать... Или заниматься маркетингом в Яндексе.

Ответить
Развернуть ветку
Камаз Узбеков

Зря минусуете. Позиций, как минимум, 10^120 (https://ru.m.wikipedia.org/wiki/Число_Шеннона). До конца пока компы не досчитывают, в стратегии ни черта не смыслят. Всё, что они могут, - посчитать на N ходов в глубину тупым перебором вариантов, всё.

Ответить
Развернуть ветку
1 комментарий
Евгений Рублев Петренко

Давайте так, это не случившееся будущее, а чьи-то представления о будущем, каким они (якс) хотят его увидеть.
Что-то получится предугадать, что-то нет.
Образ будущего случится, если его будут разделять миллиарды, а не десятки людей, которым очень хочется его видеть таким.
Вы хотите убить автомобили с водителями? Попробуйте.
Вы хотите убить мелких торговцев? Попробуйте.
Только будьте готовы к противостоянию, будьте готовы к смерти собственной компании.

Ответить
Развернуть ветку
Ilyes Garif
>Вы хотите убить автомобили с водителями? Попробуйте.

Вы хотите убить мелких торговцев? Попробуйте.

как по вашему водила и продавец шаурмы смогут противостоять и уж тем более убить Гугл с Микрософтом?

Ответить
Развернуть ветку
6 комментариев
Julia Berzoy

Ну вот Франция уже запустила поезда без машинистов, в России ожидается через пару лет. В самолетах уже давно большую часть полета выполняет автопилот, а человек присутствует в качестве надзорного механизма и на случай непредвиденных ситуаций.
Да, люди консервативны, но будут рождаться новые поколения которым такой консерватизм неясен. Они хотят смотреть в телефон, а не на дорогу.

Ответить
Развернуть ветку
Алексей Тарасов

"Миллиарды" получат то, что им дают "десятки".

Ответить
Развернуть ветку
Андрей Захаров

Всё верно. Первая профессия, которая падет при должном развитии ИИ это как раз программирование. Оно достаточно хорошо формализуется, разработчики ИИ одновременно являются и носителями знаний в предметной области разработки, программисты стоят дорого - все признаки необходимости замены человека на ИИ в данном случае присутствуют.

Ответить
Развернуть ветку
1 комментарий
Kodik Кoтик

получится как забастовки Ubera,придет потому что удобно но протесты будут.

Ответить
Развернуть ветку
Жаналинов Ильяс

1) Достали меня эти пустозвоны. Говорят одно, на деле какашка.

2) Никто не вправе запрещать высказываться, но вот почему-то они думают, что способны "делать" это самое будущее.

3) Правильно, здесь как в физике - "Берем верблюда в вакууме и раскручиваем его со скоростью 23 метра в час".

Ответить
Развернуть ветку
Traveluber

После определенных успехов в профессии понимаешь, что пора уже зарекомендовать себя как консультанта, чтобы перед пенсией и после пенсии была подработка) Вот и начинают читать лекции, проводить мастер-классы, книги и статьи писать. Не как что-то плохое, просто приходится вертеться людям.

Ответить
Развернуть ветку
Oleg Vlasov

Я не скажу что со всем согласен, у автора розовые очки, - хотя это у каждого по настоящему увлеченного человека.
Но будущее намного ближе чем мы думаем.
Я знаю команду людей которые пытаются заменить собой копирайтеров, машинное обучение или обычное программирование, это называйте как хотите. Пока это было похоже на доростроительство. Но.... по сравнению с 2 годами ранее, виден безусловный прогресс. Достаточно залить туда ключи, на выход получается (пусть "тухлый, не о чем") рерайт-рерайта, но хорошо читабельный для простого человека. Это при том что бюджеты у них ограничены, и не гении.
Делаем выводы: разный псевдо копирайтинг умрет. Подобные технологии применяемые в промышленных масштабах убьют выдачу (если конечно ПС не предпримут разумные шаги). Контент рулит - но контент экспертного уровня.

Сколько людей псевдокопирайтеров останутся без работы? Можно сказать туда им и дорога, но у каждого есть цели, потребности, желания.

Ответить
Развернуть ветку
topovyj

Эти псевдокопирайтеры тоже используют разные синонимайзы и уже поправляют конечный результат, по сути они и есть некие "роботы" :). У них может появится некий новый инструмент для работы.

Другое дело что такой "контент" сам по себе помирает и сейчас мало кому нужен (наполнение левых сайтов и всякие дорвеи). Хороший контент нужно делать и люди тут надолго вне конкуренции.

Ответить
Развернуть ветку
Птиц

Интересуют подробности )

Ответить
Развернуть ветку
2 комментария
Traveluber

Когда реализация? Когда ждать коммерческий продукт? Речь, надеюсь, о текстах на русском языке? А то я уж лет 10 такого жду, и боюсь, скорее в интернете русский язык станет не нужен, чем появятся сносные генераторы текстов на русском)

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Sergey Stepanov

Нейросет рассчитала 10⁹⁹⁹⁹⁹⁹⁹⁹⁹⁹⁹⁹⁹ вариантов жизни человечества, сделала вывод что люди ей не нужны.

Ответить
Развернуть ветку
Арсеньев Олег

Все чаще при прочтении статей вспоминаются фильмы типа "Особого мнения". И вспоминаются оттуда именно негативные моменты роботизации. А вообще "использование человека в цикле принятия решений становится непрактичным" - действительно жутковатая фраза...

Ответить
Развернуть ветку
Vadim Bondarev

Перед нами один лишь выход в будущем - освоение космоса, поиск новых миров. Творческая составляющая человека, его многогранность будут востребованы именно при познании неизведанного.

Ответить
Развернуть ветку
Алексей Тарасов

"Звёзды не для людей"

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Алексей Тарасов

Если все будут умными, то нахрен такой электорат.

Ответить
Развернуть ветку
Zahar Usachev

Вспоминается байка про объединение умных и богатых в группу, которая считает необходимым уменьшить количество людей на Земле до 500/600/700/900 тысяч человек (нужное подчеркнуть). И они правы.

Ответить
Развернуть ветку
Ivan Ganev

зачем? и почему не до нуля тогда уж?

Ответить
Развернуть ветку
18 комментариев
Tymonr

Блин, так хочется поработать над чем-то подобным, а дальше чем собрать примеры из universe руки не доходят

Ответить
Развернуть ветку
Sergio GH

Можно подумать, что каждое произведение классика (любого) становилось хитом на столетия. Нет, это жемчужины. Поэтому предлагаю не требовать от машины, которая, к слову, только начинает учиться, слишком многого. Она создаст миллион композиций и там, я уверен, будут жемчужины, которые вы будете слушать и не верить своим ушам.

Ответить
Развернуть ветку
Сергей Фомин

"Шахматы — игра, просчитываемая до конца, в ней не так много позиций, а стратегии известны "
Обоссыте ему ебало

Ответить
Развернуть ветку
Николай Кузнецов

"Выпуск двигателей внутреннего сгорания прекратится к 2050 году"
Дальше не стал даже читать.

Ответить
Развернуть ветку
Ilyes Garif
>Вы хотите убить автомобили с водителями? Попробуйте.

Вы хотите убить мелких торговцев? Попробуйте.

как по вашему водила и продавец шаурмы смогут противостоять и уж тем более убить Гугл с Микрософтом? :)

Ответить
Развернуть ветку
Ilyes Garif

извиняюсь, не туда отправил, модераторы удалите плиз

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Anton Smelov

Как-как...в мире миллионы продавцов шаурмы и водителей такси, исповедующих ислам = потенциальные (!) террористы-смертники. Миллионы камиказде остановят и Гугл, и Микрософт.

Ответить
Развернуть ветку
1 комментарий
Фёдор Серяков
телепорт в фильме «Особое мнение»

Там не было никаких телепортов, зато был "ассоциативный агрегатор", к которому, в контексте статьи, следовало бы присмотреться. Если современные поисковики кое-как начинают помогать нам сортировать фотографии, то что делать, если упорядочить надо содержимое видео, которое даже сам автор (по фильму - телепат, коллективно видящий "вещий" сон) не может толком распознать?

Ответить
Развернуть ветку
Dmitry Simankov

В АСИ, крупных технологических компаниях, университетах, любят поговорить о будущем, трендах индустрий.
И всё бы ничего - они умеют слова подкрепить примерами, либо частными, либо общеизвестными.
Но их отчёты и статьи практически всегда написаны в пугающем стиле или в стиле, что так и будет без вариантов.
"Вопрос, который всегда задают на лекции о машинном интеллекте: мы вместе с технологиями или они вместо нас? Когда как. " - ВОТ ИМЕННО, КОГДА КАК!
И надо это понимать, что пока в Москва Сити обсуждают котировки на Лондонской бирже, простой рабочий из села идёт за коровой убирать - она его кормит, а жители вымирающих городов (примерно в 50 тыс человек), приспособились жить без денег - есть огород, скотина, шабашка случайная, дотации социальные.
А ещё удивляемся, почему в одних странах способ выжить - это производить наркотики, в других странах - разграбление природных богатств, в третьих - рабовладение современное.

Ответить
Развернуть ветку
Traveluber

Помню у Сербанта статью про пользователей-изотопов. Вроде бы очевидная вещь: людям надоедает одно и тоже, и они меняют интересны, но как красиво все описал!

Ответить
Развернуть ветку
Георгий Владимирский

На первом слайде не хватает.
8. PROFIT!

Ответить
Развернуть ветку
Вячеслав Торопыгин

Та же самая проблема, что и у большинства айтишников - примерять гибкость своей отрасли на всех подряд. Но железо не такое гибкое как код, тем более такое, на которое работают десятки процентов мировой экономики.
Что не отменяет того, что выпуск ДВС к 2050 году может действительно прекратиться во всём мире - например, разрушение промышленности и инфраструктуры ТЭК в ядерной войне вынудит уцелевших перейти на газгены и конную тягу.

Ответить
Развернуть ветку
Николай Кузнецов

Форс-мажор всегда возможен, да.
Газген - тоже ДВС, хотя конечно без нефтехимии.

Ответить
Развернуть ветку
Andrei Horbach

"Надо понимать, что алгоритмы, которые обыгрывают человека в го, учатся, играя сами с собой". А как же: "We trained the neural networks on 30 million moves from games played by human experts"?
https://www.blog.google/topics/machine-learning/alphago-machine-learning-game-go/

Ответить
Развернуть ветку
Александр Васильев

Службами знакомств еще кто-то пользуется? Забавно будет, если "по этическим соображениям" власти внедрят аналогичную модерацию фото в соцсети

Ответить
Развернуть ветку
86 комментариев
Раскрывать всегда