{"id":4879,"title":"\u0427\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0443\u0441\u043f\u0435\u0442\u044c, \u043f\u043e\u043a\u0430 \u0432\u044b \u0447\u0438\u0442\u0430\u0435\u0442\u0435 \u044d\u0442\u0443 \u0441\u0442\u0430\u0442\u044c\u044e","url":"\/redirect?component=advertising&id=4879&url=https:\/\/vc.ru\/otpbank\/266952&hash=82572a4a372a00657a2afc359f19a24c0bd24be8cecbd743f0681209c07c9a3a","isPaidAndBannersEnabled":false}
Будущее
TJ

В Китае заявили о создании нейросети в 10 раз мощнее самой «продвинутой» нейросети GPT-3 Статьи редакции

Она способна писать эссе и стихи, генерировать изображения на основе описаний и предсказывать структуру белков.

Специалисты Пекинской академии искусственного интеллекта объявили о создании генеративной нейронной сети глубокого обучения Wu Dao 2.0 с рекордными свойствами. Её мощность намного больше, чем у ближайших конкурентов — Open AI GPT-3 и Google Switch Transformers. Об этом сообщает издание Engadget.

Мощность нейросетей условно измеряется в количестве параметров обучения. То есть, это число факторов, которые нейросеть может использовать в процессе своей работы. Для примера: в линейном уравнении y = ax + b параметрами выступают переменные a и b — от них зависит решение уравнения. Чем больше параметров использует нейросеть, тем она «умнее» и тем точнее результат её работы.

Нейросеть Open AI GPT-3 использует 175 миллиардов параметров — такая мощность позволяет ей генерировать осмысленные тексты, создавать музыку и программный код.

Количество параметров Wu Dao 2.0 превышает 1,75 триллиона — то есть, она в 10 раз мощнее, чем GPT-3. С новой китайской нейросетью по числу параметров может сравниться только Google Switch Transformers с её 1,6 триллионами параметров. Нейросеть от Google способна подбирать пропущенные слова в тексте и формулировать «естественные» ответы на вопросы человека.

Новая китайская нейросеть мультимодальна — она может выполнять множество разнородных задач. Wu Dao 2.0 пишет эссе, стихи и двустишия на традиционном китайском языке, распознаёт изображения и генерирует их по словесному описанию, имитирует речь, создаёт кулинарные рецепты, а также предсказывает трёхмерную структуру белков, подобно AlphaFold.

Для обучения Wu Dao 2.0 учёные использовали почти пять терабайтов изображений и текстов, включая 1,2 терабайта текстов на китайском и английском языках. Разработкой уже заинтересовались 22 компании, включая Xiaomi.

По словам председателя академии, Wu Dao 2.0 — это «источник питания для будущего реального искусственного интеллекта, с мегаданными, вычислительной мегамощью и мегамоделями».

{ "author_name": "TJ", "author_type": "editor", "tags": ["\u043d\u043e\u0432\u043e\u0441\u0442\u044c","\u043d\u043e\u0432\u043e\u0441\u0442\u0438","\u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438","\u043a\u0438\u0442\u0430\u0439"], "comments": 83, "likes": 63, "favorites": 64, "is_advertisement": false, "subsite_label": "future", "id": 254254, "is_wide": true, "is_ugc": false, "date": "Thu, 03 Jun 2021 13:55:00 +0300", "is_special": false }
0
83 комментария
Популярные
По порядку
Написать комментарий...
52

Открываешь этот ИИ, а там сотня китайцев сидят и стишки придумывают 

Ответить
–4

У нас так и есть(

Ответить
5

где это "у вас"? В Китае?

Ответить
2

В роботе Алёше

Ответить
37

В прошлом году Китайцы познакомили весь мир с Covid 19, границы закрыли. В этом году Китайцы познакомят нас с Wu Dao 2.0 и мы будем сидеть в локальных сетях. 

Ответить
8

Там полгода назад еще это самое....

Ответить
4

Какая-то конкуренция Британским ученым подъехала.

Ответить
0

Его кто то видел?

Ответить

Прежний диод

18

Комментарий удален по просьбе пользователя

Ответить
9

Мощность нейросетей условно измеряется в количестве параметров обучения. То есть, это число факторов, которые нейросеть может использовать в процессе своей работы.

нейросети в 10 раз мощнее самой «продвинутой» нейросети GPT-3

Нейросеть Open AI GPT-3 использует 175 миллиардов параметров

по числу параметров может сравниться только Google Switch Transformers с её 1,6 триллионами параметров

самой «продвинутой» нейросети GPT-3

Я дурак или лыжи не едут?

Ответить
10

так бывает когда не знаешь о чем пишешь
Суть в том что модель китайцев - это считай собрание n моделей внутри себя
GPT это 1 модель, таки самая большая по кол-ву параметров
Гугловский свитч - тоже самое что и китайская, собрание моделей 
В статье просто сравниваются разные сущности

Ответить
0

В том то и дело, не разбираюсь в теме. Поэтому первая моя цитата про то как измеряется мощность. После вашего комментария дошло. Тем не менее, к чему такое сравнение, если Google = китайцы, но не Google = GPT?

Ответить
0

первую строку адресовал автору)  В целом метрика кол-ва параметров смысла в себе вообще не несет, важны лишь метрики которые не указаны
Про сравнение если честно не понял вопроса

Ответить
1

Почему китайцев с собранием n моделей можно сравнивать с GPT, а Google с этой же системой нельзя?

Ответить
5

Ну в плоскости количества параметров сравнивать можно только китай со Switch - ибо подход к созданию моделей там архитектурно такой же, GPT и Switch это разные сущности - их можно конечно сравнить вот в таком виде, но надо это учитывать. Китайскую модель/Switch с GPT сравнивать в одной плоскости - то же самое что сравнить в плоскости "ума" 40-летнего умника и 10-летнего ребенка. Таки 40-летний будет решать диффуры лучше, но айкью то учитывает возраст и является метрикой более объективной и учитывающей неравность "сущностей" ребенка и взрослого
Почему в статье именно такое сравнение? Ну чтобы люди покликали, интрига

Ответить
0

Что не так

Ответить
7

Что, даже круче Олега от Тинькофф получилось у китайцев?

Ответить
0

Типа сарказм? При чем тут Олег? 

Ответить
25

Дай пирожка

Ответить
0

Олега и защитника Олега 

Ответить
0

Он был ПЕРВЫЙ, кто придумал бота Олега

Ответить
4

Комментарий удален по просьбе пользователя

Ответить
5

Космическую станцию построили, на марс высадились, нейросеть сделали, токамак прокачали. Рад за китайских баринов 

Ответить
4

Сибирь освоили

Ответить
5

Стишок про Винни-Пуха или картинку с ним сможет сгенерировать?

Ответить
2

"Околесицу" нарисовать? Слова "исконный" и "давеча" уместно использовать?

Ответить
0

Хорошая актриса)

Ответить
4

Английский только надо подтянуть еще.

Ответить
0

А 63+1 вычислить?

Ответить
5

Надеюсь, это не начало конца 🤷🏼‍♂️

Ответить
3

У меня есть куча внешних хардов на десятки терабайт, с фоточками. Может переплюнем китайцев и натренируем свою сетку? Вернем Максимова в цифровом виде.

Ответить
4

Чувак дикпики в качестве данных немного не подходят для того что нам надо 

Ответить
0

Ок, свою коллекцию селфи-дикпиков можешь не присылать. А то система подумает, что 6 см это норма, а это не так.

Ответить
0

Ну да, 6 см в диаметре это слишком толсто, так же как твоя попытка пошутить )

Ответить
0

Как нелепо ты пытаешься принизить чужую удачную шутку ;)

Ответить
1

Блин правда что ли нелепо получилось? ((( Жаль, я старался (((

Ответить
2

Молодцы

Ответить
3

А некоторые диванные иксперты до сих пор верят что китайцы могут только паршивые фэйковые найки клепать.
Китай въебет ещё всю планету, вангую

Ответить
2

Но мы ещё живы...

Значит, сингулярность ещё не наступила, но и по Курцвейлу ещё рано
Так, если каждые 2 года мощность растёт в 2 раза, то в 2050 г. сингулярность наступит при мощности AI около 50 000 триллионов параметров

Жуть

Ответить
3

Не каждые два года. А с каждым разом срок удвоения сокращается в два раза.

Ответить
2

Не смотрел обращение плешивый низкий моль. Посмотрел обращение высокий лидер, получил сильный рост!

Ответить
0

Даю 10 лет человечеству. Не больше.

Ответить
5

Сергей, это ультиматум лично от вас? Стоит ли поставить в известность правительство?

Ответить
2

На всякий случай беру 10 лет от лица всего человечества! Пока дают надо брать...

Ответить
0

Казалось бы, такой умный искусственный интеллект. Но он точно не сможет вычислить 63+1. Да даже показать больших жёлтых уток или Винни-Пуха не в его силах

Ответить
2

В чем подвох с 63 + 1?

Ответить
3

Демонстрации на площади Тяньаньмэнь в Пекине. Про уток - вот картинка. В оригинале там танки. За эту картинку в Китае заблокировать учётку могут.
63+1=64. А демонстрации проходили в 1989.6.4 (4 Июня). Сообщения включающие в себя "1989" или "63+1" могут просто удалиться. Блокировки аккаунтов за это бывали
По поводу событий там происходивших можете в интернете прочитать. Но суть в том, что во время протестов убили тысячи мирных граждан

Ответить
2

Про Тяньаньмэнь знаю конечно... А вот что они даже дату блокируют, не знал. Но 63+1... в чем смысл? потом начнут писать 62+2 или 65-1... так и все цифры можно заблокировать...

Ответить
0

В Украине на протесты 2014 года глаза закрыли и теперь страна уничтожена.

Ответить
–2

Это он пытается в интеллектуальный юмор про переполнение буфера, но получается у него это так себе. Мол для 6 бит предельное число это 63, выше будет переполнение буфера, модель повиснет, китайцы криворукие, и прочая высокинтеллектуальная ересь.

Ответить
0

Вы неправильно меня поняли. Почитайте мой коммент выше

Ответить
–1

Читаю, спасибо. Теперь стало значительно понятнее...

Ответить
0

Да не этот, у вас не прогрузилось похоже

Ответить
0

Ваш комментарий выше не "не погрузился", а был опубликован уже после двух моих.

Это легко отслеживается, так как время публикации сохраняется. И согласитесь, комментарий вида "А 63+1 вычислить" назвать очевидно политическим крайне не просто, он выглядит сугубо техническим.
Не говоря уже о том, что даже будучи политическим он является на 100% спекуляцией не соответствующей действительности.

А потому ваши минусы мягко говоря выглядят неуместно. Именно вы выразили свою мысль некорректно.

Ответить
1

А ваши минусы уместно выглядят что-ли? Особенно с этими догадками про переполнение буфера. Юморист из вас плохой, откровенно говоря.
По поводу моего комментария: да, может быть это у меня с интернетом на ноуте проблемы, точно сказать не могу.
А на счёт того, что вместо "63+1" можно написать "62+2" - просто у китайцев стало популярным эту дату именно как "63+1" обозначать. Так-же как и с утками - можно же, по идее, другое что-то, вместо уток, подставить. Но популярными стали именно утки.

Ответить
0

Ещё раз, осмыслите порядок того, что и когда вы опубликовали, а потом спрашивайте про уместность моих минусов. Они полностью отражают отсутствие ясности и попытку в манипуляцию со временем публикации с вашей стороны. Вы попытались выставить меня игнорирующим ваши пояснения, но опубликовали вы их лишь после всех моих ответов. За это заслуженный минус. 

Вы написали несколько максимально неочевидных и спекулятивных комментариев состоящих целиком из плохого юмора, но в юморе обвиняете меня? Может быть внимательно перечитайте свой же текст?

Приносить политику на VC это крайне дурной вкус, не стоит так делать.

Ответить
1

Искусственный интеллект члена компартии

Ответить
1

Майнить может? Какой хешрейт?

Ответить
0

100500 в миллисекунду

Ответить
1

Так...ну когда уже всех с работы уволят и можно будет снова на дерево залезть?

Ответить
1

Добро пожаловать в мегарабство побег из которого просчитал мегаинтелект и который просто невозможен.

Ответить
1

Нейросеть "Во Даю"

Ответить
1

Тестируют сеть, я так понимаю, на спаме на VC, боты осмысленные комменты стали писать.

Ответить
1

Ну вообще-то кол-во параметров != мощность сети. Сети с меньшим кол-вом параметров могут быть более выразительными и точными, чем сети с большим. Многое зависит непосредственно от обучающей выборки данных, архитектуры сети и ее hyper parameters. Ну и конечно же от прямых рук.

Ответить
0

хах что за комент гуманитария.
что вообще такое мощность нейросети?)

спойлер - нет такого понятия, это обычный высер, а высрать можно что  угодно.

Ответить
0

Видимо гуманитарий гуманитария видит из далека?)
Но вообще Вы правы. В этом и был мой посыл, что такое есть мощность.

Ответить
–1

Ну так понятно дело, на Уйгурах тренировали годами свою сеть...

Ответить
0

5 терабайтов текста и фото, 1.2 текст. 3.8 графика, средний jpeg весит 5мегабайт, и это всего 7 600 000 картинок понадобилось для обучения.

Офф топ - это даже, предположительно, меньше, чем понадобилось Пятому элементу, чтобы узнать 5000 летнюю историю.

Ответить
0

5 мб это же очень жирно, это 3х4 тыс пикселов примерно. К чему такая избыточность. 

Ответить
1

что б мелкий шрифт в договорах тоже проиндексировать

Ответить
0

Китайцам нет запретов. Им позавидовать нужно всему миру. Просто лидеры всегда и во всем

Ответить
–1

лолшто

Ответить
2

Ну и ну! Вы тоже не поняли что написал этот простой русский парень Тимофей из провинция Тверь?  Минус одна чашка риса вам и мне.

Ответить
0

МОЗГ создан!

Ответить
0

Не раскрыта тема бенчмарков - это новая SOTA или нет?

Ответить

Жуткий хичхакер

Легкость
0

Только в бенчмарке XiNefritGlue

Ответить

Комментарий удален

0

Скайнет все ближе... Трандец вам, кожаные мешки

Ответить

Комментарий удален

Комментарий удален

0

Это не поможет Китаю справиться с голодом.

Ответить
0

Да нет у них там никакого голода ) А небольшая нищая часть населения есть в любой стране, а кое-где даже большая (намёк на дефолт кантри, да)

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

0

Я не говорил,что в Китае голодают,я говорил,что высокопроизводительные сети не помогают Китаю справиться с голодом.

Ответить
0

Еще в мае китайцы показали свой аналог DALL-E, который генерит картинки по текстовому описанию. При этом в отличие от Open AI они открыли доступ к онлайн демо, которым может воспользоваться любой. Но эта новость прошла, можно сказать, незамеченной. У китайцев просто хуже с пиаром и маркетингом, а разработки там не отстают. А конкурируют они с США, у которой неограниченный доступ к талантам. 

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Читать все 83 комментария
Finlanding: окно в Европу для бизнеса
Настройки доставки: почему логистика последней мили требует экспериментов
Как отпугнуть клиента от онлайн сервисов: 6 вредных советов

Каждая компания стремится сделать понятный и удобный онлайн сервис для партнеров. Бизнес тратит огромные средства на разработку программ и приложений. Но все это может быть напрасно, если вы не провели предварительную работу с заказчиками и не объяснили, зачем ему разбираться в вашем новом ИТ-продукте. Подготовили 6 антисоветов для тех, кто хочет…

Миллениалы предпочитают World of Tanks и Minecraft: Yota составила рейтинг популярных онлайн-игр

Летом пользователи Yota стали больше играть в онлайн-игры, трафик в данной категории вырос почти в два раза на смартфонах, планшетах и модемах в июне и июле по сравнению с двумя месяцами ранее.

Evrone News #07: тренды QA и open source

Сегодня в традиционной подборке рассказываем об удачных open source решениях нашей команды: архивном monkey patch и шаблоне чистой архитектуры на Go, а также анализируем тренды 2021 года в QA и тестировании.

Яндекс.Маркет заблокировал аккаунт с длительной историей из-за заказа кошачьего корма со скидкой

Являюсь клиентом Беру.ру, потом Яндекс.Маркет с 23.07.2019, а также подписчиком Яндекс.Плюс, пользователем Драйва. С тех пор сделан 41 заказ на общую сумму 207000 р. Есть аккаунты в Я.Маркете также у жены, мамы и тёщи, но они не такие активные. В начале года завели двух кошек, с тех пор регулярно заказывал там корм для них и наполнитель для…

YouTube начал тестировать подписку Premium Lite — с отключением рекламы и без дополнительных функций Статьи редакции

В обычной премиум-подписке ещё есть сохранение роликов, фоновый режим и отключение рекламы в YouTube Music.

IKEA представила свой первый «умный» очиститель воздуха, встроенный в журнальный столик Статьи редакции

Устройство поступит в продажу в октябре.

Google анонсировала новые смартфоны Pixel на собственном чипе Tensor Статьи редакции

До этого компания использовала чипы Qualcomm.

Новые Pixel Google
Как в «Чёрном зеркале»: нейросеть GPT-3 помогла канадцу «связаться» с умершей невестой — в ИИ-чате Статьи редакции

Хоть с помощью ИИ-сервисов и можно «оживить» умерших, в конечном итоге их всё равно придётся потерять, пишет San Francisco Chronicle.

Клои Эллингсон для Chronicle
null