{"id":4725,"title":"\u041c\u0430\u0441\u0442\u0435\u0440-\u043a\u043b\u0430\u0441\u0441: \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0432 \u043a\u043e\u043c\u0430\u043d\u0434\u0435 \u0438 \u0432\u0435\u0441\u0442\u0438 \u043f\u0435\u0440\u0435\u0433\u043e\u0432\u043e\u0440\u044b","url":"\/redirect?component=advertising&id=4725&url=https:\/\/vc.ru\/promo\/269679-korotko-interaktivnyy-master-klass-o-komandnoy-rabote-i-masterstve-peregovorov&hash=10609550b909bb5be9e2454a472e95a790a4f1279029e657ec1c7baeac51ec09","isPaidAndBannersEnabled":false}
Будущее
TJ

В Китае заявили о создании нейросети в 10 раз мощнее самой «продвинутой» нейросети GPT-3 Статьи редакции

Она способна писать эссе и стихи, генерировать изображения на основе описаний и предсказывать структуру белков.

Специалисты Пекинской академии искусственного интеллекта объявили о создании генеративной нейронной сети глубокого обучения Wu Dao 2.0 с рекордными свойствами. Её мощность намного больше, чем у ближайших конкурентов — Open AI GPT-3 и Google Switch Transformers. Об этом сообщает издание Engadget.

Мощность нейросетей условно измеряется в количестве параметров обучения. То есть, это число факторов, которые нейросеть может использовать в процессе своей работы. Для примера: в линейном уравнении y = ax + b параметрами выступают переменные a и b — от них зависит решение уравнения. Чем больше параметров использует нейросеть, тем она «умнее» и тем точнее результат её работы.

Нейросеть Open AI GPT-3 использует 175 миллиардов параметров — такая мощность позволяет ей генерировать осмысленные тексты, создавать музыку и программный код.

Количество параметров Wu Dao 2.0 превышает 1,75 триллиона — то есть, она в 10 раз мощнее, чем GPT-3. С новой китайской нейросетью по числу параметров может сравниться только Google Switch Transformers с её 1,6 триллионами параметров. Нейросеть от Google способна подбирать пропущенные слова в тексте и формулировать «естественные» ответы на вопросы человека.

Новая китайская нейросеть мультимодальна — она может выполнять множество разнородных задач. Wu Dao 2.0 пишет эссе, стихи и двустишия на традиционном китайском языке, распознаёт изображения и генерирует их по словесному описанию, имитирует речь, создаёт кулинарные рецепты, а также предсказывает трёхмерную структуру белков, подобно AlphaFold.

Для обучения Wu Dao 2.0 учёные использовали почти пять терабайтов изображений и текстов, включая 1,2 терабайта текстов на китайском и английском языках. Разработкой уже заинтересовались 22 компании, включая Xiaomi.

По словам председателя академии, Wu Dao 2.0 — это «источник питания для будущего реального искусственного интеллекта, с мегаданными, вычислительной мегамощью и мегамоделями».

{ "author_name": "TJ", "author_type": "editor", "tags": ["\u043d\u043e\u0432\u043e\u0441\u0442\u044c","\u043d\u043e\u0432\u043e\u0441\u0442\u0438","\u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438","\u043a\u0438\u0442\u0430\u0439"], "comments": 83, "likes": 63, "favorites": 63, "is_advertisement": false, "subsite_label": "future", "id": 254254, "is_wide": true, "is_ugc": false, "date": "Thu, 03 Jun 2021 13:55:00 +0300", "is_special": false }
0
83 комментария
Популярные
По порядку
Написать комментарий...
52

Открываешь этот ИИ, а там сотня китайцев сидят и стишки придумывают 

Ответить
–4

У нас так и есть(

Ответить
5

где это "у вас"? В Китае?

Ответить
2

В роботе Алёше

Ответить
37

В прошлом году Китайцы познакомили весь мир с Covid 19, границы закрыли. В этом году Китайцы познакомят нас с Wu Dao 2.0 и мы будем сидеть в локальных сетях. 

Ответить
8

Там полгода назад еще это самое....

Ответить
4

Какая-то конкуренция Британским ученым подъехала.

Ответить
0

Его кто то видел?

Ответить

Европейский самолет

18

Комментарий удален по просьбе пользователя

Ответить
9

Мощность нейросетей условно измеряется в количестве параметров обучения. То есть, это число факторов, которые нейросеть может использовать в процессе своей работы.

нейросети в 10 раз мощнее самой «продвинутой» нейросети GPT-3

Нейросеть Open AI GPT-3 использует 175 миллиардов параметров

по числу параметров может сравниться только Google Switch Transformers с её 1,6 триллионами параметров

самой «продвинутой» нейросети GPT-3

Я дурак или лыжи не едут?

Ответить
10

так бывает когда не знаешь о чем пишешь
Суть в том что модель китайцев - это считай собрание n моделей внутри себя
GPT это 1 модель, таки самая большая по кол-ву параметров
Гугловский свитч - тоже самое что и китайская, собрание моделей 
В статье просто сравниваются разные сущности

Ответить
0

В том то и дело, не разбираюсь в теме. Поэтому первая моя цитата про то как измеряется мощность. После вашего комментария дошло. Тем не менее, к чему такое сравнение, если Google = китайцы, но не Google = GPT?

Ответить
0

первую строку адресовал автору)  В целом метрика кол-ва параметров смысла в себе вообще не несет, важны лишь метрики которые не указаны
Про сравнение если честно не понял вопроса

Ответить
1

Почему китайцев с собранием n моделей можно сравнивать с GPT, а Google с этой же системой нельзя?

Ответить
5

Ну в плоскости количества параметров сравнивать можно только китай со Switch - ибо подход к созданию моделей там архитектурно такой же, GPT и Switch это разные сущности - их можно конечно сравнить вот в таком виде, но надо это учитывать. Китайскую модель/Switch с GPT сравнивать в одной плоскости - то же самое что сравнить в плоскости "ума" 40-летнего умника и 10-летнего ребенка. Таки 40-летний будет решать диффуры лучше, но айкью то учитывает возраст и является метрикой более объективной и учитывающей неравность "сущностей" ребенка и взрослого
Почему в статье именно такое сравнение? Ну чтобы люди покликали, интрига

Ответить
0

Что не так

Ответить
7

Что, даже круче Олега от Тинькофф получилось у китайцев?

Ответить
0

Типа сарказм? При чем тут Олег? 

Ответить
25

Дай пирожка

Ответить
0

Олега и защитника Олега 

Ответить
0

Он был ПЕРВЫЙ, кто придумал бота Олега

Ответить
4

Комментарий удален по просьбе пользователя

Ответить
5

Космическую станцию построили, на марс высадились, нейросеть сделали, токамак прокачали. Рад за китайских баринов 

Ответить
4

Сибирь освоили

Ответить
5

Стишок про Винни-Пуха или картинку с ним сможет сгенерировать?

Ответить
2

"Околесицу" нарисовать? Слова "исконный" и "давеча" уместно использовать?

Ответить
0

Хорошая актриса)

Ответить
4

Английский только надо подтянуть еще.

Ответить
0

А 63+1 вычислить?

Ответить
5

Надеюсь, это не начало конца 🤷🏼‍♂️

Ответить
3

У меня есть куча внешних хардов на десятки терабайт, с фоточками. Может переплюнем китайцев и натренируем свою сетку? Вернем Максимова в цифровом виде.

Ответить
4

Чувак дикпики в качестве данных немного не подходят для того что нам надо 

Ответить
0

Ок, свою коллекцию селфи-дикпиков можешь не присылать. А то система подумает, что 6 см это норма, а это не так.

Ответить
0

Ну да, 6 см в диаметре это слишком толсто, так же как твоя попытка пошутить )

Ответить
0

Как нелепо ты пытаешься принизить чужую удачную шутку ;)

Ответить
1

Блин правда что ли нелепо получилось? ((( Жаль, я старался (((

Ответить
2

Молодцы

Ответить
3

А некоторые диванные иксперты до сих пор верят что китайцы могут только паршивые фэйковые найки клепать.
Китай въебет ещё всю планету, вангую

Ответить
2

Но мы ещё живы...

Значит, сингулярность ещё не наступила, но и по Курцвейлу ещё рано
Так, если каждые 2 года мощность растёт в 2 раза, то в 2050 г. сингулярность наступит при мощности AI около 50 000 триллионов параметров

Жуть

Ответить
3

Не каждые два года. А с каждым разом срок удвоения сокращается в два раза.

Ответить
2

Не смотрел обращение плешивый низкий моль. Посмотрел обращение высокий лидер, получил сильный рост!

Ответить
0

Даю 10 лет человечеству. Не больше.

Ответить
5

Сергей, это ультиматум лично от вас? Стоит ли поставить в известность правительство?

Ответить
2

На всякий случай беру 10 лет от лица всего человечества! Пока дают надо брать...

Ответить
0

Казалось бы, такой умный искусственный интеллект. Но он точно не сможет вычислить 63+1. Да даже показать больших жёлтых уток или Винни-Пуха не в его силах

Ответить
2

В чем подвох с 63 + 1?

Ответить
3

Демонстрации на площади Тяньаньмэнь в Пекине. Про уток - вот картинка. В оригинале там танки. За эту картинку в Китае заблокировать учётку могут.
63+1=64. А демонстрации проходили в 1989.6.4 (4 Июня). Сообщения включающие в себя "1989" или "63+1" могут просто удалиться. Блокировки аккаунтов за это бывали
По поводу событий там происходивших можете в интернете прочитать. Но суть в том, что во время протестов убили тысячи мирных граждан

Ответить
2

Про Тяньаньмэнь знаю конечно... А вот что они даже дату блокируют, не знал. Но 63+1... в чем смысл? потом начнут писать 62+2 или 65-1... так и все цифры можно заблокировать...

Ответить
0

В Украине на протесты 2014 года глаза закрыли и теперь страна уничтожена.

Ответить
–2

Это он пытается в интеллектуальный юмор про переполнение буфера, но получается у него это так себе. Мол для 6 бит предельное число это 63, выше будет переполнение буфера, модель повиснет, китайцы криворукие, и прочая высокинтеллектуальная ересь.

Ответить
0

Вы неправильно меня поняли. Почитайте мой коммент выше

Ответить
–1

Читаю, спасибо. Теперь стало значительно понятнее...

Ответить
0

Да не этот, у вас не прогрузилось похоже

Ответить
0

Ваш комментарий выше не "не погрузился", а был опубликован уже после двух моих.

Это легко отслеживается, так как время публикации сохраняется. И согласитесь, комментарий вида "А 63+1 вычислить" назвать очевидно политическим крайне не просто, он выглядит сугубо техническим.
Не говоря уже о том, что даже будучи политическим он является на 100% спекуляцией не соответствующей действительности.

А потому ваши минусы мягко говоря выглядят неуместно. Именно вы выразили свою мысль некорректно.

Ответить
1

А ваши минусы уместно выглядят что-ли? Особенно с этими догадками про переполнение буфера. Юморист из вас плохой, откровенно говоря.
По поводу моего комментария: да, может быть это у меня с интернетом на ноуте проблемы, точно сказать не могу.
А на счёт того, что вместо "63+1" можно написать "62+2" - просто у китайцев стало популярным эту дату именно как "63+1" обозначать. Так-же как и с утками - можно же, по идее, другое что-то, вместо уток, подставить. Но популярными стали именно утки.

Ответить
0

Ещё раз, осмыслите порядок того, что и когда вы опубликовали, а потом спрашивайте про уместность моих минусов. Они полностью отражают отсутствие ясности и попытку в манипуляцию со временем публикации с вашей стороны. Вы попытались выставить меня игнорирующим ваши пояснения, но опубликовали вы их лишь после всех моих ответов. За это заслуженный минус. 

Вы написали несколько максимально неочевидных и спекулятивных комментариев состоящих целиком из плохого юмора, но в юморе обвиняете меня? Может быть внимательно перечитайте свой же текст?

Приносить политику на VC это крайне дурной вкус, не стоит так делать.

Ответить
1

Искусственный интеллект члена компартии

Ответить
1

Майнить может? Какой хешрейт?

Ответить
0

100500 в миллисекунду

Ответить
1

Так...ну когда уже всех с работы уволят и можно будет снова на дерево залезть?

Ответить
1

Добро пожаловать в мегарабство побег из которого просчитал мегаинтелект и который просто невозможен.

Ответить
1

Нейросеть "Во Даю"

Ответить
1

Тестируют сеть, я так понимаю, на спаме на VC, боты осмысленные комменты стали писать.

Ответить
1

Ну вообще-то кол-во параметров != мощность сети. Сети с меньшим кол-вом параметров могут быть более выразительными и точными, чем сети с большим. Многое зависит непосредственно от обучающей выборки данных, архитектуры сети и ее hyper parameters. Ну и конечно же от прямых рук.

Ответить
0

хах что за комент гуманитария.
что вообще такое мощность нейросети?)

спойлер - нет такого понятия, это обычный высер, а высрать можно что  угодно.

Ответить
0

Видимо гуманитарий гуманитария видит из далека?)
Но вообще Вы правы. В этом и был мой посыл, что такое есть мощность.

Ответить
–1

Ну так понятно дело, на Уйгурах тренировали годами свою сеть...

Ответить
0

5 терабайтов текста и фото, 1.2 текст. 3.8 графика, средний jpeg весит 5мегабайт, и это всего 7 600 000 картинок понадобилось для обучения.

Офф топ - это даже, предположительно, меньше, чем понадобилось Пятому элементу, чтобы узнать 5000 летнюю историю.

Ответить
0

5 мб это же очень жирно, это 3х4 тыс пикселов примерно. К чему такая избыточность. 

Ответить
1

что б мелкий шрифт в договорах тоже проиндексировать

Ответить
0

Китайцам нет запретов. Им позавидовать нужно всему миру. Просто лидеры всегда и во всем

Ответить
–1

лолшто

Ответить
2

Ну и ну! Вы тоже не поняли что написал этот простой русский парень Тимофей из провинция Тверь?  Минус одна чашка риса вам и мне.

Ответить
0

МОЗГ создан!

Ответить
0

Не раскрыта тема бенчмарков - это новая SOTA или нет?

Ответить

Пермский Мурод

Легкость
0

Только в бенчмарке XiNefritGlue

Ответить

Комментарий удален

0

Скайнет все ближе... Трандец вам, кожаные мешки

Ответить

Комментарий удален

Комментарий удален

0

Это не поможет Китаю справиться с голодом.

Ответить
0

Да нет у них там никакого голода ) А небольшая нищая часть населения есть в любой стране, а кое-где даже большая (намёк на дефолт кантри, да)

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

0

Я не говорил,что в Китае голодают,я говорил,что высокопроизводительные сети не помогают Китаю справиться с голодом.

Ответить
0

Еще в мае китайцы показали свой аналог DALL-E, который генерит картинки по текстовому описанию. При этом в отличие от Open AI они открыли доступ к онлайн демо, которым может воспользоваться любой. Но эта новость прошла, можно сказать, незамеченной. У китайцев просто хуже с пиаром и маркетингом, а разработки там не отстают. А конкурируют они с США, у которой неограниченный доступ к талантам. 

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Читать все 83 комментария
Восточная Техника успешно автоматизирует процессы управления складами на базе решения Columbus-WMS
«Тинькофф» открыл центр разработки в Минске Статьи редакции

В команду ищут как студентов техвузов, так и продвинутых разработчиков — но предпочтение будут отдавать кандидатам со знанием английского языка.

The Insider и пятерых журналистов включили в список СМИ-иноагентов Статьи редакции

Информация об этом появилась на сайте Минюста.

На конференции «B Word» Илон Маск в очередной раз поменял свою позицию по биткоину

В ходе конференции где также присутствовали Джек Дорси и Кэти Вуд, Маск отметил, что он является владельцем биткойнов не только через баланс Tesla и SpaceX, но и лично владеет биткойнами, эфиром и Dogecoin.

ЦБ повысил ключевую ставку с 5,5% до 6,5% — это самое резкое повышение с 2014 года Статьи редакции

И четвёртое повышение с начала 2021 года.

Возможности, как в корпорации, а гибкость, как у стартапа. Что думают о своей работе сотрудники DiDi

Пять представителей российского офиса компании рассказали о корпоративной культуре, рабочем дне, языковом барьере, профессиональных вызовах.

Банкомат «Тинькофф» выдал ошибку во время пересчета и перезагрузился, не зачислив деньги

20/07/21 положил в банкомат 100 купюр по 5000 р. (500 т.р.). Во время пересчета написал неисправность и перезагрузился. Деньги не зачислены.

Сбежал с $80 млн, пообещав построить фермы: история основателя игры Farm Bank, который обманул 130 тысяч человек Статьи редакции

Как Мехмет Айдын, создатель виртуальной фермы, создал схему Понци и обманул тысячи пользователей, вложивших реальные деньги в приложение — в пересказе Rest of World.

Айдын на основанной им ферме Daily Sabah
«Стартап-полка»: Самокат набирает производителей альтернативных продуктов

Онлайн-ритейлер Самокат совместно с Ассоциацией Производителей Альтернативных Пищевых Продуктов объявляют сбор заявок от инновационных производителей продуктов для участия в «стартап-полке» Самоката. Лучшие продукты попадут в постоянный ассортимент Самоката в раздел «Супермаркет» уже этой осенью.

Starlink Илона Маска предоставила бесплатный доступ к спутниковому интернету пострадавшим от наводнения в Германии Статьи редакции

Пострадавших поддержали и автопроизводители: Ford предоставил фургоны для спасательных работ, а Volkswagen пожертвовал €1 млн.

Можно ли продолжать работать в той же компании после выгорания: история продакт-менеджера Тинькофф

В Тинькофф — 28 000 сотрудников, и у каждого своя история. Кто-то легко справляется с работой, и после всех задач спокойно отключается и идет отдыхать. Другим все может даваться труднее, даже сложно в уйти в отпуск — думает, «как я всё здесь брошу». Мы начинаем серию статей от лица наших сотрудников, которые делятся своим опытом: какие появлялись…

null