Процессоры для обучения ИИ и обработки видео, нейросеть для генерации кода: Meta* — о планах в области ИИ Статьи редакции
Также компания рассказала о новых дата-центрах, предназначенных для работы с ИИ.
- Meta* провела виртуальное мероприятие, на котором рассказала о своих усилиях в области ИИ, пишет TechCrunch. В том числе — по разработке собственной инфраструктуры для ИИ-проектов.
Процессоры для обучения ИИ и обработки видео
- До 2022 года Meta* использовала для ИИ-разработок CPU-процессоры — но те плохо справляются с задачами, которые нужны для обучения и запуска ИИ-моделей. В итоге компания заказала GPU от Nvidia на «миллиарды долларов», а также решила разработать собственный чип, который, по данным источников, планировала выпустить к 2025 году.
- Этот процессор стал центральной темой мероприятия. Он называется Meta Training and Inference Accelerator (MTIA), и Meta* описывает его как «часть семейства чипов» для ускорения обучения ИИ и запуска обученной модели.
- Как утверждает компания, первое поколение MTIA — MTIA v1 — она создала ещё в 2020 году, чтобы повысить эффективность рекомендательной модели, которую она использует для показа рекламы и контента в ленте новостей в соцсетях. Также он пока не подходит для обучения ИИ.
- Meta* признала, что процессор столкнулся с проблемами при обработке сложных моделей, но обрабатывал модели «средней и низкой» сложности «гораздо лучше, чем чипы конкурентов». Планы по разработке следующих поколений Meta* не раскрывает.
- В дополнение к этому компания разрабатывает ещё один процессор — Meta Scalable Video Processor (MSVP). Он предназначен для обработки видео и прямых трансляций.
Суперкомпьютер RSC
- Meta* представила суперкомпьютер AI Research SuperCluster (RSC), который предназначен для работы с задачами искусственного интеллекта, в январе 2022 года.
- Сейчас компания заявила, что она завершила второй этап сборки для него. Он состоит из 2000 систем Nvidia DGX A100, которые в общей сложности содержат 16 тысяч графических процессоров для ускорения вычислений.
Новые центры для обработки данных
- Компания собирается перепроектировать свои центры обработки данных (ЦОД) — для этого она будет использовать более современные системы охлаждения и сетевые устройства, предназначенные для работы с ИИ.
- По мнению Meta*, новые ЦОДы будут более оптимизированы для работы с ИИ, а построить такой центр можно будет в два раза быстрее, чем обычный. При этом он обойдётся дешевле.
Нейросеть для написания кода
- Meta рассказала, что разработала собственную нейросеть для генерации кода — CodeCompose. Выкладывать её в публичный доступ компания пока не собирается, а используют нейросеть сотрудники Meta*.
- По данным компании, самая большая из нескольких обученных моделей CodeCompose содержит 6,7 млрд параметров — это вполовину меньше, чем у Copilot от Microsoft и OpenAI, отмечает TechCrunch. Нейросеть сделана на основе InCoder — генеративной модели для создания кода и редактирования текста, которую Meta* показала в апреле 2022 года.
- CodeCompose умеет предлагать отдельные строки кода по мере его написания, и работает скорее как помощник, который может предлагать подсказки.
*Meta признана экстремистской и запрещена в России.
16K
показов
4K
открытий
1
репост
Комментарий недоступен
Мета тоже хочет денег, но пока их коммерческие продукты не находят понимания
МетаЦукер отстал в гонке куда сильнее гугла и, либо он купит что-то крайне крудое за овердохрена денег, либо прододжит тусить в своей личной пустой "вселенной".
Как же меня задолбали твои комментарии под каждой статьей. И ладно бы они были бы интересные, в контексте и по делу. У меня такое ощущение что у тебя словесный понос, лишь что запостить - «главное количество, а не качество».
Как же вы задолбали ходить за мной и ныть, как вас задолбали мои комменты (-:
Добавь меня в чс, человек без имени и будет тебе несказанное счастье, ей богу.
Комментарий недоступен
Ага, я в чс редко кого добавляю, а его так вообще впервые вижу, но "задолбал" вот его, экий я растяпа.
Даже посмотрел, ну да, у гражданина все комментарии сплошь по делу, развёрнутые и полезные. Таблетки что ли не завозят в аптеки... Время непростое, конечно, нынче.
Посты - не место для комментариев!
Мета не плохое опен-соурс ЛЛМ выпускает кстати. У них достаточно интересные проекты появились и главное что они более открытые чем OpenAI или Google.
ктож ему продаст
Мета может выстрелить очень неожиданно, вон постом выше импланты в мозг, если матрица не за горами, у Цукерберга пара лет форы в её направлении.
Пузырь еще не лопнул? GPT И тд. своим хайпом подвинули даже криптовалюту
Тут хайп заслужено. ИИ уже начинает трансформировать целые отрасли на триллионы долларов.
В отличии от картинок с авторским правом, гпд чат очень даже полезный вышел для людей.
в следующие несколько лет это будет самая актуальная тема
Как буд то даже в ближайшие десятилетия это будет актуально
Метавселеная всё? Уже не в тренде.. ах., МТС и Сбер как раз тольк-только вложились.
Сперва пытался словить тренд метавселенных, теперь тренд ии
А что будет, если сделают кроссовер?
Судя по качеству рекомендаций, ничего она не создала, а купила тот единственный выпущенный экземпляр «Байкала», который TSMC отказалась в РФ отгружать.
"Meta* провела виртуальное мероприятие, на котором рассказала о своих усилиях в области ИИ, пишет TechCrunch"
Надеюсь, это шапито было в собственной метавселенной с мультяшными БЕЗНОГNМ? Лол.
Программисты: не, вы чего, ии нас никогда не заменит, это помощники в нашей работе. Тем временем корпорации, вливающие миллионы $ в кодогенераторы: ну-ну, пиздите-пиздите
Поправочка
Программисты High level*
Получается, нужны будут 2 типа разработчиков: бородатые инженеры, которые будут закладывать и фиксить архитектуру и миньоны, которые будут ставить задачи ИИ на генерацию и впоследствии эту генерацию дебажить? Миньоны почти всегда будут миньонами ибо конкуренция среди инженеров будет расти, соответственно будет расти и планка для перерождения миньона в инженера. Итог: ниже зп, адская конкуренция среди джунов спадет, в отрасли будут лишь те, кому это интересно как процесс, войтишникам ловить станет нечего, т.к денег работодатели станут тратить меньше. Не благодарите. Ваша Ванга Васильевна
Звучит правдоподобно
Так везде, теория становится всё сложнее и сложнее. Раньше врач, это человек, который мог сварить отвар из коры от поноса и остановить кровь подорожником, а сейчас 6 лет обучения, и будешь не врачём по всем направлениям, а только в узкой области. Так же и с программистами, 10 лет назад, что бы войти в айти надо было прочитать одну книжечку и стать программистом. Сейчас количество инструментария выросло. С приходом НС надо будет и их в свой арсенал добавлять. Но нейросети не выгонят программистов, сложность запросов всё равно велика, всегда нужен будет погонщик нейросетей. По крайней мере пока нейросетки в интересах человека работают
определенно войти в айти конторы поприкроются, гпт вполне толково разъясняет и пишет кодик для жаждущих.
Комментарий удален модератором
А нейронка у них зовется КодКомпост. Хммм...
в защиту meta могу сказать, что они с нуля разрабатывают свои продукты, таже самая метавселеная тоже с нуля
Немного с опозданием Цукребрег решил вложиться в ИИ
ИИ с каждым днем все растет и растет
Вот ещё чуть-чуть и загнется, сразу после доллара (с)