8 ГБ Shared Memory это смех. Потому что даже честных 8 ГБ VRAM ни для чего толкового не хватает: в мою 3060 Ti 8 GB даже Gemma2 9B Q4_0 не влезет целиком, про максимальный для нее контекст вообще молчу (8к токенов).
Какая-то странная игрушка ни для чего. С такими ресурсами она выгоды не дает по сравнению с любым средним современным компьютером или даже скорее слабее.
12-16 ГБ было бы прямо супер, но где-то они просчитались.
Да тут какие-то зумеры-смузи-енжоеры-перекладыватели-жсона собрались и рассказывают о успешном успехе ИИ.
Тем временем вот буквально вчерашняя статья на хабре, где почему-то никто не видит вообще никакого значимого валуе от этой всей движухи.
Лаборантов учеными никто не называет, как и медсестер врачами.
Программисты 20 лет назад: один придумал Clang, LLVM, Swift, другой пакет инструментов Sysinternals, третий ОС свою написал.
"Программисты" сейчас: "ну я это, пук срень, жсончик тут не могу сформировать без гугла на жабаскриптике".
Жаль вас, если вы не знаете о разнице. Можете дальше радоваться увеличению производительности от ИИ в 10 раз. Хотя на деле плакать надо.
Это проблема эпохи, что программистами стали называть скриптеров и кодеров.
Ну вы можете сколько угодно лить воду, но ваша проблема в том что я НЕ ПРОСТО использую инструментарий связанный с ИИ - я его еще и разрабатываю, работая напрямую с моделями.
Так что что они могут и чего они не могут мне рассказывать не надо. :)
ИИ - в лучшем случае ассистент. И чем хуже программист - тем он полезнее, но это все skill issues конкретного человека.
Чем выше уровень разработчика, тем вреднее это все становится: напиши промпт, поправь не удачный промпт, добавь пару примеров для мультишота, повтори это все пять раз, о, что-то неплохое получилось, окей, теперь это внедряем и... правим, чиним, подгоням. Ой, а времени то ушло больше чем если бы я это сам сделал! И это пример работы с НОРМАЛЬНЫМИ моделями, а не реал-тайм генеративным мусором по локальному контексту.
И да, гугл развивают макаки. Эффективные менеджеры и индусы.
На данный момент максимум что можно доверить LLM - рутинные операции: CRUD, примитивный бойлерплейт.
И именно это вы это и описали. В таком ключе модели использую и я.
Никакой реализации логики и создания чего-то более сложного им доверять нельзя.
Однако, люди говорят об ускорении в ДВА РАЗА и даже больше. Вопрос - а они точно программисты, а не макаки/дятлы, если рутина состовляет большую часть их работы? В таком случае да - бояться замены генеративными моделями страх оправданный.
Ну и мир разработки не строится вокруг двиганья формочек. Ну да ладно.
При реальной разработке, высококлассные программисты пишут код хорошо если треть времени.
Но помоешники которые меряют код в количестве строк в восторге от AI.
О, заводской работяга копиума набрался что наконец-то кого-то там попустят. Увы - нет. Даже курсовики могут спать спокойно, потому что генеративные модели объективно ничего не могут и как-бы уже вышли на плато. :)
Не может. Современным LLM не хватит контекста на нормальную кодовую базу (с документацией, конфигами и прочим шумом).
А даже если имеющиеся стандартные 128k токенов хватает, то гарантированно начнутся артефакты. Ну и производительности в реалтайме соответственно тоже быть никакой не может в этом случае.
Как грамотные люди неоднократно отмечали - если ИИ ускоряют вас хотя-бы насколько-то, то скорее всего вы изначально 0 с хвостиком.
И если ускорение наблюдается в два раза, то следовательно за пол разраба сойдете.
Статья - антинаучный мусор, вводящий в заблуждение, написанный или идиотом, или по заказу.
Рекомендую редакции добавить какое-нибудь предупреждение, от греха.
Ну тупые! Акции магазина покупать, емае. Еще бы в Amazon вложились! Оу вейт.
У меня такие же данные как и у этого провокатора и/или идиота - общественно доступная информация, только вот он зачем-то исказил эту публично доступную информацию.
Гуглишь "трамп байден секретные документы" и наслаждаешься. Сложно валидировать информацию в 21 веке, да?
Ты клоун? У трампа тоже секретные папочки нашли в особняке, и куда больше и страшнее чем у байдена. А у бидона они хотя-бы в его офисе.
Все, минус OnShape?
Мне на такой же запрос пришел следующий ответ:
Банком не обрабатываются Ваши биометрические персональные данные, в связи с чем отзыв согласия на обработку биометрических персональных данных или отказ от их размещения в единой биометрической системе не может быть исполнен Банком.
У Гроуфуда было ответвление дешевой "студенческой" еды, вот там по формату столовки все было. Только прожили они вроде едва полтора года. Название не вспомню.
Страна может и независимая, а вот режим очень зависимый, прям не уверенно как-то висит, дунуть пакетом санкций и оборвется еще чего.
Зачем война? Каменный век сейчас оформляется подписанием пары десятка документов. Окей, турки прокси страна для поставок в Россию, если обложить санкциями их за сотрудничество с некоторыми террористическими режимами, по мнению США, кто для них будет прокси страной и кому они вообще будут нужны? Эрдоган кончится на раз два в таких условиях.
Какие вообще приказы? Есть партнерство, и есть его отсутствие. Не хочешь дружить - ну чтож, добро пожаловать в черные списки. Дело добровольное, получать блага от сотрудничества с главной мировой экономикой, как и отказываться от них.
Сколько там, сотнями уже инфляция исчисляется у турков? Ну может и в тысячи перейти если из вне на их экономику надавить, не беда.
Очень надо будет - найдут управу, не то что бы в этом много сомнений. В этом то и смысл, что за "упрямость" против порядочности надо наказывать. Отправить турков и азеров в каменный век, к ирану прямиком, а то разошлись, важные такие, играют на все стороны, "ушлые" автократы.
Намекнут эрдогану что у его режима резко могут появиться проблемы разного рода кроме тех что уже есть и что ему бы лучше перестать выпендриваться, и попустятся эти турки. Собственно, эта новость и есть такой намек.
Тут скорее турков надо с НАТы турнуть, ишь права качают то тут, то там, вообще залетные, региональный дестабилизатор, им вообще не место в этом альянсе.
Да, я в курсе. Поэтому ничего и не сделал по итогу и жду чуда.
Да, я вот тоже мечтаю PPL получить, но смущает только то что в России пилотское это исключительный головняк, в любой момент Росавиация может кинуть, как это многократно происходило и происходит в различных аспектах. Даже страшно как-то. А теперь еще страшнее.
А раньше еще думал о всяких схемах типа через Украину получить, валидировать сразу для США и к нам и балдеть, будучи защищенным по полной в плане прав. Ага, сделал.
Довольствуюсь пока авиамоделизмом и FPV и жду светлую Россию будущего.
Для рассчетов они ввели метрику времени полуразбора действующего парка?
Баттлрояль какой-то, через 5 лет останется последний самолет который поглотил всех остальных.
Видел на днях бабушку которая дает в руки кассиру карту и отдельно бумажку с пинкодом и просит ввести его самому. Да, безопаснее некуда.
Несколько недель работы без ребутов.
А тебе череп часом не жмет? Откуда тебе знать куда мой системник может быть примотан и какие у него габариты? Мой кастомный NAS на мой же ровер вполне себе влезет.
Для тех у кого мозг пережат, цитата из оригинальной новости:
Available today, it delivers as much as a 1.7x leap in generative AI inference performance. Whether creating LLM chatbots based on retrieval-augmented generation, building a visual AI agent, or deploying AI-based robots, the Jetson Orin Nano Super is an ideal solution to fetch.Ой, а акцентики то почему-то в том числе и на генеративном AI, да на чатботах! Ой!