Denis DEKSDEN Kiselev
Статья неплохая, но вполне верные тейки и практические выводы перемежаются с очень спорными!
Примеры:
1) "при усложнении бизнес-логики мы обычно упираемся в необходимость дообучать и настраивать модели." - вы забываете о возможности взять другую, более способную модель. Благо по нынешним временам топовые SOTA open source модели выходят чуть ли не каждый месяц. А у вас "возможностей текстового редактора не хватило - мы наняли команду разработчиков сделать нам свой MS Word с нескучными обоями".
2) общий тейк на собственный инференс моделей: надо четко обозначать, что это нетиповой сценарий и он вызван специфическими пониманиями жизни от Альфа-банка: обработка персональных данных, видимо, требования каких то законов и тп. Собственый инференс - это всегда огромные затраты на свое оборудование, которые как правило можно заменить провайдерами - даже выполняя специфические требования. Я уже не говорю о возможности фильтрации и предотвращения обработки персональных данных во внешнем контуре. В общем - надо бы прояснить вводные и множественность вариантов.
3) "Это не работает быстро" - зависит от моделей. Есть голосовые риал тайм модели. Есть быстрый инференс на оборудовании типа церберас / грок. Можно свой кластер под быстрые ответы развернуть на свежем оборудовании.
4) "Это не всегда качественно" - специализированные модели всегда пасуют при нестандартных входах, в отличие от больших моделей, которые универсальнее.
5) ну и ляпы типа "Если систематизировать ИИ-технологии по типу данных, с которыми они работают, можно выделить тексты, изображения, аудио, табличные данные и многие другие. LLM во всём этом многообразии работает только с текстами." - RLY? LLM работают с токенами. Gemini, разбирая видео и голосовухи тоже сильно удивилась. И нанобанана тоже удивлена таким тейкам.
6) хорошо что у вас есть RAG. но, например, агентный поиск дает более точные ответы.
В общем, неплохо, но - нет) Не разобрали
По сути не можем ответить?)
Принято!
Для инференса есть уже выбор, да.
В тренировке пока у зеленых хорошее преимущество по софту! Но в нынешнее время софт - это дело проще стало)) может и нагонят. Может и в ближайшее!
Релиз v4/r2 будет знаковым моментом, посмотрим на китов, чего у них с импортозамещением. Дипсики относительно открытые
Правильно.
Нечего музей портить какими то там производствами! В музее должно быть тихо и чисто
Скорее - не только у белых господ. Может быть спесь поубавится - хотя, не факт
Они их проектируют. Не делают.
Делают tsmc на технологиях asml. Ну или кто то еще на технологиях asml. Тут пока монополия.
Например, чтобы были какие то, когда белый господин решит что вы недостойны хороших. Ну - просо ему так захотелось, правила сейчас такие стали
Это вы так про меня? Стремновато на личности переходить без аргументов.
Ковыряние в станках asml - это вы называете когда китайцы доложили что собрали свою ультрафиолетовую машину руками перекупленных ветеранов asml? Ну - по мне так хорошая победа, настоящая.
У кого есть такая технология еще?
Избежать этого практически невозможно - значит можно только возглавить.
Военные использования надо было экономическими методами контролировать: запрет, может штрафы и тп. Чтобы не жестили. Там есть кому грамотно придумать, если будет такая задача!
Не совсем так.
Банки оплачивают звонки.
Закон установил детали того, как работают операторы - они должны маркировать звонки. Операторы подумали что это хороший повод взять денег с банков, якобы звонок и его маркировка - это разные услуги и должны стоить своих денег каждый