Denis DEKSDEN Kiselev
Чушь какая то - какая интернет инфраструктура для сервисов пробива?
Тогда можно закрыть интернет провайдеров, которые предоставляют интернет-ифраструктуру для сервисов пробива. Банки, котоыре обеспечивают сервисы пробива платежными решениями. Сотовых операторов, которые также предоставляют телефоны для операторов этих сервисов, которые они используют в работе мессенджеров и банковских сисем удаленного доступа.
В целом - можно интернет запрещать.
С чего такие расширенные толкования?
Ну давайте разовьем для полной реализации такой логики! Страна Россия предоставляет инфраструктуру для таких сервисов: там живут операторы этих сервисов (возможно) и пользователи! В том числе РКН получается, замешан, как один из гос органов!
Ты путаешь разные модели и архитектуру модели.
То, что ты описываешь - называется архитектурой MoE: mix of experts. Так устроено сейчас большинство моделей - но это все еще одна единая модель. Просто в ней каждый токен активирует определенные зоны модели (эксперта/экспертов). Это сделано для оптимизации обработки.
Над ассортиментом действий надо поработать.
Есть успешные Интернет сервисы где действия самые разные предпринимаются! Используйте в качестве бизнес модели. Там что то с «-Фанс» в названии
Не совсем так.
Банки оплачивают звонки.
Закон установил детали того, как работают операторы - они должны маркировать звонки. Операторы подумали что это хороший повод взять денег с банков, якобы звонок и его маркировка - это разные услуги и должны стоить своих денег каждый
Статья неплохая, но вполне верные тейки и практические выводы перемежаются с очень спорными!
Примеры:
1) "при усложнении бизнес-логики мы обычно упираемся в необходимость дообучать и настраивать модели." - вы забываете о возможности взять другую, более способную модель. Благо по нынешним временам топовые SOTA open source модели выходят чуть ли не каждый месяц. А у вас "возможностей текстового редактора не хватило - мы наняли команду разработчиков сделать нам свой MS Word с нескучными обоями".
2) общий тейк на собственный инференс моделей: надо четко обозначать, что это нетиповой сценарий и он вызван специфическими пониманиями жизни от Альфа-банка: обработка персональных данных, видимо, требования каких то законов и тп. Собственый инференс - это всегда огромные затраты на свое оборудование, которые как правило можно заменить провайдерами - даже выполняя специфические требования. Я уже не говорю о возможности фильтрации и предотвращения обработки персональных данных во внешнем контуре. В общем - надо бы прояснить вводные и множественность вариантов.
3) "Это не работает быстро" - зависит от моделей. Есть голосовые риал тайм модели. Есть быстрый инференс на оборудовании типа церберас / грок. Можно свой кластер под быстрые ответы развернуть на свежем оборудовании.
4) "Это не всегда качественно" - специализированные модели всегда пасуют при нестандартных входах, в отличие от больших моделей, которые универсальнее.
5) ну и ляпы типа "Если систематизировать ИИ-технологии по типу данных, с которыми они работают, можно выделить тексты, изображения, аудио, табличные данные и многие другие. LLM во всём этом многообразии работает только с текстами." - RLY? LLM работают с токенами. Gemini, разбирая видео и голосовухи тоже сильно удивилась. И нанобанана тоже удивлена таким тейкам.
6) хорошо что у вас есть RAG. но, например, агентный поиск дает более точные ответы.
В общем, неплохо, но - нет) Не разобрали
По сути не можем ответить?)
Принято!
Для инференса есть уже выбор, да.
В тренировке пока у зеленых хорошее преимущество по софту! Но в нынешнее время софт - это дело проще стало)) может и нагонят. Может и в ближайшее!
Релиз v4/r2 будет знаковым моментом, посмотрим на китов, чего у них с импортозамещением. Дипсики относительно открытые
Правильно.
Нечего музей портить какими то там производствами! В музее должно быть тихо и чисто
Скорее - не только у белых господ. Может быть спесь поубавится - хотя, не факт
Лимиты клозедов всегда были щедрее, это факт. Поэтому боль - это лимиты антропиков.
И очень важную вещь не попробовали, которая ставит кодекс выше СС - это gpt 5.2 high. Не -codex, а просто. Именно эта модель сильно умнее опуса. Да, она медленная, но решает такие задачи, которые не может опус.
Замечу про high вместо xhigh. Часто работает лучше! Горе от ума никто не отменял.