Andrey Olegovich

+32
с 2023

Работаю с AI в компаниях. Ищу, где он нужен, а где нет. Учусь в магистратуре Digital Humanities ИТМО

11 подписчиков
0 подписок

Антон, как раз составляю гайды интервью — учту ваш опыт!

буду держать в курсе и ждать обратной связи.

еще раз благодарю 🙏

спасибо за подробный ответ, проверка вторым, более сильным агентом выглядит очень здраво, и мне нравится ваша формулировка: ошибки становятся заметными. по сути это та же дешёвая проверка, о которой вы писали: человеку остаётся посмотреть на то, что уже подсвечено , но финальное слово всё равно за ним.

за предложение спасибо, с удовольствием, передам другу юристу, если он согласится погонять задачу с противоречащими процессами, и вернусь к вам с его обратной связью в личные сообщения

спасибо, очень ценный комментарий. «проверка должна быть дешёвой, тогда она не тает» супер практичный подход во всём обсуждении и она же подтверждает: в процессе остаются инструмент и человек, который проверяет и понимает, что именно он проверяет.

ваш эксперимент хорошо продолжает мысль Ильи выше — агент складывается из модели и того, к чему она подключена, и без доступа к текстам законов неверный ответ выглядит так же убедительно, как верный , как с шуруповёртом: плохим инструментом болт закручивается хуже, а спрос всё равно с того, кто крутил , поэтому важно понимать, из чего собран агент и где он уже ошибался, хотя и это ошибок не исключает.

и еще родился вопрос к вам как к практикам — товарищ юрист рассказывал о деле, где человек без юридического образования полноценно судился против команды юристов, а позицию ему подсказывал ии-помощник. правда, позиция у него и так была сильная. тот же юрист считает, что на сложных задачах модели пока ломаются, например, когда действия нужно квалифицировать самостоятельно, по одним фактам, или когда два процесса в разных судах противоречат друг другу и правильный ответ начинается с уточняющих вопросов , как с такими задачами справляется ваш помощник? есть ли такой опыт ?

11

Илья, спасибо, различение очень полезное ,и в статье я его действительно не проводил: слово «агент» там используется широко.

но мне кажется, оно не опровергает текст, а усиливает его. я разбираю то, что продавалось со сцены: компания, где агенты целиком заменяют сотрудников, и услуга «настрою вам так же, экспертиза больше не нужна». как устроены эти агенты внутри, спикер не раскрывал, а результат их работы выходит в реальный мир: письма клиентам, документы, деньги.

если содержательный output такого «миньона» гарантировать нельзя, а можно гарантировать только внешние границы ,как вы пишете, то проверять результат и отвечать за него всё равно остаётся человеку. проблема именно в том, что второй класс систем продают с обещаниями первого: как будто вокруг них уже можно строить sla и проверка не нужна.

заодно вы ответили на мой вопрос из прошлой ветки: купить вместе с таким агентом гарантию на содержательный результат, похоже, нельзя в принципе , значит , остаются принятый риск и экспертный контроль.

Антон, спасибо, что делитесь опытом, мысль, что агент не поможет, пока не починен сам формат сбора данных, очень трезвая , беру на заметку, а вопрос «подпись это формальность или реальная ответственность перед федерацией» добавлю в интервью с тренерами и методистами, он точно стоит отдельного разговора.

ради такой обратной связи я и пишу: разбираться, как с этим жить и работать, получается только вместе. буду держать в курсе, как пойдёт работа со школой, и, если позволите, ещё обращусь за комментарием.

11

Антон, спасибо, точное замечание. стоп, прописанный заранее, и стоп по факту, когда письмо уже ушло, это две разные роли, и в статье я их недоразвёл.

про спортшколы вы попали в наш вопрос — работу со школой мы только начинаем, и ответа пока нет , именно с него мы и стартуем: сначала смотрим, как устроены задачи сейчас, кто готовит отчёт, кто проверяет, чья подпись стоит в конце и только после этого решаем, где инструмент сэкономит время, где добавит второй круг проверки, а где вообще не нужен —такой вывод мы тоже считаем результатом.

ваша формулировка «экономия или второй круг проверки» хорошо ложится в нашу разметку задач, зеьберу её как критерий.

11

Илья, спасибо, что потратили время и разобрали текст так подробно, такую обратную связь редко получаешь под статьей.

с рамкой я согласен полностью — либо принимаешь риск сам, либо покупаешь вместе с инструментом гарантию, либо сохраняешь экспертный контроль , по сути это и есть мои конфигурации из статьи.

а вот с выводом про сайт не соглашусь, ведь я там нигде не ищу, на кого переложить ответственность, скорее наоборот: когда агент уронил сайт, я сам заметил, сам откатил, и подпись под ответом на претензию тоже моя — это ваш первый вариант, принятый риск. электрик в статье нужен для контраста: за его скрутку отвечает он сам, потому что вместе с работой я покупаю его квалификацию.

критикую я как раз ту модель, которую вы описали: «экспертиза не нужна, а за ошибки отвечает кто-то другой» , её и продавал спикер со сцены, причём продавал другим компаниям, где риск не его.

признаю, что фраза «инструкцию прочитать могу, не хочу» даёт повод прочитать текст иначе , тут я недоформулировал — благодарю

интересно ваше мнение по второму варианту. покупка гарантии вместе с инструментом для ИИ-агентов сейчас вообще существует? я пока не видел договора, где интегратор берёт на себя ошибки агента.

11

И еще агент может вежливо извиниться.. Виктор, спасибо за комментарий.

11

Дмитрий, спасибо за развёрнутый ответ и поддержку. Практику я тоже нашёл первым делом и увидел, что суды такие суммы регулярно снижают. Отсюда и решение: не торговаться и запрашивать документы, тем более что из присланного вообще не следовало, кому и на каком основании перешли права.

Про доступность файла — это было неприятное открытие, сразу нашел фото на wayback machine в архиве — они удивили, потому как писал им без особой надежды — думал, либо проигнорируют, либо не станут связываться. Ответили вежливо и быстро: готовы удалить, пришлите подтверждение.