Почему GenAI не поможет бизнесу без базы знаний
Если вы думаете, что генеративный ИИ решит все проблемы компании, — забудьте. Без базы знаний нейросеть становится недоученным стажёром, который путается в ответах и может навредить бизнесу.
Если вы думаете, что генеративный ИИ решит все проблемы компании, — забудьте. Без базы знаний нейросеть становится недоученным стажёром, который путается в ответах и может навредить бизнесу.
В теории оч круто, но на практике писать собственных ии-агентов и размещать на своих серверах могут не далеко лишь все, как грицца.
Понятно, что крупные компании работают на своих серваках, но есть впечатление, что 90% арендуют облачные решения. Поэтому вопросы с безопасностью будут всегда.
Плюс не совсем понял понял, как связано галлюцинирование и внутренняя база. ИИ галлюцинирует потому, что неправильно обрабатывает входящую инфу. То, что его загрузят другой входящей инфой не изменит процесс ее обработки. Мб, ошибаюсь, тогда поправьте)
Никита, спасибо за комментарий)
Решение между облаком и своими серверами — это всегда про соотношение рисков и затрат. Крупные и средние компании чаще выбирают коробочные решения — это выгоднее, чем потерять данные. Кейс, который мы описываем в статье, как раз ориентирован на такие компании.
Для малого бизнеса облако проще и дешевле. Но опять же важно оценивать риски — если потеря данных будет слишком «дорогой», экономия с облаком выглядит нецелесообразно.
Что касается галлюцинаций, они могут происходить не только из-за технических нюансов, но и из-за источника, в котором хранятся знания компании. Так что всё упирается в качество данных. Если база знаний устарела, есть пробелы или противоречия, модель начнёт путаться и выдавать ошибки, даже если сама работает правильно. Например, если в базе знаний есть несколько разных инструкций на одну задачу, ИИ может выбрать неправильный вариант.
Даже если модель подсветит ненадёжные места, всё равно потребуется человек, который сможет с этим разобраться. А это уже повышает требования к тем, кто будет пользоваться ИИ.