Безопасный AI
LLM может написать что-то плохое — оскорбить кого-то, например. И пользователь LLM может написать что-то плохое — скажем, отправить на чужой сервер какую-то очень секретную информацию. То и другое может быть крайне неприятно для компании, которая использует генеративный AI в своем бизнесе.
Российский #стартапдня HiveTrace предназначен для защиты от подобного рода проблем. Его предобученная на всякие гадости нейросеть ставится как модератор между чатом и "основным" AI и проверяет, что обе стороны пишут друг другу. При этом обычно она работает на серверах заказчика и утечка к ней утечкой не является. Тем более она не обидится на что-то оскорбительное.
Стоит внедрение HiveTrace относительно дорого — типичный чек составляет миллионы рублей плюс цена железа. Клиенты соответственно — крупные банки с телекомами, а не магазины у дома.
Летом стартап привлек 10 миллионов рублей инвестиций от фонда МФТИ.
Подписывайтесь на Telegram Стартап дня. Александр Горный..