Я пока вижу два практических варианта: либо ollama с локальным эмбеддером, либо лицензия SF через третьи руки. Предложения такого рода уже есть, только не уверен, что там действительно заявленный продукт.
Первый вариант - самый реальный, но там нужна крепкая голова - и клавиатура, способная держать удар этой головой.
Я уже несколько штук поменял.

Да, я тоже об этом подумала :)