Персональный ИИ-диктофон без подписок и облаков

Я активно использую ИИ-диктофоны Plaud, TicNote, OMI.

Но есть там одна проблема. Они очень хотят забрать мои разговоры в свои облака и еще отдать парочке моделей для вычитки и правок.

И вот зашел у нас разговор в ИИзнанке, а не сделать ли персональный ИИ-диктофон, без подписок, с локальным распознаванием и чтобы дешево. А сделать.

Вчера заказал Cardputer ADV за 30 баксов (можно и в 10 уложиться, если взять голый ESP32), сегодня он пришел, и уже через 20 минут все работало.

Нажал кнопку на девайсе, пошла запись, нажал еще раз, запись остановилась. Каждая запись пишется в WAV на карту. Если в сети виден компьютер, звук одновременно стримится ему и текст возвращается на экран через секунды. Если сети нет, файл ждет на карте и заливается позже сам.

Компьютер держит маленький TCP-сервер на Python. Он принимает поток, сохраняет WAV и прогоняет через модель NVIDIA Parakeet TDT 0.6b v3 с помощью библиотеки parakeet-mlx. Распознается все моментально и сразу улетает ко мне в LLM Wiki.

Я в комментарии закину MD-файл с идеей и как все собрать. Просто скормите его своему агенту. Ну и накиньте 🔥, если про железки вам тоже интересно.