FastCosyVoice - Blackwell
Добавил поддержку Blackwell (50xx серия) архитектуры. Да, оказывается ее не было, и у меня не было девайса потестить, а теперь есть, но об этом будет отдельный пост.
Поправил немного бенчмарки, прогрев моделей, убрал логирование vram pytorch (не видит tensorrt/tensorrt-llm потребление, в итоге бесполезно).
Поправил автозагрузку моделей.
И главное добавил результаты бенчмарков на rtx 5060ti. И они немного спорные, точнее спорные результаты 3090, но дело в cpu и wsl.
Все уже доступно на github: https://github.com/Brakanier/FastCosyVoice/releases/tag/0.1.3
Подписывайтесь на Telegram – xVibeNot
Начать дискуссию