Новая реализация Voxtral Realtime от antirez на чистом C

Сальваторе Санфилиппо, также известный как antirez, опубликовал проект voxtral.c на GitHub. Это реализация инференса модели Voxtral Realtime 4B от Mistral, написанная на чистом C. Данная модель, имеющая 4 миллиарда параметров, преобразует речь в текст и может работать как с микрофоном, так и с аудиофайлами. Интересно, что для сборки требуется всего одна команда make, и никаких внешних зависимостей, таких как Python или PyTorch, не нужно.

Понравилась статья? Поделиться с друзьями:
Сайт для студентов