Local AI / Lightweight ML
Выбор модели под конкретную задачу
Задача
Выбор модели требовал баланса точности, задержки, ограничений оборудования и стоимости работы.
Как я это реализовал
Я работаю с локальными LLM, исполнением прежде всего на CPU, ONNX и GGUF, а также речевыми инструментами Whisper, Sherpa-ONNX и Silero. Эксперименты охватывают OCR, embeddings, векторный поиск, многоязычную обработку и TTS.
Определить задачу
Выбрать модель
Исполнить локально
Оценить процесс
Результат
Прикладные эксперименты формируют мой подход к выбору моделей и их связи с полезными процессами.
Инструменты и технологии
TON Tanks
Сложная задача? Найдём решение.
Архитектура, техническое лидерство или продукт, которому нужна прочная основа.
Начнём разговор
Роль, продукт или техническая задача. Расскажите немного о контексте.
Чтобы воспользоваться формой, включите JavaScript. Также можно написать мне напрямую в Telegram.
Написать в Telegram