TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

Резултати

Пронајдени 1 слични објави

Пребарај: #diarization

当前筛选 #diarization清除筛选

🗣 VibeVoice ASR ● Распознавание речи и диаризация ● RU ● Portable by Nerual Dreming Ссылка на оригинальный GitHub:https://github.com/microsoft/VibeVoice Ссылка на репозиторий репакера:https://github.com/timoncool/VibeVoice_ASR_portable_ru Репакер:#nerual_dreming Дата обновления: 3 февраля 2026 Категории:#stt, #ASR, #diarization, #AIaudio Платформа:#Windows Язык: RU Системные требования: NVIDIA GPU с поддержкой CUDA от 8 ГБ VRAM для полной версии, меньше для квантованной Совместимость:#Nvidia 🖥Описание софта VibeVoice ASR — новейшая модель от Microsoft для транскрибации, диаризации (разделения по спикерам) и простановки таймкодов за один проход. Главная фишка — обработка до 60 минут аудио целиком, без нарезки на куски, что позволяет модели «понимать» контекст всей беседы. Особенности портативной версии: В сборку включены две модели: полная (оригинал) и квантованная (от scerz). Реализована поддержка эмуляции 4-bit квантизации для полной модели — это позволяет запускать тяжелую оригинальную версию даже на картах с небольшим объемом памяти без потери качества. Также добавлена нативная поддержка видеофайлов и парсер текста с выбором спикеров для показа. 😬Основные возможности VibeVoice ASR: 🟣Две модели на борту: Выбор между оригинальной Full версией и оптимизированной Quantized (scerz). 🟣Эмуляция квантизации: Уникальная фича сборки — возможность запуска полной модели в режиме 4-bit (bitsandbytes) для экономии VRAM. 🟣Всеядность: Поддержка не только аудио, но и видео (MP4, MKV, AVI, MOV) — звук извлекается автоматически через FFmpeg. 🟣Умная диаризация: Точное определение «Кто, Когда и Что сказал» (Who, When, What). 🟣Длинный контекст: Обработка часовых записей без потери смысла и путаницы в спикерах. 🟣Удобство: Веб-интерфейс на русском языке 🟣Парсер текста: позволяет скрыть или показать временные метки, спикеров, дескрипторы 💿Установка и запуск ⁍ Скачайте архив с установщиком или окружением. ⁍ Распакуйте в папку без кириллицы в пути. ⁍ Запустите install.bat для установки библиотек (для установщика). ⁍ Запустите run.bat для старта веб-интерфейса. ⁍ Модели скачаются при первом запуске ➡️Скачать VibeVoice ASR Portable installer— установщик, сам все скачает ➡️Скачать VibeVoice ASR Portable env — готовое окружение для RTX 4090 и win11 💬Обсудить в нашем чате 👾НЕЙРО-СОФТ - делаем нейросети доступнее