TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки
Назад кон каналите

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Погледај објаваПогледај оригинал

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async
Резултати

Пронајдени 45 слични објави

Пребарај: #stt

当前筛选 #stt清除筛选
Ali Ahmad

@AlisherAhmatovich · Post #1189 · 09.01.2025 г., 16:15

Најди сличноПогледај

O'zbekcha STT (Speech-to-Text) uchun benchmarking v1 tayyor! O'zbek tilida nutqni matnga aylantirish bo'yicha dastlabki etalon tizimni yaratdik! Ushbu jarayonda: ✅ Adabiy O'zbek tili ✅ Turli hududiy shevalar ✅ Musiqalar va suhbatlar ✅ Shovqinli audiolar bilan o’zimizni va bozordagi mavjud modellarni sinab ko'rdik. Tez orada natijalarni va benchmarkni e’lon qilamiz, hamda benchmarkni doimiy yangilab borish niyatimiz bor. Benchmark mezonlari: - WER (Word Error Rate) - So’zlar xatolik darajasi. - CER (Character Error Rate) – Harflar xatolik darajasi. Bu nafaqat texnologik rivojlanish, balki O'zbek tilining raqamli muhitda mustahkam o'rin egallashi yo'lida muhim qadamdir. Maqsadimiz – O'zbekcha STT modellarining aniq va sifatli ishlashini ta'minlashdir. Kelajak rejalari: - Test natijalarini batafsil tahlil qilib, modellarni yanada takomillashtirish. O'zbek tili texnologiyalari rivoji uchun birgalikda ishlashda davom etamiz! STT modelimizni @aishaovozbot’da yoki aisha.group’da sinab ko’rishingiz mumkin. #aisha#stt @elzodxon

Hashtags

#aisha#stt
1234
← ПретходнаСтраница 1 од 4Следна →