Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Ay-Kherel — The Music Of Tuva (ARC Music, 2004)
#traditional#igil#chanzy#Tuva#Russia
«Ай-Херель» на тувинском языке означает «луч лунного света». В 1994 году группу основал однин из талантливейших мастеров обертонного горлового пения Владимир Серенович Соян. В репертуар «Ай-Херел» входит горловое пение, исполняемое в пяти стилях: хоомей, каргыраа, сыгыт, борбангнадыр и эзенгилер. Аккомпанемент исполнен на традиционных тувинских инстументах: игил, чанза, лимбэ.
🔗Spotify | AppleMusic
Huun-Huur-Tu — 60 Horses In My Herd (Shanachie, 1993)
#traditional#field_recording#chanting#throat_singing#khoomei#igil#khomus#doshpuluur#dunggur#Tuva#Russia
Хуун-Хуур-Ту, или Хүн Хүртү по-тувински, — тувинская группа, исполняющая широкий набор стилей тувинского горлового пения «хоомей». Термин «хоомей» употребляется как в качестве общего названия тувинского горлового пения, так и для обозначения одного из основных его стилей, традиционно звучащего мягко, с основным тоном голоса в низком диапазоне. Пение в этом стиле подражает звукам ветра.
Группа появилась в 1992 году под названием «Кунгуртук». В первоначальный состав выходили уже довольно опытные музыканты Кайгал-оол Ховалыг, братья Александр и Саян Бапа и Альберт Кувезин. На тот момент они были заинтересованы в сохранении тувинсого фольклора, поэтому играли только на традиционных музыкальных инструментах и исполняли народные песни, содержащие образы тувинской степи. Вскоре после основания группа сменила название на Хуун-Хуур-Ту, что означает «солнечный пропеллер» — визуальный эффект, который возникает, когда солнечные лучи падают на землю сквозь облака. В 1993 году группа совершила поездку в США, где записала свой дебютный альбом 60 Horses In My Herd.
🔗Spotify | AppleMusic | Telegram