Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇷🇺 Video del ricevimento di gala in occasione della Giornata della Russia. Roma, 12 giugno 2025.
🎉 Buona Festa della Russia!
📍Ambasciata della Federazione Russa nella Repubblica Italiana
#RussiaDay2025
🇷🇺 On 10 June 2025, the Russian Embassy in the Kingdom of Belgium and the Permanent Mission of Russia to the EU and Euratom held a state reception on the eve of Russia Day.
🤝 Heads of diplomatic missions of the CIS Member States, countries of Asia, Africa, the Middle East, and Latin America, as well as representatives of international organizations, business circles, non-governmental organizations and Russian compatriots joined Russian diplomats to mark the National Day.
#RussiaDay2025
⬆️⬆️⬆️
🇷🇺 Happy Russia Day!
June 12 is a special date for everyone who loves and cherishes our country, its rich culture, centuries-old history, and remarkable diversity. It is a day when we proudly remember our roots, traditions, and spiritual values that unite us, wherever we may be.
The Russian House in Brussels warmly congratulates you on this important holiday!
May love for our homeland, respect for its history, and a desire to create and preserve live in the hearts of us all.
Happy holiday, dear friends!
Wishing you prosperity, inspiration, and new achievements!
#ДеньРоссии#РусскийДомБрюссель#RussiaDay2025