Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🔥NEW RELEASE🔥
😁Clamp Guard Engineering by Adam Wardzinski😁
➡️Adam Wardziński is widely regarded as the most dominant gi competitor in the world today, and his guard is the foundation of that success. Simple, ruthless, and almost impossible to pass, Adam’s system isn’t about flashy movements — it’s about total control.
➡️Used alongside his devastating hook sweeps and closed guard attacks, the clamp allows Adam to slow the game down, shut down passing pressure, and force opponents into predictable reactions — all while staying one step ahead.
$147😍$11.99😍
❗️Channel Info and FAQ (MUST CHECK BEFORE BUY)❗️
📱Payment: 📱📱📱
💰Submeta FOR FREE
👑MasterClass
✈️@bjjfanaticsinstructionals
#AdamWardzinski#Guard#Gi#IBJJF
💁♀️Buy
💁♀️
🔥NEW RELEASE🔥
😁Pins And Dominant Position Escape Engineering by Adam Wardziński😁
➡️Turn the Tide from the Bottom — Learn Elite-Level Escape Systems from One of the Most Battle-Tested Gi Competitors in the World
➡️In Pins and Dominant Position Escape Engineering, Adam breaks down his battle-tested escapes from side control, mount, back control, knee-on-belly, and more — all with the clarity, detail, and realism you'd expect from someone who’s done it at the highest level.
$147😍$11.99😍
❗️Channel Info and FAQ (MUST CHECK BEFORE BUY)❗️
📱Payment: 📱📱📱
💰Submeta FOR FREE
👑MasterClass
✈️@bjjfanaticsinstructionals
#AdamWardzinski#Escapes#Gi#IBJJF
💁♀️Buy
💁♀️
🔥NEW RELEASE🔥
😁Pinning And Pressure Engineering By Adam Wardzinski😁
➡️In Pinning and Pressure Engineering, BJJ World Champion Adam Wardziński shares the battle-tested pressure passing system that has suffocated elite guard players around the globe.
➡️Known for his relentless top game and calculated control, Adam reveals how to dictate the pace, dismantle active guards, and impose pressure that forces mistakes and opens submissions.
➡️Implement popular positions like shin to shin, single leg x, x, butterfly and more to foot sweep, ankle pick, and attack a mobile and quick opponent
̶$̶1̶47̶😍$14.99😍
❗️Channel Info and FAQ (MUST CHECK BEFORE BUY)❗️
📱Payment: 📱📱📱
💰Submeta FOR FREE
🌈UFC Picks
👑MasterClass
✈️@bjjfanaticsinstructionals
#AdamWardzinski#Gi#Pins#Positional
💁♀️Buy
💁♀️