Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🔥NEW RELEASE🔥
😁Half Guard by Nicholas Meregali😁
➡️Master the Half-Guard with 4 hours of step-by-step instruction designed to give you real control and understanding of this essential position. Learn to dominate in three key stages, Legs, Hips, and Shoulders, using each to solve specific problems and create clear, strategic progress.
➡️We start with the core concept of Camping, teaching you how to stabilize your position, manage pressure, and control posture through precise body placement over your opponent’s shields, hips, and frames, making your base extremely hard to off-balance.
$197😍$19.99😍
❗️Channel Info and FAQ (MUST CHECK BEFORE BUY)❗️
📱Payment: 📱📱📱
💰Submeta FOR FREE
🌈UFC Picks
👑MasterClass
✈️@bjjfanaticsinstructionals
#NicholasMeregali#NewWave#Gi#HalfGuard
💁♀️Buy
💁♀️
🔥NEW RELEASE🔥
😁Top Half Guard By Neil Melanson😁
➡️Unlock a powerful, high-pressure top game with Top Half Guard by legendary coach Neil Melanson. As a master of catch wrestling and MMA grappling, Neil’s unique approach to half guard will completely transform the way you dominate from top position.
➡️Whether you're new to half guard or looking to refine your existing skills, this series gives you the tools to overwhelm your opponent, control the position, and finish the fight with devastating submissions
➡️Learn from one of the most innovative grappling minds in the sport and elevate your game to new heights.
$127😍$11.99😍
❗️Channel Info and FAQ (MUST CHECK BEFORE BUY)❗️
📱Payment: 📱📱📱
💰Submeta FOR FREE
🌈UFC Picks
👑MasterClass
✈️@bjjfanaticsinstructionals
#NeilMelanson#BJJFanatics#HalfGuard
💁♀️Buy
💁♀️
😁Precision Attacks and Sweeps From Butterfly Half and Knee Shield by Shawn Melanson😁
➡️Shawn Melanson returns with his fifth installment for BJJ Fanatics, and this time he’s pulling back the curtain on the sneaky, frustrating, and relentlessly effective guard system that’s been quietly dismantling opponents at every level.
➡️Melanson's method breaks away from flashy tricks and focuses on the real structure behind guard retention, off-balancing, and transitioning from defense to decisive offense
̶$̶7̶9̶😍$9.99😍
❗️Channel Info and FAQ (MUST CHECK BEFORE BUY)❗️
📱Payment: 📱📱📱
💰Submeta FOR FREE
🌈UFC Picks
👑MasterClass
✈️@bjjfanaticsinstructionals
#ShawnMelanson#HalfGuard#NoGi#Butterfly
💁♀️Buy
💁♀️