Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🤔Why join the NFT Trading Contest?
1️⃣Total prize pool of 0.1 ETH (~$350)
2️⃣Win up to 0.01 ETH (~$35) per winner
3️⃣Owning an NFT grants you a seat in our exclusive airdrop event 🎁
4️⃣Special benefit: Owning NFT allows to use RUBY within our SocialFi partners ecosystem 🌐
5️⃣Time to grab your SingSing NFTs is coming to an end soon ⏳
Don’t miss out - Trade Now🚀
Read more and Open Treasure at: X Post
#NFT#Crypto#TradingContest#SingSing
🚀$SING Trading Contest on CoinEx is COMING!
💰 Prize Pool: 500,000 $SING(~$9,000)
🗓 Duration: 10AM UTC, Nov 14 - 10AM UTC, Nov 21
Note:
✅All CoinEx users who apply on the promotion page can join (Market Makers excluded).
✅Rewards are based on Spot trading volume ranking. Cumulative volume = Buying + Selling volume in selected markets. Self-matching orders won’t be counted.
✅Market Making accounts are excluded from this event.
✅Sub-accounts cannot join independently; their volume will be counted in the main accounts.
✅Any cheating (batch registration, self-dealing, etc.) will result in disqualification.
✅FAQ About Spot Trading Volume Ranking
🔗 Full details: https://www.coinex.com/en/announcements/detail/32123383532948
#SingSing#TradingContest#CoinEx
🚀2️⃣Separate $SING Trading Contests are NOW LIVE!
✅$SING Trading Contest on BingX
💰 Prize Pool: 2,800,000 $SING (~$50,400)
🗓 Duration: 12PM UTC, Nov 14 - 12PM UTC, Nov 21
Contest is exclusive to newly registered accounts on BingX from 12PM UTC, Nov 14 onwards.
🔗 Full details: https://bingx.com/en/act/contest2/7777/?randomId=6898941344&ref=0PUIUW
✅$SING Trading Contest on CoinEx
💰 Prize Pool: 500,000 $SING (~$9,000)
🗓 Duration: 10AM UTC, Nov 14 - 10AM UTC, Nov 21
🔗 Full details: https://www.coinex.com/en/announcements/detail/32123383532948
------------------------------
Note: You can participate and receive rewards from 2 contests at the same time
Good luck! 🌟
#SingSing#TradingContest#BingX#Coinex
🚀🚀Have you checked our Trading Contest Leaderboard today?
📊 Keep climbing the ranks for a chance to win $35 each! 💰
#SingSing#TradingContest#Leaderboard#WinBig
🚀 Don't miss out on our exciting ongoing programs at SingSing! 🌟
1️⃣NFT Trading Contest with reward of $35 per winner🏆
2️⃣ Invite Frens to get 20% cashback when your friends claim RUBY and 5% every time their referrals claim it👥
3️⃣ Play to Air with Cowtopia🐄
4️⃣ Boost RUBY by buying Boost Item💎
Join now and get the most out of your SingSing experience!
#SingSing#TradingContest#InviteFrens#PlayToAir#BoostRUBY