Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
💧Airdrop : Proud Kitty Gang💧
📣Complete Task: ➕ 500,000 #MINT
🏆Winners: 1000 Lucky Winners.
📅End date: 20th Jun, 2022
💎Ratings: ⭐️⭐️⭐️
🔛Proud Kitty Gang Airdrop Gleam Click Here 🔛
🌀 Follow on Twitter and retweet the pinned post.
📡Enter your information to the Airdrop Gleam.
🗞Note: All airdrop steps should be completed.
🛳Business Inquiry: Admin || Admin2
🗣#MINT
Claim your drop from MINT
Deadline: February 15
What to do:
✔️Visit the website
✔️Claim your boxes.
🟠1% of the total token supply is allocated to these boxes.
🟠TGE is promised in Q1 of this year.
🟠Boxes are awarded for owning NFT Mint Genesis (also for interacting with collections on OpenSea and Blur).
Crypto Drop Club 👉 SUBSCRIBE
🆕 Mint Blockchain is now live on TokenPocket.
🟢Mint blockchain is the Native Ethereum L2 for the NFT Industry. Bringing NFT into Mass Adoption alongside Superchain🟢🔴. Powered by Optimism and nftscan_com.
🚀How to create/import a #Mint wallet on #TokenPocket Mobile Wallet and Chrome Extension Wallet?
Guide👉https://help.tokenpocket.pro/en/wallet-operation/how-to-create-a-wallet/mint
💙Download #TokenPocket, create your Mint Wallet, and stay tuned to the upcoming campaign! 🔥
👉https://tokenpocket.pro
👉https://extension.tokenpocket.pro