Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
We're happy to announce the winners of the second draw in our weekly campaign, which took place from May 13th to May 20th!✨
🟢 X ( Twitter ) Winner - https://x.com/GPT360_Official/status/1793673953619189953
🟢 Discord Winners - https://discord.com/channels/998890992759492638/1060485502362464256/1243550348627677294
🟢 Telegram Winners - @Likuu69@K1Token
❓ 𝗥𝗨𝗟𝗘𝗦: https://t.me/GPT360_Official/195921
⚡️ 𝐓𝐡𝐞 𝐝𝐫𝐚𝐰 𝐰𝐢𝐥𝐥 𝐜𝐨𝐧𝐭𝐢𝐧𝐮𝐞 𝐮𝐧𝐭𝐢𝐥 𝐭𝐡𝐞 𝐫𝐞𝐰𝐚𝐫𝐝 𝐩𝐨𝐨𝐥 𝐫𝐞𝐚𝐜𝐡𝐞𝐬 $𝟓𝟎𝟎𝟎 ⚡️
#GPT360#Web3#crypto#USDTgiveaway
🔥 USDT Giveaway Event
🎁 Total Reward Pool $100 $USDT
✅ Giveaway link
https://t.me/OKZOOUSDTGiveawayEventBot
#Airdrops#Giveaway#crypto#airdropcrypto#airdrop#bitcoin#usdtgiveaway
USDT Distribution by Genius Airdrops Team
🎊Airdrop Event To Celebrate @CertiK X @NvirWorld Partnership Agreement🎊
🎁 Reward $1000 $USDT
To Enter
✅Follow @NvirWorld
✅RT & Quote @NvirWorld Tweet and tag 3 friends
Join here 👇
https://app.questn.com/quest/808914685319537086
#Airdrop#Crypto#AirdropCrypto#airdrops#giveawayalert#usdtgiveaway
🔥 $POCAT Giveaway Event
🎁 Total Reward Pool $200 in $POCAT
Listed in Raydium and Jupiter
✅ Giveaway link
http://t.me/PoliteCatGiveawayEventbot
#Airdrops#Giveaway#crypto#airdropcrypto#airdrop#bitcoin#usdtgiveaway#usdt
🔥 USDT Giveaway Event
🎁 Total Reward Pool 150$ $USDT
✅ Giveaway link
http://t.me/FluenceUSDTGiveawayEventBot
#Airdrops#Giveaway#crypto#airdropcrypto#airdrop#bitcoin#usdtgiveaway#usdt
🔥 USDT Giveaway Event
🎁 Total Reward Pool 500$ $USDT
✅ Giveaway link
https://t.me/SomniaUSDTGiveawayBot
#Airdrops#Giveaway#crypto#airdropcrypto#airdrop#bitcoin#usdtgiveaway#usdt
👑HOMERUN #Giveaway IS LIVE - 500 USDT to grab👑
Homerun team would like to showcase our appreciation for all of you guys who have been providing great support which enables us to observe extraordinary development during the last couple of months 🚀
We would like to announce the Official #Giveaway event for all of you in our community
👉Prize Pool: $500 $USDT for participants
👉Finish all the tasks in Zealy and grab the USDT
👉Event time (21/08 - 29/08)
👉Join Zealy now: https://zealy.io/c/homerun/questboard/2312ddde-0986-4991-857b-875b4af2698d
#NFTGiveaway#Giveaway#AirdropCrypto#Airdrop#FreeMoney#Web3#USDT#USDTGiveaway#Zealy#QuestN