Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
⚡️The Daily TON: Impact of Epic Games vs. Apple on Telegram
#EpicGames#Apple#Telegram
The Daily TON highlights Pavel Durov's support for Epic Games' legal victory against Apple, which potentially opens avenues for alternative payment methods like TON in Telegram Mini Apps. However, the ruling currently only affects the U.S., and Apple plans to appeal. The implications for global users and the competition with Telegram Stars remain uncertain.
Source: link
@tonlines
【Promoted】
💥Best FREE PC Games to Download This Week💥
Looking for fresh gaming thrills without breaking the bank? 💻 Discover our selection of the week’s top FREE PC games and start playing instantly! 🆓
🔻Editor's Choice Free Games🔻
1. Marvel’s Spider-Man Remastered
📥Download Free Now📥
2. Marvel’s Spider-Man: Miles Morales
📥Download Free Now📥
3. GTA III - The Definitive Edition
📥Download Free Now📥
4. Forza Horizon 5
📥Download Free Now📥
5. Palworld
📥Download Free Now📥
6. TEKKEN 8
📥Download Free Now📥
7. GTA San Andreas - The Definitive Edition
📥Download Free Now📥
8. GTA Vice City - The Definitive Edition
📥Download Free Now📥
9. Cyberpunk 2077: Phantom Liberty
📥Download Free Now📥
10.DRAGON BALL: Sparking! ZERO
📥Download Free Now📥
⚡ Join the community ➺ follow PC Games Free Download & PC Games Free Download Chat Group for tips and game chats! 💬
#FreeGames#PCGaming#SteamGames#EPICGames
【Promoted】
🎮Top 10 FREE PC Games This Week! - Must Play!✨
Want to enjoy the hottest games without spending a penny?💰 Join us for the latest free PC games: 🔗PC Games Free Download
📌Don't Miss Out on These Free PC Games📌
1. FINAL FANTASY XV WINDOWS EDITION
📥Download Free Now📥
2. TEKKEN 8
📥Download Free Now📥
3. Baldur's Gate 3
📥Download Free Now📥
4. Cyberpunk 2077: Phantom Liberty
📥Download Free Now📥
5. Marvel’s Spider-Man Remastered
📥Download Free Now📥
6.DRAGON BALL: Sparking! ZERO
📥Download Free Now📥
7. Forza Horizon 5
📥Download Free Now📥
8. Palworld
📥Download Free Now📥
9. Mortal Shell(EPIC Limited-time Free until March 20)
📥Get Free Now📥
10. World of Warships(EPIC Limited-time Free until March 20)
📥Get Free Now📥
💻Download these games now and start playing! 🤝Join fellow gamers:👉PC Games Free Download Chat Group
#FreeGames#PCGaming#SteamGames#EPICGames
【Promoted】
🔥 This Week's Top 10 FREE PC Games - Don't Miss Out! 🔥
Looking for awesome games without breaking the bank? 💸 Our channel has you covered! 🎮
Join us for the latest free PC games: 🔗PC Games Free Download
🔻「 ✦ Check out these amazing free-to-play titles on PC ✦ 」🔻
1. Marvel’s Spider-Man Remastered
📥Download Free Now📥
2. Marvel’s Spider-Man: Miles Morales
📥Download Free Now📥
3. ARMORED CORE™ VI FIRES OF RUBICON™
📥Download Free Now📥
4. Final Fantasy VII Remake
📥Download Free Now📥
5. Palworld
📥Download Free Now📥
6.DRAGON BALL: Sparking! ZERO
📥Download Free Now📥
7. Forza Horizon 5
📥Download Free Now📥
8. FIFA23
📥Download Free Now📥
9. Isle of Jura(Steam Limited-time Free until March 10)
📥Get Free Now📥
10. Them's Fightin' Herds(EPIC Limited-time Free until March 13)
📥Get Free Now📥
🕹️ Get all these games & join fellow gamers:👉PC Games Free Download Chat Group
#FreeGames#PCGaming#SteamGames#EPICGames