Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
I quit my job to build a zombie extraction shooter with destructible environments and AI that react dynamically. We've made solid progress. Should I continue on this idea #PVE.
https://redd.it/1lvftfk
by @r_gifs
⚡️Gatto Official Channel: PvE Mode Prologue Released
#Gatto#PvE
The Gatto Official Channel announces the release of the PvE Prologue mode, featuring story-driven gameplay and new mechanics. This marks a significant development step, inviting players to engage deeply with the world and its untold stories. To start, head to "Battle Mode" and choose PvE.
Source: link
@tonlines
⚔️AMAZING PVE GAMEPLAY IN ORBITAU ⚔️
💠 Testnet for Orbitau will be available shortly. In order to help you prepare, here is a very attractive gameplay clip from Chapter 1 of Map Foras.
🚦 Reveal more about Orbitau's gameplay: https://blog.orbitau.io/post/amazing-pve-gameplay
💡 Be sure to stay tuned for updated information about the upcoming testnet.
⚡️ BUT FIRST, FILL YOUR WALLET WITH SUFFICIENT $TAUM TO BUY IMMORTAL EGGS THAT WILL BE ON SALE THIS MARCH 14!
#Orbitau#PvE#gameplay#ORI#TAUM
➖➖➖➖➖➖➖➖➖➖
📌📌Our channels:
🌐Orbitau Website | 🐦Twitter|
🌎Orbitau Announcements | 🌎Orbitau Global |
👉Facebook |👉Discord | 👉Reddit | 👉Medium
➖➖➖➖➖➖➖➖➖➖
📌Orbitau local communities:
Vietnam🇻🇳 | Brazil🇧🇷 |
Bangladesh🇧🇩 | Thailand🇹🇭 |
Indonesia🇮🇩 | Philippines🇵🇭 |
Arab🇸🇦 | Korea🇰🇷 | Japan🇯🇵 |
India🇮🇳 | Turkey🇹🇷 | China🇨🇳