Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🪂Airdrop » MX Token✅️
💲Reward: Worth of 200 #MX (~$1,060) Each for 50 $MX (~$265)
💎Presents Ratings: ⭐️⭐️⭐️⭐️⭐️
👑Winners: all user participants
➡️Airdrop Bot Join For MX
📚 How to Join Airdrop?
↪️ Join MX on Telegram Group & Channel (Required Task)
↪️ Follow Twitter page Retweet the Pinned Post & Tag 3 Friends. (Required Task)
✏️Notes: Make sure to complete all tasks to receive rewards.
ℹ️Distribution Date: MX Token we will be on 18th May 2024
Día Nacional del Águila Real, símbolo patrio de México
El Día Nacional del Águila Real celebra la importancia cultural y ecológica del águila real en México, destacando esfuerzos de conservación.
El Día Nacional del Águila Real se celebra cada 13 de febrero en México, coincidiendo con la fundación de la ciudad de México-Tenochtitlán.
Esta fecha es una oportunidad para reconocer y valorar la importancia del águila real (Aquila chrysaetos) en la cultura y biodiversidad del país.
Esta majestuosa ave, también conocida como águila dorada, ha sido un símbolo de fuerza, valentía y luz desde tiempos prehispánicos, y su imagen está presente en el escudo nacional de México.
https://descubreenmexico.com/celebrando-el-dia-nacional-del-aguila-real-en-mexico/
#ViveNuestrosSimbolos#MX
🇲🇽🇲🇽🇲🇽🇲🇽🇲🇽🇲🇽🇲🇽🇲🇽🇲🇽🇲🇽🇲🇽🇲🇽