Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇮🇱 Les forces de l'ordre ont arrêté 21 personnes qui tentaient de procéder à un sacrifice rituel sur l'esplanade des Mosquées à Jérusalem. Le groupe envisageait d'immoler un bouc, rapporte dimanche le journal Times of Israel.
L'esplanade des Mosquées est l'un des lieux les plus saints à la fois pour les juifs et pour les musulmans, ce qui en fait une source de tensions récurrentes entre les deux communautés. Pour éviter tout affrontement, les autorités israéliennes interdisent tout acte religieux sur le site.
Photo: The Times of Israel/X
#israël#sacrifice#arrestation
🇷🇺🇺🇦Un individu qui recueillait pour le compte du SBU ukrainien des données sur la géolocalisation des unités russes en vue de frappes de missiles et de bombes a été arrêté dans la région de Zaporojié, a fait savoir le centre opérationnel du FSB.
#fsb#région_zaporojié#arrestation
🇷🇺 Le Service fédéral de sécurité (FSB) a déjoué un attentat visant un haut responsable militaire russe en Crimée. L'acte terroriste a été préparé par un habitant sur instruction des services spéciaux ukrainiens, l’auteur de l’attentat a été arrêté, a rapporté le centre des relations publiques du FSB.
Le Service fédéral de sécurité en République de Crimée a déjoué un attentat terroriste planifié par les services de renseignement ukrainiens contre un haut responsable militaire du ministère russe de la Défense,
a déclaré le FSB.
#russie#crimée#attentat#arrestation
🇷🇺Le Service fédéral de sécurité russe (FSB) a fait état de l’arrestation de l'auteur de la tentative d’assassinat contre le général du ministère russe de la Défense, Vladimir Alekseïev.
Les complices de ce crime ont été identifiés, il s’agit des citoyens russes, Viktor Vassine, interpellé à Moscou, et Zinaida Serebritskaïa, partie en Ukraine,
a rapporté le centre des relations publiques du FSB.
Selon le FSB, le citoyen russe Lioubomir Korba, auteur de ce crime, a été interpellé à Dubaï et remis à la partie russe.
#russie#fsb#tentative#assassinat#arrestation