Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Polizei-Chef: Schütze des Gala-Dinners war ein Hotelgast
#Trump
#Attentat
TEILEN
Folgt mir auf Telegram
↕️↕️↕️
https://t.me/Kampf_fuer_unsere_Zukunft
Chat-Kanal
⬇️⬇️⬇️
https://t.me/IavYc2SRFdY1OGY6
Rechtfertigt ZDF USA-Korrespondent Elmar Theveßen hier das versuchte #Attentat auf #Trump?
Motto: Selbst schuld!
https://x.com/DrLuetke/status/2048453819491578210
🇷🇺 Le Service fédéral de sécurité (FSB) russe a déjoué un attentat préparé par les services secrets ukrainiens contre des dirigeants du Service fédéral de supervision des communications, des technologies de l’information et des médias de masse (Roskomnadzor), a rapporté son centre des relations publiques. Sept suspects ont été arrêtés à Moscou, Oufa, Novossibirsk et Iaroslavl.
Le chef présumé du groupe, un Moscovite de 22 ans, a été éliminé alors qu’il opposait une résistance armée.
#russie#fsb#attentat
🇷🇺Le Service fédéral de sécurité (FSB) a diffusé des images du déminage d’un scooter électrique près d’un centre d’affaires à Moscou.
Sur place, un engin explosif improvisé a été saisi et neutralisé. Il était contrôlé à distance via un relais Wi-Fi intégré à un système de maison connectée et un modem 4G.
#russie#fsb#attentat
🇷🇺 Le Service fédéral de sécurité (FSB) russe a déjoué à Iekaterinbourg un projet d’attentat visant l’un des dirigeants d’une entreprise du complexe militaro-industriel de la région de Sverdlovsk. Lors de l’arrestation du suspect, un coordinateur ukrainien a déclenché à distance un engin explosif improvisé, tuant l’exécutant, a rapporté le centre des relations publiques du FSB.
#russie#attentat#industrie
🇷🇸 Images de l’interpellation de deux individus soupçonnés d’avoir préparé un attentat contre le président serbe Aleksandar Vucic.
#serbie#attentat#président
🇷🇺 Le Service fédéral de sécurité (FSB) a déjoué un attentat visant un haut responsable militaire russe en Crimée. L'acte terroriste a été préparé par un habitant sur instruction des services spéciaux ukrainiens, l’auteur de l’attentat a été arrêté, a rapporté le centre des relations publiques du FSB.
Le Service fédéral de sécurité en République de Crimée a déjoué un attentat terroriste planifié par les services de renseignement ukrainiens contre un haut responsable militaire du ministère russe de la Défense,
a déclaré le FSB.
#russie#crimée#attentat#arrestation