Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇷🇺 Plusieurs personnes ont été blessées dans l'effondrement partiel d'un immeuble résidentiel à Syzran, dans la région de Samara, elles reçoivent les soins médicaux nécessaires, a indiqué le parquet de la région.
Selon les informations préliminaires, un drone a attaqué un immeuble résidentiel dans la ville de Syzran. Il y a des blessés, ils reçoivent les soins médicaux nécessaires
est-il indiqué.
Le service de presse du ministère russe des Situations d'urgence a fait savoir qu’au moins onze personnes, dont deux enfants, avaient été blessées après l'effondrement partiel de l'entrée d'un immeuble à Syzran.
#russie#ukraine#attaque
🇷🇺🇺🇦 Les équipages du groupe Ouest des forces russes ont repoussé une attaque de l’armée ukrainienne contre des infrastructures critiques
#russie#ukraine#attaque
Les opérateurs de drones d’attaque ont déjoué une attaque nocturne de l’Ukraine dans la région de Zaporojié, a indiqué le ministère russe de la Défense.
#russie#ukraine#attaque
🇷🇺🇺🇦 Les conséquences d'une attaque de l'armée ukrainienne contre un immeuble d'habitation à Vassilievka, dans la région de Zaporojié.
#russie#ukraine#attaque
🇷🇺🇺🇦 Une femme est morte et plus de 10 personnes ont été blessées par une frappe ukrainienne contre un immeuble d'habitation à Vassilievka, dans la région de Zaporojié, a déclaré à TASS Natalia Romanitchenko, gouverneure de la région municipale de Vassilievka.
Plus de 10 personnes ont été blessées et le corps d'une femme a été retrouvé sous les décombres [d'un immeuble résidentiel] dans la nuit de samedi à dimanche. Les services opérationnels travaillent sur place,
a-t-elle indiqué.
#russie#ukraine#attaque
🇷🇺🇺🇦Trois civils, dont un fonctionnaire de l’administration locale, sont décédés à la suite d’une frappe d’artillerie effectuée par l’armée ukrainienne contre le bâtiment d’un centre multifonctionnel de prestation de services publics et municipaux, ainsi qu’un magasin à Novaïa Kakhovka dans la région de Kherson. C’est ce qu’a signalé le gouverneur de la région, Vladimir Saldo.
Ce matin, Novaïa Kakhovka a été ciblée par l’armée ukrainienne, la ville a subi une attaque d’artillerie. Un centre multifonctionnel de prestation de services publics et municipaux, ainsi qu’un magasin ont été notamment touchés. En conséquence, trois personnes sont mortes, dont un fonctionnaire de l’administration. Il y a également des blessés, ils reçoivent les soins médicaux nécessaires,
a-t-il écrit sur sa chaîne Telegram.
#russie#ukraine#attaque
Un entraîneur et deux jeunes athlètes ont reçu des blessures à la suite d’une attaque ukrainienne. Des drones ennemis ont frappé un autobus appartenant à une école sportive dans la région de Zaporojié.
C'est ce qu'on apprend de la chaîne Telegram du gouverneur Evgueni Balitski.
#attaque#russie#ukraine#victimes
🇷🇺 Des agents du Service fédéral de sécurité (FSB) russe ont déjoué, dans la République des Komis (district fédéral du Nord-Ouest de la Russie), une attaque de drones visant une entreprise pétrolière. Deux assaillants, ayant opposé une résistance armée lors de leur arrestation, ont été éliminés, a rapporté le Centre des relations publiques du FSB russe.
#russie#fsb#attaque
🇱🇧 Plus de 80 civils ont été tués et 200 ont ete blessés à la suite d’une attaque israélienne de missiles contre Beyrouth, a indiqué la Croix-Rouge.
#attaque#victimes#liban
🇮🇷🇮🇱🇺🇸 Au moins six personnes, dont trois enfants, ont été tués lors des frappes israélo-américaines visant la ville de Pardis, près de Téhéran, a rapporté l'agence Mehr.
#iran#étatsunis#israël#attaque