Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇲🇬🇷🇺 Deux avions Il-76 du ministère russe des Situations d'urgence ont acheminé une aide humanitaire à Madagascar, touché par le cyclone Gezani. C’est ce qu’a rapporté à TASS le service de presse du ministère.
#aide#cyclone#russie
🌍 In 2023, Cyclone Freddy became the longest-lasting tropical cyclone ever recorded, traveling over 12,000 kilometers and affecting countries from Madagascar to Mozambique with powerful winds and rain. ✨
#cyclone⚡#disaster⚡#weather⚡#geography⚡#nature⚡#earth
👉subscribe Amazing Geography🌍
🌍 The highest recorded wind gust at ground level reached 408 km/h during Australia's 1996 Tropical Cyclone Olivia. This extreme burst shattered previous records for wind speed on Earth. ✨
#meteorology⚡#cyclone⚡#wind⚡#geography⚡#nature⚡#earth
👉subscribe Amazing Geography
👉more Channels
🇲🇬 Le gouvernement malgache a décrété "l’état de sinistre national" après le passage du cyclone Gezani, a rapporté le journal Madagascar Tribune.
D’après les dernières données du Bureau national de gestion des risques et des catastrophes (BNGRC), le cyclone a fait 36 morts, 374 blessés et 6 disparus. Au total, plus de 257.000 personnes ont été affectées par ses conséquences, et près de 9.000 Malgaches ont été contraints de quitter leur domicile. La ville de Toamasina, la deuxième du pays après la capitale et principal port, est la plus touchée: elle a été détruite à 80%.
#madagascar#cyclone#conséquences
🌍 In 2023, Cyclone Mocha became one of the strongest storms ever recorded in the North Indian Ocean, with winds over 250 km/h, causing severe flooding and reshaping coastal landscapes. ✨
#disaster⚡#cyclone⚡#flooding⚡#geography⚡#nature⚡#earth
👉subscribe Amazing Geography
👉more Channels
🇲🇬Au moins 20 personnes ont été tuées et 33 blessées par le cyclone tropical Gezani dans la ville de Toamasina, dans l'est de Madagascar. C'est ce qu'indique dans un communiqué le Bureau national de gestion des risques de catastrophes, obtenu par TASS.
Le décompte des victimes et l'évaluation des dégâts sont en cours. Les districts d'Atsinanana, d'Analamanga, d'Analanjirofo et d'Alaotra-Mangoro ont été les plus durement touchés.
La population de Madagascar avait été prévenue à l’avance de l’approche de Gezani, dont la vitesse du vent à l’épicentre atteint 250 km/h. Les cours dans les écoles ont été suspendus. La compagnie aérienne nationale Madagascar Airlines a annulé tous ses vols du 11 février.
#madagascar#cyclone#gezani
🇲🇬 Le cyclone tropical Gezani a frappé la côte orientale de Madagascar, selon un communiqué du Bureau national de la gestion des risques et catastrophes (BNGRC) du pays.
#madagascar#cyclone#gezani
🌍 In 2023, Cyclone Biparjoy spun over the Arabian Sea for nearly two weeks—a rare “very severe cyclonic storm” to last so long in this region, with winds impacting coasts over 1,000 kilometers apart. ✨
#cyclone⚡#disaster⚡#winds⚡#geography⚡#nature⚡#earth
👉subscribe Amazing Geography
👉more Channels