Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
После резни алавитов и друзов начался погром против сирийских христиан. Исламисты из соседних деревень начали нападать на христианские предприятия и дома в Аль-Сукейлабии (Сирия). То, что произошло сегодня, не будет последним разом. К сожалению, это будет повторяться снова и снова, потому что те, кто хочет уничтожить меньшинства, чувствуют себя воодушевлёнными, терпимыми и даже поощряемыми.
Молитесь за сирийских христиан, но не останавливайтесь на этом. Говорите об этом. Делитесь этим. Молчание мира — часть трагедии!!! 🙏🏼#syria
At least 1,383 civilians, mostly Alawites and Christians, were killed in a wave of violence that swept across Syria's Mediterranean coast — the Syrian Observatory for Human Rights
#Syria
Nieuwe gouverneur van Damascus verdedigt Israëlische aanvallen op Syrië
"Het is begrijpelijk dat Israël zich zorgen maakt als er een nieuwe regering aan de macht komt in Syrië."
"Misschien was Israël bang en daarom gingen ze door met een beetje bombarderen."
"We zijn niet bang voor Israël en we hebben geen probleem met Israël. We willen ons niet bemoeien met iets dat de veiligheid van Israël bedreigt."
#Syria
🇸🇾#Syria: Clashes broke out overnight between the Syrian Army (HTS) and alleged Uzbek jihadist militants in the Idlib countryside, around the villages of Al Foua, Kafraya, and Binnish.
Reportedly, the clashes occurred after several days of protests following the arrest of several Uzbek fighters.
(via @KurdishFrontNews)
🇸🇾#Syria: Protests erupted overnight in the city of Qamishli in al-Hasakah Governorate after a man, allegedly from the Rashid tribe, reportedly shot at the Kurdish flag and toward a security checkpoint at the entrance to the city.
(via @Intel_Rojava)