Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Breaking News: Russian Aerospace Forces (VKF) strike illegal armed groups in Syria's Idlib province. Underground hideouts and drone control points of the militants targeted. More updates to follow. Stay tuned. #Syria#Russia#Idlib
https://www.gazeta.ru/army/news/2023/11/05/21644227.shtml
Subscribe to @BadVolfNews
Circulated videos showed the new #Syrian Minister of Justice performing a public execution of a woman in #Idlib in 2015, raising calls for replacing him.
Four main groups are competing for control on the ground in the Syrian Arab Republic. They are:
1. Syrian Arab Army forces: The army, the government’s main military force, fights alongside the Syrian National Defence Forces, a pro-Syrian government paramilitary groups.
2. Syrian Democratic Forces: This Kurdish-dominated, United States-backed group controls parts of eastern Syria.
3. HTS and other allied rebel groups: The *Ha'at Tahrir Al-Sham* is the latest iteration of the al-Nusra Front backed by Qatar, which had pledged allegiance to al-Qaeda until it allegedly severed those ties in 2016.
4. Turkish and Turkish-aligned Syrian insurgents forces: The so-called Syrian National Army, otherwise known as the Free Syrian Army, is a Turkish-backed insurgent force in northern Syria.
#Syria#Aleppo#Idlib#HTS#SDF#SAA
«Россия несет ответственность за гибель людей от химического оружия в Сирии» – так утверждает госсекретарь США Рекс Тилерсон. Якобы Башар Асад не выполнил соглашение 2013 года об уничтожении своего химического оружия, травит своих граждан, а мы его защищаем.
К слову о выполнении соглашений. Россия свои химарсеналы полностью ликвидировала полгода назад. США – до сих пор нет – говорят, им денег на это не хватает…
Что касается Сирии, то не было предъявлено никаких доказательств, что за химатаками стоит правительство Асада, но эти нападения все время пытаются использовать как повод для бомбардировок страны.
Тут президент Трамп назвал наши действия в Сирии гуманитарным позором, – мне порой кажется, что политики США никогда не слышали о таких словах, как «стыд» и «совесть».
#idlib#Восточнаягута#UN#MiddleEast#ISIS#terrorism#геополитика#easternghouta#Damascus
Российские войска в Сирии переключили основное внимание с северной провинции Идлиб на борьбу с террористами в пригороде Дамаска под названием Восточная Гута. Боевики уже 6 лет держат под контролем территорию возле сирийской столицы, которую можно было бы сравнить с подмосковным городом Королев или Мытищи.
Едва наши летчики вместе с сирийскими наземными войсками всерьез взялись за ликвидацию этого оплота террористов, как политики США и даже генсек ООН в один голос начали требовать прекращения операции. Снова обвинения в военных преступлениях, снова заявления о гуманитарной катастрофе, снова надо прекратить страдания «умеренных» террористов.
Желаю максимальных успехов российским и сирийским защитникам отечества. А западные политики пускай говорят, что угодно.
#idlib#Восточнаягута#UN#MiddleEast#ISIS#terrorism#геополитика#easternghouta#Damascus