Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Russia's Navalny says prison has changed his status to 'terrorist'
Jailed Kremlin critic Alexei Navalny said on Monday that a prison commission had designated him an extremist and a terrorist, but officially no longer regarded him as an escape risk.
#AlexeiNavalny#Kremlin#Russia#News#Reuters
Subscribe: http://smarturl.it/reuterssubscribe
Reuters brings you the latest business, finance and breaking news video from around the globe. Our reputation for accuracy and impartiality is unparalleled.
Get the latest news on: http://reuters.com/
Follow Reuters on Facebook: https://www.facebook.com/Reuters
Follow Reuters on Twitter: https://twitter.com/Reuters
Follow Reuters on Instagram: https://www.instagram.com/reuters/?hl=en
➖@reutersworldchannel➖
Mi spiace, sinceramente, dover insistere sulla vicenda di quest'uomo. Anche perché credo sia giusto nutrire pietà dinanzi alla morte di una persona, soprattutto se avvenuta durante una carcerazione così dura.
Nessuno nega le responsabilità, in un modo o nell'altro, di Putin rispetto alla fine drammatica di Navalny. Tuttavia credo sia davvero poco serio celebrarlo come eroe della libertà e della democrazia, addirittura scendendo in piazza per commemorarlo.
Questo, peraltro, mentre si fanno le pulci a veri e autentici democratici come Julian Assange, detenuti per procura dagli Stati Uniti.
Mi spiace aver fatto scaldare qualcuno, ma la vedo così.
La mia al TG Plus di Cusano Italia TV
#alexeinavalny#Navalny#JulianAssange#Assange
https://www.youtube.com/watch?v=WzArdXsyO-8&ab_channel=SavinoBalzano
На 40-й день после убийства Алексея Навального мы соберемся в Саду Анны Политковской на проспекте Комо в Милане, чтобы почтить память русского оппозиционера, который заплатил своей жизнью за решение вернуться на Родину для борьбы за другую Россию.
Присоединяйтесь, чтобы поддержать память о нем и его надеждах на Прекрасную Россию Будущего. Приносите цветы.
Встречаемся во вторник, 26 марта, в 18:30. в Милане, в саду Политковской, Corso Комо – напротив станции Гарибальди. P.S. Эта инициатива одобрена квестурой.
В Инстаграм:
https://www.instagram.com/p/C4xtUKZMmmE/?igsh=eDdqY3MwYjUzcmx3
Ассоциация Аннавива #40днейбезнавального#annaviva#alexeinavalny#alexeynavalny#40днейбезнавального#навальный
На 40-й день после убийства Алексея Навального мы соберемся в саду Vittorio Emanuele у временного мемориала.
Мы отслужим панихиду и почтим память Алексея, а также всех невинно убиенных.
Присоединяйтесь, чтобы поддержать память о нем и его надеждах на Прекрасную Россию Будущего.
Приносите цветы, плакаты.
❗L'offerta libera за служение панихиды.
❗Встречаемся во вторник, 26 марта, в 17:20. в Риме, в центре парка vittorio Emanuele, у мемориала Алексею Навальному – напротив станции Vittorio Emanuele.
P.S. Эта инициатива одобрена квестурой.
Завтра мы помянем всех невинно убиенных во время теракта в концертном зале "Крокус".
Мы помянем всех безвинно пострадавших во время этой жестокой войны.
Мы также пообщаемся и будет "открытый микрофон".
Увидимся завтра в Риме.
Link: https://www.instagram.com/p/C4xwTXvsQCL/?igsh=MWxzamhtMGNpeHNocg==
#40днейбезнавального#alexeinavalny#alexeynavalny#40днейбезнавального#навальный#алексейнавальный