Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#Lazio
Nicola Passanisi, tesoriere del PD locale, annuncia le dimissioni dallo staff del governatore di area FdI Francesco Rocca. Le dimissioni sono state richieste dalla segreteria dem Elly Schlein, dopo che era esploso il caso a livello nazionale
@UltimoraPolitics
La Regione #Lazio revoca il patrocinio del 'Roma Pride 2023': "Non possiamo utilizzare la firma istituzionale a sostegno di manifestazioni volte a promuovere comportamenti illegali, con specifico riferimento alla pratica del cosiddetto utero in affitto" …
La Regione #Lazio revoca il patrocinio del 'Roma Pride 2023': "Non possiamo utilizzare la firma istituzionale a sostegno di manifestazioni volte a promuovere comportamenti illegali, con specifico riferimento alla pratica del cosiddetto utero in affitto"
@UltimoraPolitics
#LAZIO/USDT analysis :
#LAZIO is currently in a downtrend, trading below its 200 Exponential Moving Average (EMA). The price is expected to continue its decline and test lower levels. For a short entry opportunity, wait for the price to test the resistance zone, as a decline is expected from there.
TF : 4h
Entry : $1.165
Target : $0.989
SL : $1.243
#LAZIO/USDT analysis :
#LAZIO is currently trading above the support zone, and the overall trend remains bullish, with the price positioned above the 200 EMA. It is anticipated that the price will continue to rise and test previous highs. For a long entry, it is advisable to wait for a pullback.
TF : 1H
Entry : $1.829
Target : $2.064
SL : $1.704
#LAZIO has a trading range for along time on 4H time frame,we are waiting for breakout retest the broken level ⌛️
❄️@signals_bitcoin_crypto❄️
❄️@Shadow_support0o❄️
#Italia#Lazio#Roma
Ti sei perso l'intervista a Andrea Bernaudo (Liberisti Italiani), candidato a Sindaco di Roma? Puoi rivederla su:
Youtube ▶️https://youtu.be/LPMLDi8lefQ
Twitch ▶️https://www.twitch.tv/videos/1074343171
——————
ℹ️ Questa live potrebbe contenere opinioni che non rappresentano il pensiero di Ultimora.net
Il presente contenuto multimediale è curato esclusivamente dal suo autore, che esprime le proprie idee a titolo personale.
#Italia#Lazio#Roma
Ti sei perso l'intervista a Monica Lozzi, candidata a sindaco di Roma? Puoi rivederla su:
Youtube ▶️https://youtu.be/9D_Gt6D8Isc
Twitch ▶️https://www.twitch.tv/videos/1070380604
——————
ℹ️ Questa live potrebbe contenere opinioni che non rappresentano il pensiero di Ultimora.net
Il presente contenuto multimediale è curato esclusivamente dal suo autore, che esprime le proprie idee a titolo personale.