Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#XLM/USDT analysis :
#XLM is in an uptrend, trading above the 200-day EMA on the daily timeframe. The price has tested the support zone and 200-day EMA, and it is expected to rebound from the current level and move upside to test higher levels. For a long entry, wait for the price to break above the $0.2760 level.
TF : 1D
Entry : $0.2764
Target : $0.6374
SL : $0.2094
#XLM/USDT analysis :
#XLM is in an uptrend, forming higher highs (HHs) and higher lows (HLs) above the 200 EMA. The price has retested the 200 EMA and is anticipated to rebound, resuming its bullish momentum to test swing high levels. For a long entry, it is recommended to wait for a breakout above the $0.3751 level.
TF : 1D
Entry : $0.3751
Target : $0.6374
SL : $0.2764
#XLM/USDT analysis -
#XLM recently broke above the 200 EMA with strong momentum. The next move might be a retest of this level and a test of the support zone. Look for a pullback near the 200 EMA for a potential long entry. The previous resistance zone could serve as the target level.
TF : 4h
Entry : $0.0937
Target : $0.1198
SL : $0.0863