Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#RARE/USDT analysis :
#RARE is currently in an uptrend, trading above its 200 Exponential Moving Average (EMA). The price is currently testing the support zone and the 200 EMA. It is expected that the price will bounce back from these levels and will test the swing high. For a long entry opportunity, consider waiting for the price to break above the $0.0930 level.
TF : 2h
Entry : $0.0930
Target : $0.1250
SL : $0.0792
#RARE/USDT analysis :
#RARE is currently undergoing a corrective pullback, anticipated to test the 200 EMA before resuming its bearish momentum. This situation creates a potential long trade opportunity on lower time frame (LTF).
TF : 1h
Entry : $0.0692
Target : $0.0802
SL : $0.0634
#RARE/USDT analysis :
#RARE has broken above the trendline after consolidating in a support zone, indicating a bullish shift. The price is expected to bounce off this zone and rise, testing previous swing highs.
TF : 1D
Entry : $0.1330
Target : $0.2960
SL : $0.0923