Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#REI/USDT analysis :
The price of #REI has tested and bounced back from a support zone that has been tested multiple times. It's anticipated to move upward to higher levels. For a long entry, wait for a retracement.
TF : 1H
Entry : $0.02464
Target : $0.02683
SL : $0.02360
#REI/USDT analysis :
#REI has broken out and retested the previously respected support zone. The price is expected to decline from this level and resume its bearish momentum, potentially testing lower levels.
TF : 1H
Entry : $0.04800
Target : $0.04620
SL : $0.04943
#REI/USDT analysis :
#REI has bounced back from the support zone after a correction phase till the 200 EMA. Price is now expected to keep up its bullish vibe and test the previous swing high.
TF : 1H
Entry : $0.0591
Target : $0.0657
SL : $0.0543
#REI/USDT analysis :
#REI just went below the support levels, which is now acting as resistance for the price. It's expected that the price is going test the previous swing low support level.
TF : 1h
Entry : $0.0563
Target : $0.0519
SL : $0.0594
#REI/USDT analysis -
#REI is in a downtrend. Currently, the price is consolidating above support levels after a pullback. The price is attempting to break through these support levels, and it is expected to do so soon. Wait for the 1-hour candle to close below the level, and then enter on the retest of the price in the marked zone. The previous swing low will be the target.
TF : 1h
Entry : $0.04995
Target : $0.04767
SL : $0.05143