Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Atoms Research | ꘜ
🪂Lens Token Distributor
Lens Token Distributor is a powerful machine learning based tool, designed for gasless token distribution
The Token Distributor is in testing, rewarding users with $GHO based on their contribution, consistency, influence, and quality
Qualifying users will receive $GHO allocations directly to their Lens Accounts. No action is required
More details here
#lens
💬Discuss in the chat
этот объектив просто абсурдно массивный. Я считаю, что это самый длинный объектив из когда-либо созданных для байонета EF, а его длина 80 см (31,5 дюйма) и вес 16,5 кг (36,4 фунта) действительно огромны. Когда он был выпущен в 1993 году, он стоил около 90 000 долларов. #canon#ef#newsfidllercom#новости#lens#объектив
France Ligue 1🇫🇷
2026-05-13 17:00 UTC
Stade Brestois 29 vs. Strasbourg
Predicted outcome: Strasbourg✅
Predicted score: 2:3
Actual: Strasbourg 1:2
#StadeBrestois29#Strasbourg
2026-05-13 19:00 UTC
Lens vs. Paris Saint Germain
Predicted outcome: Paris Saint Germain✅
Predicted score: 1:2
Actual: Paris Saint Germain 0:2
#Lens#PSG
#Football#FranceLigue1