Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Paraguay Division Profesional - Apertura🇵🇾
2026-05-10 20:45 UTC
Club Sp. San Lorenzo vs. Olimpia
Predicted outcome: Olimpia❌
Predicted score: 1:3
Actual: Club Sp. San Lorenzo 1:0
#ClubSpSanLorenzo#Olimpia
2026-05-10 23:00 UTC
Sportivo Luqueno vs. Libertad Asuncion
Predicted outcome: Libertad Asuncion✅
Predicted score: 1:2
Actual: Libertad Asuncion 2:3
#SportivoLuqueno#LibertadAsuncion
#Football#ParaguayDivisionProfesional
CONMEBOL Sudamericana🌎
2026-04-15 22:00 UTC
Racing Club vs. Botafogo
Predicted outcome: Racing Club❌
Predicted score: 4:0
Actual: Botafogo 2:3
#RacingClub#Botafogo
2026-04-15 22:00 UTC
Caracas FC vs. Independiente Petrolero
Predicted outcome: Draw❌
Predicted score: 1:1
Actual: Caracas FC 1:0
#CaracasFC#IndependientePetrolero
2026-04-16 00:00 UTC
Olimpia vs. Barracas Central
Predicted outcome: Olimpia❌
Predicted score: 1:0
Actual: Draw 0:0
#Olimpia#BarracasCentral
2026-04-16 00:30 UTC
River Plate vs. Carabobo FC
Predicted outcome: Draw❌
Predicted score: 1:1
Actual: River Plate 1:0
#RiverPlate#CaraboboFC
2026-04-16 02:00 UTC
Millonarios vs. Boston River
Predicted outcome: Draw❌
Predicted score: 1:1
Actual: Millonarios 1:0
#Millonarios#BostonRiver
2026-04-16 02:00 UTC
America de Cali vs. Alianza Atletico
Predicted outcome: Draw❌
Predicted score: 1:1
Actual: America de Cali 2:1
#AmericadeCali#AlianzaAtletico
#Football#CopaSudamericana