Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🚘2025 Range Rover Sport SV Edition Two brings new colors
The 2025 Land Rover Range Rover Sport SV gets a new Edition Two as a successor to last year's Edition One.
The Edition Two includes four unique themes that pair paint colors with specific interior trims: Blue Nebula Matte, Ligurian Black Gloss, Marl Grey Gloss, or Sunrise Copper Satin.
Each theme uses a considerable amount of carbon fiber, including the hood and wheels made from the material.
Mechanically, the Edition Two matches the Edition One with a monstrous 626-hp twin-turbocharged4.4-literV-8 engine pushing 553 pound-feet of torque (752 Nm) and mated to an eight-speed automatic transmission. According to Land Rover, it can launch to 60 mph (100 kmh) in 3.6 seconds.
@CarsNews
#LandRover#RangeTover
🚘2025 Range Rover Sport SV Edition Two получил новые цвета
Land Rover Range Rover Sport SV 2025 года выпуска получит новую версию Edition Two, которая станет преемником прошлогодней Edition One.
Edition Two включает в себя четыре уникальные темы, в которых цвета краски сочетаются с определенными вариантами отделки салона: Blue Nebula Matte, Ligurian Black Gloss, Marl Grey Gloss или Sunrise Copper Satin (Голубой матовый, Чёрный глянец, Серый глянец или Медный сатин).
В каждой теме используется значительное количество углеродного волокна, включая капот и колеса из этого материала.
Механически Edition Two соответствует Edition One с чудовищным 626-сильным 4,4-литровым двигателем V-8 с двойным турбонаддувом, развивающим 752 Нм крутящего момента и сопряженным с восьмиступенчатой автоматической коробкой передач. По словам Land Rover, автомобиль способен разогнаться до 100 км/ч за 3,6 секунды.
@avtoNovosti
#LandRover#RangeTover