Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🍀127-я Кантонская ярмарка.: Стенд номер 10.3K21. Расписание прямых трансляций на 15-е июня, Пекинское время:
1. 10:00 - 11: 00 (7:00 - 8:00 по Ташкентскому времени) Средства автоматизации и контроля: контакторы CJХ2 и CJX2i, магнитный пускатель YCQC7, контактор для цепей компенсации реактивной мощности CJ19i и аксессуары для контакторов;
2. 14:00 - 15: 00 (11:00 - 12:00 по Ташкентскому времени) Модульный автоматический выключатель серии YCB6H и аксессуары;
3. 16:00 - 17: 00 (13:00 - 14:00 по Ташкентскому времени) Модульный автоматический выключатель серии YCB9 и аксессуары;
4. 19:00 - 20: 00 (16:00 - 17:00 по Ташкентскому времени) Распределительные устройства: Автоматические выключатели в литом корпусе YCM1 и YCM7, Воздушный автоматический выключатель и др.
Добро пожаловать в CNC Electric!
‼️Перейдите по ссылке в QR-код!‼️
#cnc#cncelectric#cncuzbekistan#cnctashkent#digitop#digitopuzbekistan#автоматика#электрика#электрик#электрощит#электротехническаяпродукция#electric#сборкащитов
Переключатель фаз PS-63A предназначен для питания промышленной и бытовой однофазной нагрузки 220/230В 50Гц от одной из фаз трехфазной сети, с целью обеспечения питания особо ответственного однофазного оборудования от наиболее качественной фазы и защиты его от повышенного или пониженного напряжения.
📱Телефоны:
(99) 844-00-30 Эргаш
(99) 843-00-30 Сардор
📠факс/офис: (71) 228-02-11
🌐website: www.cncele.uz, www.elcom.uz
📧e-mail: [email protected]
Instagram —»» https://www.instagram.com/cnc_uzbekistan/
Facebook —»» https://www.facebook.com/electromaxgroup/
Telegram —»» https://t.me/electromaxgroup
Youtube —»» https://www.youtube.com/channel/UCUmHJIxHuQtre1MG6XQ_12w
#cnc#cncelectric#cncuzbekistan#cnctashkent#digitop#digitopuzbekistan#автоматика#электрика#электрик#электрощит#электротехническаяпродукция#electric#сборкащитов
Реле напряжения Vp-16
предназначено для защиты оборудования и различных устройств от перепадов напряжения. При управлении большей мощностью нагрузки необходимо применять контактор. Монтаж на DIN-рейку.
📱Телефоны:
(99) 844-00-30 Эргаш
(99) 843-00-30 Сардор
📠факс/офис: (71) 228-02-11
🌐website: www.cncele.uz, www.elcom.uz
📧e-mail: [email protected]
Instagram —»» https://www.instagram.com/cnc_uzbekistan/
Facebook —»» https://www.facebook.com/electromaxgroup/
Telegram —»» https://t.me/electromaxgroup
Youtube —»» https://www.youtube.com/channel/UCUmHJIxHuQtre1MG6XQ_12w
#cnc#cncelectric#cncuzbekistan#cnctashkent#digitop#digitopuzbekistan#автоматика#электрика#электрик#электрощит#электротехническаяпродукция#electric#сборкащитов