Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 1 слични објави

Пребарај: #xeon

当前筛选 #xeon清除筛选

Режмонт

@rejmont · Post #41 · 27.02.2023 г., 09:51

Најди слично Погледај

#Москва#ПК#Xeon#RTX3060ti Продаю свой родной системный блок на базе Xeon e5-2680v3 и RTX 3060 ti. Бережно использовался для монтажа и цветокора в течение 2,5 лет (видюха - 1,5 года, куплена в ДНС). Компьютер полностью обслужен (вычищены все радиаторы, вентиляторы, фильтры; заменена термопаста на Noctua NT-H1, установлены новые vrm-вентиляторы на мат.плате). Любые тесты приветствуются. Корпус: Aerocool aero-500 white с удобным реобасом БП: Chieftec Proton 600w Bronze 80 Plus ЦП: Intel Xeon e5-2680v3 (12 ядер 24 потока 2,5-3,3 ГГц, не гнался) Матплата: Huananzhi x99-f8 ОЗУ: серверная DDR4 2133 Kllisre ECC, 64 GB (4х16 GB, 4-канальный режим) GPU: MSI Ventus x2 RTX 3060 ti 8 GB (пямять Hynix, протестирована 1,5-летней эксплуатацией без единой проблемы, температура до 80 градусов в пике), на фото отсутствует, т.к. пока стоит в новом системнике. ПЗУ: M2sata ssd 250 gb (у меня использовался под систему, можно оставить под кэш), здоровье 96%. Охлаждение: Мощный и тихий кулер (снеговик) на 6 трубок и 3 вентилятора (температура процессора не выше 76 градусов в полной нагрузке) 2 корпусных вентилятора Aerocool Rev blue для отвода тепла вверх из корпуса, 1 вентилятор Aerocool на задней стенке. Есть возможность установки дополнительно двух вентиляторов под передней панелью. Доп. интерфейсы: Картридер (на передней панели) Блютуз-вайфай модуль Intel в PCI-E, внешние антенны Цена: 70000 руб. Продаю по причине масштабного апгрейда. Контакт: @erlinvideo

Hashtags

#москва #пк #xeon #rtx3060ti