Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🎁IPI Qi PRO— Премиум за не дорого, внешний вид изображает карбоновые волокна.
🟠Сенсор PAW3950
🟠Переключатели Omron micro-motion
🟠Донгл 8.000hz в комплекте
🟠Вес 50 грамм
— Симметричная мышка больших размеров с горбом по центру, подойдет под Ладонный/Когтевой хваты
👍Цена 7.990₽— уже в наличии*
КАТАЛОГ • МЕНЕДЖЕР • #IPI
Новинка — IPI Qi PRO
🧬Внешний вид изображает карбоновые волокна, делающие ее по истине красивой
🟣Сенсор PAW3950
🟣Переключатели Omron micro-motion
🟣Донгл 8.000hz в комплекте
🟣Вес 50 грамм
— Симметричная мышка больших размеров с горбом по центру, подойдет под Ладонный/Когтевой хваты
⚙️Цена 7.490₽— уже доступна к предзаказазу на ReShip.pro
КАТАЛОГ • МЕНЕДЖЕР • #IPI
🤒Распаковка и обзор IPI Float88
🔘Корпус из карбона как у Finalmouse
🔘Сенсор PAW3395
🔘Донгл 8к в комплекте
🔘Переключатели Kaihua White Blade
🔘Вес: 39 грамм
🤝Цена 4.990 ₽(В наличии в черном и белом цвете)
КАТАЛОГ • МЕНЕДЖЕР • #IPI
🟡Мышки IPI Float88 в наличии в белом и черном цветах
🟡Корпус из карбона как у Finalmouse
🟡Сенсор PAW3395
🟡Донгл 8к в комплекте
🟡Переключатели Kaihua White Blad
e
🟡Вес: 39 грамм
🟨Цена 4.990 ₽
ОФОРМИТЬ ЗАКАЗ • КАТАЛОГ • #IPI
🤔Давно хотели попробовать карбоновую мышь, но не за 20.000 ₽ ?
🟡IPI Float88 - бюджетная карбоновая мышь, с вкусной начинкой:
- Сенсор PAW3395
- Оптические переключатели Omron
- Ресивер 8к в комплекте
- Вес 42 грамма
🟡Уже в наличии и доступны к заказу всего за - 4.790₽
ОФОРМИТЬ ЗАКАЗ • КАТАЛОГ • #IPI