Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🕺Клавиатуры IQUNIX скоро будут в наличии! А пока доступен предзаказ со скидкой 5%. Успейте оформить заранее
— Доступны к заказу:
✨Iqunix EV63 - НОВИНКА!
✨Iqunix EZ80 - НОВИНКА!
✨Iqunix EZ63
✨Iqunix Fox75
✨Iqunix Magi65
📝 Множество моделей в разных расцветках и конфигурациях. Актуальное наличие и предзаказ на ReShip.pro
КАТАЛОГ • МЕНЕДЖЕР• #IQUNIX
Скидка -5% на предзаказ для всех клавиатур IQUNIX🏬
🆕 Скидка действует только неделю — успей воспользоваться! В нашем ассортименте уже много новинок:
➖Iqunix EV63 - НОВИНКА!
➖Iqunix EZ80 - НОВИНКА!
➖Iqunix EZ63
➖Iqunix Fox75
➖Iqunix Magi65
— Все это доступно во Всех расцветках и с разными переключателями Jade/Jade Pro/X pro
🖥Скидка уже действует на ReShip.pro
КАТАЛОГ • МЕНЕДЖЕР • #IQUNIX
👻НовинкаIQUNIX EZ80, все тот же космический дизайн, но теперь в восьмидесяти процентном формате!
🔎Металлический корпус
🔎Подключение 8к герц
🔎Задержка 0.18 мили секунд
🔎Сканирование 16к герц
🔎Свитчи Jade Pro/Jade Gaming/ X Switch
🔎PBT кейкапы
🔎GASKET Mount строение
👻Так же доступна в классической черно-синей расцветке
КАТАЛОГ • МЕНЕДЖЕР • #IQUNIX
👻Новая магнитная клавиатура IQUNIX EZ80, все тот же космический дизайн, но теперь в восьмидесяти процентном формате
🔎Металлический корпус
🔎Подключение 8к герц
🔎Задержка 0.18 мили секунд
🔎Сканирование 16к герц
🔎Свитчи Jade Pro/Jade Gaming/ X Switch
🔎PBT кейкапы
🔎GASKET Mount строение
👻Так же доступна в классической черно-синей расцветке
ОФОРМИТЬ ЗАКАЗ • КАТАЛОГ • #IQUNIX
😗IQUNIX EZ63 в полностью белом цвете и на самых топовых магнитных переключатель Jade Pro доступна к покупке!
🌟Алюминиевый корпус
🌟Богатый комплект
🌟PBT кейкапы
🌟Космический дизайн
🌟8к подключение
ОФОРМИТЬ ЗАКАЗ • КАТАЛОГ • #IQUNIX
👎Одна из Лучших Магнитных клавиатур на рынке — IQUNIX EZ 60/63
- Форм-фактор на выбор 60% или 63%
- 3 типа переключателей: Star Trail, Jade и Jade Pro
- Высокая частота опроса 8000 Гц
- Богатый комплект поставки
💎Космический дизайн в алюминиевом корпусе делает ее не просто клавиатурой, а стильным аксессуаром на вашем столе
ОФОРМИТЬ ЗАКАЗ • КАТАЛОГ • #IQUNIX