Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
💀WallHack SP-005 Carnage Sora ограниченный выпуск💀
🔴Арт сделан японским художником 𝙍𝙤𝙡𝙪𝙖 и нанесен на лучшее стекло от WallHack.
🔴Ковер имеет очень ограниченное количество экземпляров в размере 1.800 единиц. Всего несколько из которых достались нам.
— Дизайн коврика отсылает к сюжету последнего выпуска комиксов от WallHack: Когда мы видели Сору в последний раз, она вознеслась, её способности наконец-то пробудились, став безграничными. Но у этого возвышения была своя цена. Та самая сила, что вознесла её, теперь обратилась вспять, поглощая её изнутри. Мощь, лишенная контроля. Душа, пожирающая саму себя.
🆘Предзаказ на ReShip.pro
САЙТ • МЕНЕДЖЕР • #WALLHACK
🌑Открыт предзаказ на лимитированное издание WALLHACK x EVANGELION, в исполнении модели SP-005.
*️⃣Размер увеличен до 510x440 миллиметров
*️⃣Толщина стекла снижена до 2.5 миллиметра
*️⃣Формовая, силиконовая подложка
*️⃣Обработанные краев на станке
*️⃣Надежный защитный кейс
*️⃣Глайды Wallhack в комплекте
— Доступно всего несколько единиц, лучше не откладывать на потом.
Цена: 23.990₽ - предзаказ тут*
САЙТ • МЕНЕДЖЕР • #WALLHACK
🏃Wallhack SP004A — та же модель, но меньшего размера и по более низкой цене.
➡️Быстрое покрытие
➡️Размер 390 на 450 мм
➡️Толщина 4 мм
➡️Силиконовая кастомная подложка
💳Цена: 14.390₽ — в наличии, ReShip.pro
САЙТ • МЕНЕДЖЕР • #WALLHACK
🏴☠️Новый WALLHACK VA005 в наличии в Москве!
⚫️Размер увеличен до 510x440 миллиметров
⚫️Толщина снижена до 3 миллиметров
⚫️Улучшенная силиконовая подложка
⚫️Инновационно обработанные края на станке
⚫️И надежный защитный кейс
🖱Цена: 19.990₽ — на ReShip.pro*
КАТАЛОГ • МЕНЕДЖЕР • #WALLHACK
😐Мы этого дождались..
Новый стеклопад от WALLHACK - VA-005, по слухам самый быстрый на рынке
💎Размер увеличен до 510x440 миллиметров
💎Толщина снижена до 3 миллиметров
💎Улучшенная силиконовая подложка
💎Инновационно обработанные края на станке
💎И надежный защитный кейс
— Уже в пути к нам! Теперь ожидаем выход CR-005
⏳
💳Цена: 19.990₽ — уже на ReShip.pro
КАТАЛОГ • МЕНЕДЖЕР • #WALLHACK
🌸WALLHACK SP-004 в коллаборации с HATSUNE MIKU - летняя версия
💕Улучшенная быстрая поверхность
💕Размер 43 на 49 см
💕Толщина 3.9 мм
💕Силиконовая подложка
— В наличии всего 5 шт - Успевайте!
💸 Цена: 19.990₽
КАТАЛОГ • МЕНЕДЖЕР • #WALLHACK
⭐️Что такое стеклопады и почему их используют?
🔎Разберемся в этом на примере самого популярного стеклопада WALLHACK SP-004
🔎Характеристики SP-004
- Быстрая поверхность
- Силиконовая подложка благодаря которой коврик не прогибается и уверенно лежит на столе
🔎Преимущества стеклопадов
- Легкий уход
- Стабильная скорость
- Долговечность
Интересны стеклопады? - ❤️
ОФОРМИТЬ ЗАКАЗ • КАТАЛОГ • #WALLHACK
🔖WALLHACK представили свой новый сезонный стеклопад SP-004 в расцветке DRIFT SORA (Серия Y2K)
И нам удалось достать для вас несколько экземпляров, которые уже доступны к заказу
🔔Поспешите, ведь количество ограничено!
ОФОРМИТЬ ЗАКАЗ • КАТАЛОГ • #WALLHACK
‼️Мало кто знает что у WALLHACK есть тканевые ковры, так еще и в лимитированной расцветке ARCADE
🚨MO-001
Разработан для скорости и точности
🚨SY-001
Разработан для контроля и комфорта
Общие характеристики:
- Подложка из японского порона, твердость SOFT
- Размер 49см х 43см х 0,4см
- Уникальный оверлок с новой технологией, совершенно не ощущающийся рукой
W дизайн? 🔥
ОФОРМИТЬ ЗАКАЗ • КАТАЛОГ • #WALLHACK