Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
ОФИЦИАЛЬНЫЙ МЕРЧ DUET NIGHT ABYSS
НАВИГАЦИОННЫЙ ПОСТ 💎
🦋АССОРТИМЕНТ🦋
▼ Серия "Глаз песка времени"🩵👤👤👤
▼ Раскладной шикиши "Летающие стихи"🩵👤👤👤
▼ Серия "Камень времени"🩵👤
▼ Коврик для мыши "Поток Ваньхуа"🩵👤
▼ Картхолдер с🩵👤
▼ Деревянный магнит "Песнь Великого ветра"🩵👤
▼ Кружка "Снег приветствует весну"💎
▼ Металлический кулон с👤
▼ Маска для сна с👤
▼ Складной ящик для хранения "Чудо-подарочная коробка"☕️
— Все ещё в продаже:
▼ Серия "Мягкий воин"👤👤👤
— Отзывы магазина:
💎Отзывы
#DuetNightAbyss@astroknightshop
СКЛАДНОЙ ЯЩИК ДЛЯ ХРАНЕНИЯ «ЧУДО-ПОДАРОЧНАЯ КОРОБКА» | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
🦋Детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
⭐Размер: 380х250х250 мм
⭐Материалы: ткань Оксфорд
⭐ Возможно, что ящик окажется тяжелым, поэтому доставка может выйти по цене самого ящика
💎Цена: 1300 💰 (рублей)
💀Доставка:
🅰️ Цена указана БЕЗ УЧЕТА доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
КРУЖКА «СНЕГ ПРИВЕТСТВУЕТ ВЕСНУ» | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
🦋Детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
⭐Размер: кружка 90 мм; костер 100 мм
⭐ Костер идет в комплекте
💎Цена: 2150 💰 (рублей)
💀Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
МАСКА ДЛЯ СНА С РИТМ | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
👤Персонажи:
👤 Ритм
🦋Детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
⭐Размер: 110х210 мм
⭐Материалы: мягкий кристалл
💎Цена: 1200 💰 (рублей)
💀Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
#Ритм@astroknightshop
МЕТАЛЛИЧЕСКИЙ КУЛОН С РИТМ | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
👤Персонажи:
👤 Ритм
🦋Детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
⭐Размер: 300х500 мм
💎Цена: 1350 💰 (рублей)
💀Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
#Ритм@astroknightshop
ДЕРЕВЯННЫЙ МАГНИТ «ПЕСНЬ ВЕЛИКОГО ВЕТРА» | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
👤Персонажи:
🩵 Фушу
👤 Чжилю
🦋Детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
⭐Размер: 67х100 мм
💎Цена: 850 💰 (рублей)
💀Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
#Фушу@astroknightshop
#Чжилю@astroknightshop
КАРТХОЛДЕР С ПЕРСОНАЖАМИ | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
👤Персонажи:
🩵 Фушу
👤 Чжилю
🦋Детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
⭐Размер: 70х105 мм
💎Цена: 1100 💰 (рублей)
💀Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
#Фушу@astroknightshop
#Чжилю@astroknightshop
КОВРИК ДЛЯ МЫШИ «ПОТОК ВАНЬХУА» | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
👤Персонажи:
🩵 Фушу
👤 Чжилю
🦋Детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
⭐Размер: 700х300 мм
💎Цена: 1800 💰 (рублей)
💀Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
#Фушу@astroknightshop
#Чжилю@astroknightshop
ТОВАРЫ С ПЕРСОНАЖАМИ ИЗ СЕРИИ «КАМЕНЬ ВРЕМЕНИ» | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
👤Персонажи:
🩵 Фушу
👤 Чжилю
🦋Ассортимент и детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
📌Металлический значок
⭐Размер: 58 мм
⭐Цена: 600 💰 (рублей)
📌Акриловый брелок
⭐Размер: 49х100 мм
⭐Цена: 1000 💰 (рублей)
📌Акриловый стенд
⭐Размер:🩵 стенд 169х55 мм, персонаж 86х162 мм; 👤 стенд 169х55 мм, персонаж 117х189 мм
⭐Цена: 1300 💰 (рублей)
💀Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
#Фушу@astroknightshop
#Чжилю@astroknightshop
РАСКЛАДНОЙ ШИКИШИ С ПЕРСОНАЖАМИ ИЗ СЕРИИ «ЛЕТАЮЩИЕ СТИХИ» | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
👤Персонажи:
🩵 Фушу
👤 Чжилю
👤 Ритм
🖤 Линн
🦋Детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
⭐Размер: 334х206 мм (в разложенном виде); 206х164 мм (в собранном виде)
💎Цена: 1400 💰 (рублей)
💀Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
#Фушу@astroknightshop
#Чжилю@astroknightshop
#Ритм@astroknightshop
#Линн@astroknightshop
МЕТАЛЛИЧЕСКИЙ ЗНАЧОК ИЗ СЕРИИ «ГЛАЗ ПЕСКА ВРЕМЕНИ» | ОФИЦИАЛЬНЫЙ МЕРЧ | DUET NIGHT ABYSS
👤Персонажи:
🩵 Фушу
👤 Чжилю
👤 Ритм
👤 Лисбелл
🦋Детали:
⭐Товарможет быть РАСПРОДАН
⭐ Предпродажа, через 90 дней отправка на склад в Китае
⭐Размер: 65 мм
💎Цена: 650 💰 (рублей)
💀Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
💎Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#DuetNightAbyss@astroknightshop
#Фушу@astroknightshop
#Чжилю@astroknightshop
#Ритм@astroknightshop
#Лисбелл@astroknightshop