Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
СУМКА ИЗ СЕРИИ "ИОННАЯ ИСКРА" | ОФИЦИАЛЬНЫЙ МЕРЧ | LEAGUE OF LEGENDS
🥉Детали:
⭐ УЖЕ в релизе
⭐Материал: полиэфирное волокно
⭐Размер: 34х27х9 см
⭐В комплект к сумке идёт брелок-лента
🔵Цена: 6350 ⭐️ (рублей)
🧡Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
👊Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#LeagueofLegends@astroknightshop
ТЕРМОС ИЗ СЕРИИ "БЕССМЕРТНОЕ ПУТЕШЕСТВИЕ" | ОФИЦИАЛЬНЫЙ МЕРЧ | LEAGUE OF LEGENDS
🥉Детали:
⭐ УЖЕ в релизе
⭐Размер:термос 18,5х6,9 см, подвеска 16х4,5 см
⭐Объём: 400 мл
⭐Варианты: голубой, фиолетовый
🔵Цена: 3650 ⭐️ (рублей)
🧡Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
👊Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#LeagueofLegends@astroknightshop
МАСКА ДЛЯ СНА ПОРО | ОФИЦИАЛЬНЫЙ МЕРЧ | LEAGUE OF LEGENDS
🥉Детали:
⭐ УЖЕ в релизе
⭐Размер:
⭐Варианты: влюбленный, сонный
🔵Цена: 2000 ⭐️ (рублей)
🧡Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
👊Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#LeagueofLegends@astroknightshop
#Arcane ya es parte del universo de #LeagueOfLegends, Riot Games confirma que ya trabaja en darle forma
Riot anuncia que Arcane ya forma parte del universo de League of Legends y sus creadores trabajan para limar incoherencias y contradicciones con la historia que ya tienen, aunque va a ser un proceso gradual.
ТОВАРЫ ИЗ СЕРИИ "ЯРОСТЬ БУРИ" | ОФИЦИАЛЬНЫЙ МЕРЧ | LEAGUE OF LEGENDS : BATTLE OF GOLDEN SPATULA
🏆Персонаж:
🌟 Жанна
🥉 Ассортимент и детали:
⭐ УЖЕ в релизе
Плюш
⭐Размер: 30 см
⭐Цена: 4450 ⭐️ (рублей)
Попсокет
⭐Размер: 9 см
⭐Цена: 1100 ⭐️ (рублей)
Брелок
⭐Размер: 6 см
⭐Цена: 1250 ⭐️ (рублей)
🧡Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
👊Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#LeagueofLegends@astroknightshop
#Жанна@astroknightshop
РУЧНОЙ ВЕНТИЛЯТОР "КОРГИ КОРКИ" | ОФИЦИАЛЬНЫЙ МЕРЧ | LEAGUE OF LEGENDS
🏆Персонажи:
🌟 Корки
🥉Детали:
⭐ УЖЕ в релизе
⭐Размер: 20х5,7 см
⭐ Объем аккумулятора: 1200 мАч
⭐Варианты: мордашка, хвостик
🔵Цена: 3200 ⭐️ (рублей)
🧡Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
👊Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#LeagueofLegends@astroknightshop
#Корки@astroknightshop
🕹 League of Legends 🕹
1⃣https://telegram.me/addstickers/g_leagueoflegends
2⃣https://telegram.me/addstickers/g_leagueoflegends2
3⃣https://telegram.me/addstickers/g_leagueoflegends3
#LoL#Games#Packs#LeagueOfLegends
↘️more Stickers at S4T.tv
БРЕЛОКИ ИЗ СЕРИИ "ВЛЮБЛЕННАЯ ПАРА" | ОФИЦИАЛЬНЫЙ МЕРЧ | LEAGUE OF LEGENDS
🏆Персонажи:
🌟 Шая
🌟 Рэйкан
🥉Ассортимент и детали:
⭐ УЖЕ в релизе
Плюшевый брелок
⭐Размер: 🌟 12х17 см ; 🌟 16х15 см
⭐Цена: 2350 ⭐️ (рублей)
⭐Персонаж на выбор
Акриловый брелок
⭐Размер: 67х108 мм
⭐Цена: 900 ⭐️ (рублей)
🧡Доставка:
🅰️ Цена указана С УЧЕТОМ доставки ДО РФ
💬Обратная связь:
⁉️Вопросы о доставке, оплате и тд.
👀Отзывы
👊Купить:
🅰️@astroknight_bot
🅰️ С реальными менеджерами
#LeagueofLegends@astroknightshop
#Шая@astroknightshop
#Рэйкан@astroknightshop