Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🐌Тяжёлое физически и психологически вкатываниевползание (!) в сезон
👉На коллаже - Москва-река в районе Андреевского монастыря и Андреевского железнодорожного моста с разницей в 99 лет: зима 1927 г. vs. зима 2026 г.
@runandbite#runandbite
✉️MAX✉️VK
Команда #runandbite : превратим круглые животы в гиперпрессованные кирпичи!💪😏🤌
Приходите на совместные тренировки для начинающих по четвергам!✅
#runandbiteteam
Никогда не было, и вот опять!😏
.
Как известно, по осени в Москве расцветают марафоны;)😌
.
Завтра побегу в удовольствие с командой @runandbite! Ближайшей цели марафона за 2 ч. 59 мин. с текущим уровнем подготовки объективно все-таки не достичь, как и навряд ли повторть прошлогодний личный рекорд за 3 ч. 6 мин. с темпом 4:24 мин / км. Посмотрим, что выйдет завтра после 12:00 МСК )😏
Это 30-й марафон/забег на дистанцию 42 км и больше и 10 из 12 Московских Марафонов)🙃
.
#спорт#здоровье#развитие#атлетика#плавание#велоспорт#бег#триатлон#марафон#любовь
#Москва
#runandbite#runandbiteteam@biteandbitey
🏃♂️🏃♀️Во Всемирный день бега провели нашей командой @runandbite совместно с @runc_run и @runfactory открытую тренировку для жаждущих развития и подарили вместе с @biteandbitey много энергии, эмоций и памятных презентов всем участникам события!
🎯✅Занимайтесь спортом и физкультурой! Летом не только по четвергам, но также по понедельникам и субботам открытые тренировки для спортсменов любого уровня подготовки с командой @runandbite - следите за анонсами и присоединяйтесь!)
#runandbite#runandbiteteam#спорт#здоровье#развитие#атлетика#бег#марафон#московскиймарафон#триатлон#плавание#велоспорт#бег#Москва#любовь
🏃♂➡️Казалось бы только набрал классную форму, готов был ее развить, но затем за 2 недели всего лишь одна тренировка с #runandbite, потом большой удар по обеим ногам на футболе с @duma_gov_ru, натертые пятки от новых бутс и сбитый режим питания..
🏃♂Думается, что на этом шанс на октябрьский личник на 42,2 после сентябрьского личника на 21,1 все-таки упущен и будет просто очередной двадцать какой-то там марафон для хорошего настроения в прекрасной компании
#runandbite#runandbiteteam@biteandbitey#спорт#здоровье#развитие#атлетика#бег#марафон#московскиймарафон#триатлон#плавание#велоспорт#бег#Москва#любовь
По четвергам - традиционная и несложная даже для новичков тренировка с командой #runandbite ! Присоединяйтесь!)
#runandbite#runandbiteteam@biteandbitey#спорт#здоровье#развитие#атлетика#бег#марафон#московскиймарафон#триатлон#плавание#велоспорт#бег#Москва#любовь
За сутки до конца апреля непринужденно забежали с командой #runandbite дистанцию 10-го юбилейного Московского полумарафона.
Это было здорово, продолжаем набор формы!
#спорт#здоровье#развитие#триатлон#плавание#велоспорт#бег#атлетика#марафон#московскиймарафон
#Москва#любовь
#runandbite#runandbiteteam#sport#health#development#athletics#running#marathon#triathlon#swimming#cycling#running#Moscow#support#love