Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Как ценят жизнь служебной собаки
👆👆👆👆👆👆👆👆👆👆👆👆
В этой статье не будет имён, должностных лиц, организаций и ведомств. Не будет виноватых и правых. Это текст о том, как на практике оценивают жизнь служебной собаки и кто на самом деле борется за её жизнь.
Чисто подумать 🤔.
#k9life#k9save#k9
Не следует искать смерть, стремиться к ней или заигрывать с нею. Но важно помнить о ней и быть готовым встретить её достойно.
И помните, братья и сёстры: даже стоя на краю пропасти, знайте – вас дома ждут. О вас молятся. Ваше возвращение домой – это всё, чего хотят ваши близкие.
#k9life#k9save#k9
🇰🇷🏹🛡️ВПК Р. Корея укрепляет свои позиции в Европе
🇷🇴Глава Администрации программ оборонных закупок (DAPA) Ли Ён Чхоль принял участие в состоявшейся накануне в Румынии церемонии закладки первого камня производственного предприятия Hanwha Aerospace, которое будет выпускать САУ K9. Это ознаменовало собой начало практической реализации контракта, заключённого в июле 2024 г.
💣📑Отметим, что Hanwha Aerospace и Hyundai Rotem претендуют на получение новых экспортных контрактов на поставку БМП и танков в рамках исполнения Бухарестом планов по модернизации своих бронетанковых войск.
#Новости#Корея#Политика#Экономика#ВПК#Румыния#Экспорт#Оружие#САУ#K9#HanwhaAerospace
Привет! Знакомим вас с нашим тренером в DOGCAMP 🏕️наш тренер Настя @dog_novella со своей прекрасной Нови рассказывают вам как научить собаню держать предметы на голове!
Делись с друзьями! 🐶
Настя - специалистка по поведению собак, имеет в запасе большое количество трюков, которые вы сможете выучить с ней в лагере 🏕️! А так же продвигает DOGFRIENDLY культуру в своем городе Омске🐶
Мы ждём встречи с Насти и Нови, а вы делитесь своими результатами 💖
#kinolog#k9#dogtraining#dogcamp#dogcampcommunity#goldenretriever#dogtricks
«Люди всегда подходят ко мне и говорят: «Мне нравитесь вы, мне нравится ваша работа». И тут звучит следующее предложение: «Мне нравился ваш брат». Джон заставлял людей смеяться, и смех — это очень мощная вещь».
Сегодня Джеймсу Белуши исполнился 71 год.
#ВИДЕОТЕКА
#ThePrincipal
#RedHeat
#K9
#TakingCareOfBusiness
#MrDestiny
#CurlySue
#Sahara
#MadeMen
#TheGhostWriter
#WonderWheel