Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
『УВЕДОМЛЕНИЕ! 12 ТОМ! ОРИГИНАЛ』
Ура ура!!! Наконец стартовал 12 том маньхуа "Глобальный экзамен", да еще и с такой шикарной обложкой!! 🤝
Пока что любуемся обложкой, остальное выложу чуть позже, прошу простить 😑
#frames
『УВЕДОМЛЕНИЕ! 12 ТОМ! ОРИГИНАЛ』
Ура ура!!! Наконец стартовал 12 том маньхуа "Глобальный экзамен", да еще и с такой шикарной обложкой!! 🤝
Пока что любуемся обложкой, остальное выложу чуть позже, прошу простить 😑
#frames
『 УВЕДОМЛЕНИЕ О ПЕРЕРЫВЕ 』
Уведомление: перерыва не будет🤝
11 том, несмотря на множество препятствий, наконец-то успешно завершен. Мы выражаем искреннюю благодарность всем читателям за ваше терпение, понимание и поддержку на протяжении всего этого времени!
Ранее, в связи с личными обстоятельствами, было решено привлечь многоуважаемых помощников. В этот промежуток времени мы пробовали различные варианты разделения обязанностей и притирались друг к другу. К тому же, сам том был особенно сложным по сценам и с огромным объемом работы, что привело к увеличению срока публикации. (К счастью, итоговая версия значительно улучшилась, за что я выражаю благодарность всем помощникам, участвовавшим в работе!)
В следующем томе появятся новые экзаменационные центры и сюжетные линии. Чтобы не заставлять вас ждать слишком долго, на этот раз перерыва не будет. 12 том выйдет примерно через месяц, после завершения работы над новой обложкой, иллюстрациями и главами.
Я с нетерпением жду арки герцога~ (В настоящее время мы погружены в увлеченную работу над дизайном персонажей!)
Ходят слухи, что во второй половине года будут проводиться коллаборации и выпускаться мерч, так что тоже можете ждать с нетерпением (маленький спойлер)
#frames
『УВЕДОМЛЕНИЕ ОТ КОМАНДЫ МАНЬХУА』
Сроки выхода глав маньхуа снова изменены. Теперь главы будут выходить по мере возможности, так как сложно рисовать будущие сцены 😢
В прошлом это вроде как окупилось — все помнят главы молодого мокрого Циня, так что не теряем веры в художников и верим в лучшее 🥰
#frames
『УВЕДОМЛЕНИЕ! 131 ГЛАВА. ОРИГИНАЛ』
Цинь Цзю просто пристально смотрит на Наблюдателя А
Тем временем Ю Хо смотрит на связанные руки экзаменующегося Цинь Цзю: *блять*
#frames
『УВЕДОМЛЕНИЕ! 131 ГЛАВА. ОРИГИНАЛ』
С днём 131 главы. Кошмар начинается 😴
Я ранее предупреждала, что не смогу сама нарезать красивых фреймов, так как уехала в отпуск. Поэтому покажем вам немного фреймов с тви, все они с аккаунта Jiuhuo married. Кто не покупает главы, можете глянуть там немножко больше спойлеров🤏
Чистые файлы выдам уже после приезда, тогда же возможно будет и перевод. Так как наш Наблюдатель 001 сдает диплом и экзамены, он тоже может задержаться 😵
#frames
『УВЕДОМЛЕНИЕ! 130 ГЛАВА. ОРИГИНАЛ』
Перевод ожидайте тогда, когда он будет готов, а я пошла дальше смеяться над этой сценой словно вижу ее в первый раз 🦐
И да, извините меня пожалуйста за неадекватность, потому что я становлюсь ненормальнойибешеной и не могу связать и трех слов, когда выходит новая глава.. Спасибо за понимание 🤓
#frames
『УВЕДОМЛЕНИЕ! 130 ГЛАВА. ОРИГИНАЛ』
Наблюдатель А даже не оглянулся. Он уже протянул руку к ручке двери, когда кто-то встал позади него:
- ... мне потребуется всего пара секунд, чтобы развязать верёвку.
Цинь Цзю неожиданно легонько провёл пальцами по шее Наблюдателя А:
- Воротничок твоей рубашки мокрый. Там идёт дождь?
Прикосновение одновременно освежало и опаляло. Рука Наблюдателя А лежала на ручке двери, но он так и не повернул её, лишь слегка прищурил глаза. Неожиданно для себя он ответил:
- Нет. Там идёт снег.
#frames