Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Друзья, не забывайте про наш крутой бьюти-бар от NL International. Здесь мы заряжаемся красотой и пробуем вкуснейшие новинки от NL. А самые активные гости бара получат бесплатные welcome-наборы с вкусняшками для красоты и здоровья.
Итак, как получить подарок:
- идем в бьюти-бар NL
- делаем фото с продуктами или нашими красавицами Мисс Шерегеш
- выкладываем пост или сториз в свои соцсети, отмечаем аккаунт @nl_int и ставим #nl_грелкафест
- показываем фото с отметками бармену и получаем подарок!
Go зарядиться красотой и получить полезные подарки от NL International!
@nl_news
#грелкафест2024#nl
Друзья, не забывайте про наш крутой бьюти-бар от NL International. Здесь мы заряжаемся красотой и пробуем вкуснейшие новинки от NL. А самые активные гости бара получат бесплатные welcome-наборы с вкусняшками для красоты и здоровья.
Итак, как получить подарок:
- идем в бьюти-бар NL
- делаем фото с продуктами или нашими красавицами Мисс Шерегеш
- выкладываем пост или сториз в свои соцсети, отмечаем аккаунт @nl_int и ставим #nl_грелкафест
- показываем фото с отметками бармену и получаем подарок!
Go зарядиться красотой и получить полезные подарки от NL International!
@nl_news
#грелкафест2024#nl
Громкие фанфары, восхищенные взгляды, резкий рост ширины улыбок!
Встречайте участниц Мисс Шерегеш-2024!
Приветствуем и начинаем пристально, но очень тактично, следить за великолепной десяткой самых жизнерадостных высокогорных красавиц!
1. Березовская Христина
2. Зимина Алина
3. Кузьмина Жанна
4. Лобаненко Наталья
5. Логинова Анна
6. Малахова Яна
7. Новикова Ксения
8. Старченко Ульяна
9. Сулимова Анна
10. Харыбина Анна
Не пропусти самое красивое, что могло случится с нами в горах) Поддерживай со всей силы любимую участницу!
Чтобы увидеть финал самого красивого среди горнолыжных и самого горнолыжного среди красивых конкурсов, регистрируйся и становись участником Grelk’и на https://grelkafest.com
Быстрее всех узнавай новости фестиваля на наших страницах)
Телеграм https://t.me/GrelkaFest_News
ВКонтакте https://vk.com/grelkafest
И вступай в чат веселых райдеров https://t.me/+FjmJaUlJIpM4OThi
#грелкафест2024#миссшерегеш2024#nl
Мисс Шерегеш начнется уже вот-вот… Осталось только определить еще одну финалистку!
Начинаем онлайн-голосование, где вы, опытные ценители высокогорной красоты и обаяния, определите, кто из 10 претенденток пройдет в финал Мисс Шерегеш-2024 и станет десятой финалисткой.
Голосование продлится до 20:00
4 апреля 2024 года. Успевай!
А чтобы увидеть этот парад высокогорной красоты на яву, регистрируйся и становись участником Grelk’и на https://grelkafest.com!
Быстрее всех узнавай новости фестиваля на наших страницах)
Телеграм https://t.me/GrelkaFest_News
ВКонтакте https://vk.com/grelkafest
И вступай в чат веселых райдеров https://t.me/+FjmJaUlJIpM4OThi
#грелкафест2024#миссшерегеш2024#nl