Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Анқара шаҳрида Ўзбекистон Республикаси Президенти Шавкат Мирзиёев ва Туркия Республикаси Президенти Режеп Таййип Эрдоған раислигида Ўзбекистон-Туркия Ишбилармонлар кенгашининг биринчи йиғилиши бўлиб ўтди.
—
В Анкаре под председательством Президента Республики Узбекистан Шавката Мирзиёева и Президента Турецкой Республики Реджепа Тайипа Эрдогана состоялось первое заседание узбекско-турецкого Делового совета.
#Mirziyoyev#tashrif#Turkiya#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Yaponiyaning yetakchi kompaniyalari, moliya institutlari va biznes uyushmalari rahbarlari bilan uchrashuv oʻtkazdi.
—
Президент Республики Узбекистан Шавкат Мирзиёев провел встречу с руководителями ведущих компаний, финансовых институтов и бизнес-объединений Японии.
#Mirziyoyev#tashrif#Yaponiya#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Islomobod shahriga davlat tashrifi doirasida Pokiston Bosh vaziri Shahboz Sharif bilan birgalikda qoʻshma biznes forumida ishtirok etdi.
—
В рамках государственного визита в город Исламабад Президент Республики Узбекистан Шавкат Мирзиёев вместе с Премьер-министром Пакистана Шахбазом Шарифом принял участие в совместном бизнес-форуме.
#Mirziyoyev#tashrif#Pokiston#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Ўзбекистон Президенти Шавкат Мирзиёев ва Мўғулистон Президенти Ухнаагийн Хурэлсух икки мамлакат ишбилармон доиралари вакиллари билан учрашув ўтказдилар.
—
Президент Узбекистана Шавкат Мирзиёев и Президент Монголии Ухнаагийн Хурэлсух провели встречу с представителями деловых кругов двух стран.
#Mirziyoyev#tashrif#Muguliston#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Oʻzbekiston – Pokiston biznes forumi doirasida “Go Group” kompaniyasi bosh ijrochi direktori Dur Muhammad Ayub bilan uchrashdi.
—
Президент Республики Узбекистан Шавкат Мирзиёев на полях узбекско-пакистанского бизнес-форума провел встречу с главным исполнительным директором компании Go Group Дур Мухаммад Аюбом.
#Mirziyoyev#tashrif#Pokiston#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev “Gohar Textile” kompaniyasi asoschisi Gouhar Mustafo bilan uchrashdi.
—
Президент Республики Узбекистан Шавкат Мирзиёев провел встречу с основателем компании Gohar Textile Гоухаром Мустафой.
#Mirziyoyev#tashrif#Pokiston#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev davlat tashrifining ishbilarmonlik tadbirlari davomida “Engro Group” kompaniyasi raisi Ahsan Zafar Sayid bilan uchrashuv oʻtkazdi.
—
В ходе деловой программы государственного визита Президента Республики Узбекистан Шавката Мирзиёева стала встреча с председателем компании Engro Group Ахсаном Зафаром Сайедом.
#Mirziyoyev#tashrif#Pokiston#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston – Pokiston biznes forumi doirasida Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev “HRL Group” kompaniyasi raisi Zohid Rafiq bilan uchrashdi.
—
В рамках узбекско-пакистанского бизнес-форума Президент Республики Узбекистан Шавкат Мирзиёев провел встречу с председателем группы компаний HRL Group Захидом Рафиком.
#Mirziyoyev#tashrif#Pokiston#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Islomobod shahriga davlat tashrifi doirasida Pokiston Bosh vaziri Shahboz Sharif bilan birgalikda qoʻshma biznes forumida ishtirok etdi.
—
В рамках государственного визита в город Исламабад Президент Республики Узбекистан Шавкат Мирзиёев вместе с Премьер-министром Пакистана Шахбазом Шарифом принял участие в совместном бизнес-форуме.
#Mirziyoyev#tashrif#Pokiston#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Ўзбекистон Республикаси Президенти Шавкат Мирзиёев Нью-Йорк шаҳрида АҚШнинг етакчи компаниялари, инвестиция жамғармалари ва молиявий институтлари раҳбарлари билан давра суҳбати ўтказди.
—
Президент Республики Узбекистан Шавкат Мирзиёев провел в городе Нью-Йорке «круглый стол» с руководителями ведущих американских компаний, инвестиционных фондов и финансовых институтов.
#Mirziyoyev#tashrif#AQSh#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Хитой Халқ Республикасига давлат ташрифининг ишбилармонлик тадбирлари давомида Ўзбекистон Республикаси Президенти Шавкат Мирзиёев Шэньчжэнь шаҳрида ўтаётган қўшма Инвестиция форумида иштирок этди.
—
В продолжение деловой программы государственного визита в Китайскую Народную Республику Президент Республики Узбекистан Шавкат Мирзиёев принял участие в работе совместного Инвестиционного форума, проходящего в городе Шэньчжэне.
#Mirziyoyev#tashrif#Xitoy#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Islomobod shahriga davlat tashrifi doirasida Pokiston Bosh vaziri Shahboz Sharif bilan birgalikda qoʻshma biznes forumida ishtirok etdi.
—
В рамках государственного визита в город Исламабад Президент Республики Узбекистан Шавкат Мирзиёев вместе с Премьер-министром Пакистана Шахбазом Шарифом принял участие в совместном бизнес-форуме.
#Mirziyoyev#tashrif#Pokiston#ishbilarmonlar
Prezident.uz|Facebook|Instagram|YouTube|X