Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
⚡️Toshkent — IV Osiyo yoshlar oʻyinlari mezboni
Bahraynda oʻtkazilgan Osiyo Olimpiya Kengashining 101-Ijroiya qoʻmitasi yigʻilishida Toshkent 2029-yilgi IV Osiyo yoshlar oʻyinlariga mezbonlik qilishi haqida qaror qabul qilindi.
Bugun III Osiyo yoshlar oʻyinlarining tantanali yopilish marosimida bu haqida rasman e’lon qilindi. Demak, Oʻzbekiston yana 4 yildan keyin qit’amizning eng kuchli yosh sportchilarini oʻzida jamlaydi.
—
⚡️Ташкент примет IV Азиатские юношеские игры
Исполком Олимпийского совета Азии, заседание которого прошло в Бахрейне, принял решение доверить Ташкенту проведение IV Азиатских юношеских игр 2029 года.
Об этом официально объявили сегодня на торжественной церемонии закрытия III Азиатских юношеских игр. Таким образом, уже через четыре года Узбекистан станет площадкой для сильнейших молодых спортсменов Азиатского континента.
#Toshkent2029
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Xayr, Bahrayn! Salom, Toshkent!
Bahraynda III Osiyo yoshlar oʻyinlarining tantanali yopilish marosimi boʻlib oʻtdi. Ahamiyatlisi, mazkur tadbirda Toshkent 2029-yil IV Osiyo yoshlar oʻyinlarini qabul qilishi rasman e’lon qilindi.
Marosimda Sport vaziri oʻrinbosari Shahrullo Mahmudov, Toshkent shahar hokimi oʻrinbosari Durdona Rahimova, shuningdek, MOQ rahbariyati ishtirok etdi.
Tadbirda mamlakatimiz nomidan Osiyo Olimpiya kengashi (OOK) vitse-prezidenti, Oʻzbekiston MOQ raisining birinchi oʻrinbosari Otabek Umarov Oʻyinlarning kelgusi mezboni sifatida rasmiylardan OOKning bayrogʻini qabul qilib oldi.
—
Прощай, Бахрейн! Здравствуй, Ташкент!
В Бахрейне состоялась торжественная церемония закрытия III Азиатских юношеских игр. Примечательно, что в ходе этого мероприятия было официально объявлено, что Ташкент примет IV Азиатские юношеские игры в 2029 году.
В церемонии приняли участие заместитель Министра спорта Шахрулло Махмудов, заместитель хокима города Ташкента Дурдона Рахимова, а также руководство Национального Олимпийского комитета.
От имени нашей страны в качестве будущего хозяина Игр в мероприятии участвовал вице-президент Олимпийского совета Азии, первый заместитель председателя Национального Олимпийского комитета Узбекистана Отaбек Умаров, который принял флаг ОСА из рук официальных представителей.
#Bahrayn2025#Toshkent2029
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Osiyo Olimpiya kengashi (OOK) vitse-prezidenti, Oʻzbekiston MOQ raisining birinchi oʻrinbosari Otabek Umarov OOK bayrogʻini qabul qildi
—
Вице-президент Олимпийского совета Азии (ОСА), первый заместитель председателя Национального Олимпийского комитета Узбекистана Отабек Умаров принял флаг ОСА
#Bahrayn2025#Toshkent2029
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Toshkentda Osiyo Olimpiya kengashining 46-Bosh Assambleyasi bo‘lib o‘tdi
Poytaxtimiz Toshkent shahrida Osiyo Olimpiya kengashining 46-Bosh Assambleyasi bo‘lib o‘tdi. Nufuzli anjumanda Osiyo Olimpiya kengashi va unga a’zo Milliy Olimpiya qo‘mitalari vakillari, Xalqaro Olimpiya qo‘mitasi hamda yetakchi sport tashkilotlarining rahbarlari, shuningdek, O‘zbekiston Respublikasi Sport vazirligi, Milliy Olimpiya va Paralimpiya qo‘mitalari rahbariyati ishtirok etdi.
—
В Ташкенте состоялась 46-я Генеральная Ассамблея Олимпийского совета Азии
В Ташкенте прошла 46-я Генеральная Ассамблея Олимпийского совета Азии. В работе престижного форума приняли участие представители Олимпийского совета Азии и входящих в его состав Национальных Олимпийских комитетов, главы Международного Олимпийского комитета и ведущих спортивных организаций, а также руководство Министерства спорта Республики Узбекистан, Национальных Олимпийского и Паралимпийского комитетов.
#OOK#BoshAssambleya#Toshkent2029
👉@OlympicUz
olympic.uz I YouTube I Instagram I