Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Ҷаласаи Шурои амнияти Ҷумҳурии Тоҷикистон
Дар кори ҷаласа аъзои доимӣ ва аъзои Шурои амният, кормандони дастгоҳи Шурои амният, роҳбарони сохторҳои низомӣ ва мақомоти ҳифзи ҳуқуқу тартибот иштирок намуданд.
Дар ҷаласа вазъи таъмини амну субот, волоияти қонуну тартиботи ҳуқуқӣ, мубориза бар зидди ҷинояткорӣ ва таҳкими қудрати дифоии давлат баррасӣ шуд.
Заседание Совета безопасности Республики Таджикистан
В работе заседания приняли участие постоянные члены и члены Совета безопасности, сотрудники Аппарата Совета безопасности, руководители силовых структур и правоохранительных органов.
На заседании обсуждалась ситуация обеспечения безопасности и стабильности, верховенства закона и правопорядка, борьба с преступностью и укрепление обороноспособности государства.
#ЭмомалӣРаҳмон#ЭмомалиРахмон#EmomaliRahmon#Тоҷикистон#Таджикистан#Tajikistan#Президент#President#Тоҷикон#Таджики#ШуроиАмният#СоветБезопасности#SecurityCouncil
President.tj | Facebook | Instagram | Telegram | X | Youtube
@RusEmbMalta:
🇷🇺🛡️13th International Security Meeting to Be Held in Moscow
📅 On May 27–29, 2025, Moscow will host the 13th International Meeting of High Representatives for Security Issues under the chairmanship of Secretary of the Russian Security Council Sergey Shoigu.
🌍 More than 150 countries from the Global South and East have been invited to participate, along with representatives of the #CIS, #CSTO, #EAEU, #SCO, and over 20 international organizations.
🗂️ The meeting will focus on strengthening international security cooperation. Discussions will cover a broad range of challenges, including terrorism, extremism, transnational crime, drug trafficking, and emerging threats.
🧭 Since 2010, this annual platform has brought together senior security officials to build trust, share expertise, and coordinate efforts on pressing global security issues.
📌 Media accreditation is open until May 20, 2025.
#Shoigu#SecurityCouncil#InternationalMeeting#Moscow2025#GlobalSecurity#Counterterrorism#Multilateralism#CIS#SCO#BRICS#CSTO#EAEU#GlobalSouth