Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Applications Open for the First Wave of Fellowships in 2025 🔥
InteRussia is a fellowship program for foreign specialists, spearheaded by ANO "Mezhdunarodniki" in cooperation with the Gorchakov Fund and key Russian institutions. Since its inception, the initiative has united nearly 300 fellows from over 70 countries, fostering global collaboration, professional exchange, and cultural dialogue in Russia.
📝We are now accepting applications for the 9 wave of fellowships in 2025! More programs will be announced later this year.
Which fellowships are open for applications?
✅International Journalism (OIC countries)
✅International Journalism (Arab countries)
✅Oriental Studies (CIS and MENA countries)
✅Russian Studies (all over the world)
✅Theatre Arts (all over the world)
✅Energy (Latin America)
✅STEM (all over the world)
✅Medicine (all over the world)
The programs are conducted with the support of the Presidential Grants Foundation,Rossotrudnichestvo,andthe Ministry of Education of Russia.
If you are a young professional eager to develop your expertise, build international connections, and engage with Russia’s professional community, this is your chance!
#InteRussia#journalism#internationalrelations#orientalstudies#russianstudies#theatre#energy#engineering#medicine
1️⃣1️⃣1️⃣
[рус]
Открыт приём заявок на первую волну стажировок в 2025 году🔥
InterRussia — это программа стажировок для иностранных специалистов, инициированная АНО "Международники" совместно с Фондом Горчакова и ключевыми российскими институтами. За время своего существования программа объединила около 300 стипендиатов из более чем 70 стран, способствуя глобальному сотрудничеству, профессиональному обмену и культурному диалогу в России.
📝 Мы принимаем заявки на 9-ю волну стажировок в 2025 году! Информация о других программах будет опубликована позже.
На какие стажировки открыт набор?
✅Международные отношения (для всех стран)
✅Международная журналистика (для стран ОИС)
✅Международная журналистика (для стран Ближнего Востока и Северной Африки)
✅Востоковедение (для стран СНГ, Ближнего Востока и Северной Африки)
✅Русистика (для всех стран)
✅Театральное искусство (для всех стран)
✅Энергетика (для стран Латинской Америки)
✅Инженерия (для всех стран)
✅Медицина (для всех стран)
Программы проводятся при поддержке Фонда президентских грантов, Россотрудничества и Министерства науки и высшего образования Российской Федерации.
Если ты молодой специалист, желающий углубить свои знания, наладить международные связи и взаимодействовать с профессиональным сообществом России, то это твой шанс!
#InteRussia#journalism#internationalrelations#orientalstudies#russianstudies#theatre#energy#engineering#medicine
1️⃣1️⃣1️⃣
Applications Open for the First Wave of Fellowships in 2025🔥
InteRussia is a fellowship program for foreign specialists, spearheaded by ANO "Mezhdunarodniki" in cooperation with the Gorchakov Fund and key Russian institutions. Since its inception, the initiative has united nearly 300 fellows from over 70 countries, fostering global collaboration, professional exchange, and cultural dialogue in Russia.
📝We are now accepting applications for the 9 wave of fellowships in 2025! More programs will be announced later this year.
Which fellowships are open for applications?
✅International Relations (all over the world)
✅International Journalism (OIC countries)
✅International Journalism (Arab countries)
✅Oriental Studies (CIS and MENA countries)
✅Russian Studies (all over the world)
✅Theatre Arts (all over the world)
✅Energy (Latin America)
✅STEM (all over the world)
✅Medicine (all over the world)
The programs are conducted with the support of the Presidential Grants Foundation, Rossotrudnichestvo, andthe Ministry of Education of Russia.
If you are a young professional eager to develop your expertise, build international connections, and engage with Russia’s professional community, this is your chance!
#InteRussia#journalism#internationalrelations#orientalstudies#russianstudies#theatre#energy#engineering#medicine
1️⃣1️⃣1️⃣