Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#result
Ko'pgina õquvchilar aniq bir sohani tanlay olisha olmaydi. Tanlashganda ham juda kõp ikkilanishlar bõladi. Ular bilan õzlari xohlagan yõnalishni tanlab, shu yõnalish bo'yicha aniq maqsad sari harakat qilish esa mashaqqatli ish hisoblanadi.
Õquvchilarning universitetlarga ketma-ket kirayotganligi haqidagi xabarlar kelganida esa ushbu mashaqqatlar esdan chiqib, yuzda ajib tabassum hosil bõladi.
Ilm olishda va ilm ulashishda Allohning õzi bardavom qilsin 🤲
Yana ham kõproq natijalarni bilish uchun bizni instagram tarmog'ida kuzatib boring.
#competition#result
👍17-noyabr kuni Oʻzbekiston stol tennisi federatsiyasi bilan hamkorlikda tashkil etilgan “IT Park Table Tennis Cup-2024” turniri oʻz yakuniga yetdi!
🏓 Turnirda 42 ta jamoa ishtirok etdi va kuchli bellashuvlar oʻtkazildi.
🥇 “PAYNET”
🥈 “BRB TECH”
🥉 “UZINFOCOM”, “YUSOLVE”
🏆 Gʻoliblarni samimiy tabriklaymiz! Musobaqada qatnashgan barcha jamoalarga minnatdorchilik bildiramiz. Bu turnir nafaqat sport, balki doʻstlik va hamjihatlikning haqiqiy bayrami boʻldi!
_______
👍The IT Park Table Tennis Cup 2024, organized in collaboration with the Table Tennis Federation of Uzbekistan, successfully concluded on November 17!
A total of 42 teams participated, demonstrating exceptional skill and commitment to victory.
🥇 “PAYNET”
🥈 “BRB TECH”
🥉 “UZINFOCOM”, “YUSOLVE”
🏆 Congratulations to the winners! We extend our gratitude to all teams for their involvement and outstanding performances. This tournament was a true celebration of sportsmanship, friendship, and unity.
Telegram | Instagram | Facebook | Youtube | LinkedIn
@pic
Qué puede hacer este bot?
Este bot puede ayudarle a encontrar y compartir imágenes. Funciona automáticamente, sin necesidad de agregarlo en cualquier lugar. Simplemente abra cualquiera de sus chats y escriba @pic something en el campo de mensaje. A continuación, pulse sobre un resultado para enviar.
Idioma: Inglés
(visto en @BotsGram_cu)
#share, #result, #example, #funny, #message, #pic, #images