Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Trump's granddaughter took last place at her first golf competition 😳🎖️
The debut of Donald Trump's granddaughter in golf turned out to be extremely unsuccessful: on the first day of The Annika women's tournament in Florida, 18-year-old Kai Trump took the last 461st place. 🏌️♀️⛳️
"I was definitely more nervous than I expected. But I think I made a lot of good shots, it's just that a lot of them landed in the wrong place. Since it was my first LPGA (Women's Professional Golf Association) tournament, I now have a rough understanding of how things are going." 🤔🏃♀️
Before the start, Kai asked for advice: both her grandfather, US President Donald Trump, and golf star Tiger Woods became her mentors. They recommended that she just enjoy the game and not be nervous. ⚠️😅
Kai Trump is the daughter of Donald Trump Jr. and Vanessa Trump. The couple divorced in 2018: Vanessa Trump is now in a relationship with Tiger Woods.
#Trump#Golf
👂More on Trump's Ear
Trump spent 30% of his time as president playing golf — of the 225 days of his presidency, he was on his golf courses for 66 days.
#Trump#Golf
👂More on Trump's Ear ⚠️
Yangi golf-kurort majmuasini barpo etish loyihasi muhokama qilindi
Sport vazirligida Malayziyaning “Spora Global Sdn Bhd” kompaniyasi mutasaddilari bilan uchrashuv boʻlib oʻtdi. Unda vazir oʻrinbosari Shahrullo Mahmudov, Oʻzbekiston Milliy Olimpiya qoʻmitasi Bosh kotibi Oybek Kasimov hamda mamlakat golf federatsiyasi raisi Dilshod Toxirov ishtirok etdi.
—
Обсужден проект строительства нового гольф-курортного комплекса
В Министерстве спорта состоялась встреча с представителями малайзийской компании "Spora Global Sdn Bhd". В ней приняли участие заместитель Министра спорта Шахрулло Махмудов, Генеральный секретарь Национального Олимпийского комитета Узбекистана Ойбек Касимов, а также председатель Федерации гольфа страны Дилшод Тохиров.
#Golf#Uchrashuv
👉@OlympicUz
olympic.uz I YouTube I Instagram I