Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
JetTon Games: Tarot Forecast from May 5 to May 11
#JetTon#Tarot
JetTon Games presents a Tarot forecast based on the last digit of your phone number, helping you discover lucky days. Each number corresponds to a Tarot card, offering unique advice for the week.
Source: link
@tonlines
Бог не играет в кости; ведь уже существует готовая колода Таро: gli schemi inumani.
Её предзаказом и последующим распространением в массы по моей просьбе готов заниматься @LeGrandHamster. Торопитесь! Торопитесь! Ну, или не торопитесь, никуда она уже не денется.
Возможно погадать прямо в ближайшие дни — есть экземпляр с тестовой печати, но он стоит совершенно бешеные четыре тысячи. Если у вас есть лишние деньги, лучше поддержать автора-исполнителя и его дальнейшие прожекты непосредственно, прямым переводом на Сбер по телефону +79608223449; моя признательность не будет иметь границ.
На этом моя #tarot#златоключ пока всё.
Just a random update, I got new oracle decks & I'm loving them so much 🥰
🌼 Follow me on Instagram for occasional free daily/weekly/pick a pile reading 😘
🌼 Follow my Shopee shop account to browse and book private readings if you're interested from as low as MYR2.22 - MYR 25.00.
#tarot#oracle#chupdate
@quietworld🍃
An honest feedback from someone living in Australia. Couldn't purchase through Shopee because Shopee isn't available in Australia ☹️, so she asked her Malaysian friend to purchase the reading on behalf of her ❤️
Thank you for the trust ✨🦋
#chupdate#tarot#oracle
@quietworld🍃
All that is needed is your full name, date of birth & one question for the day ☺
Interested?
1️⃣ Click the button below.
2️⃣ Follow The Butterfly🦋
3️⃣ DM the IG for your free daily oracle ❤️✨
#chupdate#tarot#oracle
@quietworld🍃
All that is needed is your full name, date of birth & one question for the day ☺
Interested?
1️⃣ Click the button below.
2️⃣ Follow The Butterfly🦋
3️⃣ DM the IG for your free daily oracle ❤️✨
#chupdate#tarot#oracle
@quietworld🍃