Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
♻️ Что вы знаете о переработке отходов?
🌍 В этой инструкции вы узнаете, какие отходы можно перерабатывать, а какие - нет. Некоторые из них могут вас удивить!
🧠 Пишите в комментариях, какие ещё предметы, по-вашему, можно или нельзя переработать!
✨ Узнайте сегодня - принесите пользу окружающей среде уже завтра!
#Sustainability#NoToPlastic
♻️ Chiqindilarni qayta ishlash haqida nimalarni bilasiz?
🌍 Quyidagi qo'llanmada ayrim chiqindilarni qayta ishlash mumkinmi yoki yo‘qmi - bilib olasiz! Ba’zilar sizni ajablantirishi mumkin!
🧠 Izohlarda yana qaysi buyumlarni qayta ishlash mumkin yoki mumkin emasligi haqida fikringizni yozib qoldiring!
✨ Bugun bilib oling, ertaga atrof-muhitga foyda keltiring!
#Sustainability#NoToPlastic
Пластик есть в гораздо большем количестве мест, чем мы думаем
9️⃣ вещей, в которых есть пластик, и информация о том, как победить пластиковое загрязнение.
🐟🥤 Пластиковое загрязнение не ограничивается только упаковками и контейнерами. Оно присутствует в пыли, воздухе, одежде, рыбе, соли, банках для напитков и даже в человеческой крови. Места, где пластик не присутствует, почти не существует!
🌍💚 Каждый из нас должен внести свой вклад в решение этой проблемы.
#Sustainability#NoToPlastic
@feruzbeksayfulayev
Plastik biz o'ylagandan ko'ra ko'proq joyda mavjud
9️⃣ ta plastik mavjud bo'lgan narsani kashf qiling va plastik ifloslanishni yengish haqida ma'lumotga ega bo'ling.
🐟🥤Plastik ifloslanish faqat idishlar yoki paketlar bilan cheklanmaydi. U chang, havo, kiyimlar, baliqlar, tuz, ichimlik bankalari, hatto inson qonida ham mavjud. Plastik ta'sir etmagan joylar deyarli yo‘q!
🌍💚 Har birimiz bu muammoni hal qilishda o‘z hissamizni qo‘shishimiz kerak.
#Sustainability#NoToPlastic
@feruzbeksayfulayev
♻️ Chiqindilarni qayta ishlash haqida nimalarni bilasiz?
🌍 Quyidagi qo'llanmada ayrim chiqindilarni qayta ishlash mumkinmi yoki yo‘qmi - bilib olasiz! Ba’zilar sizni ajablantirishi mumkin!
🧠 Izohlarda yana qaysi buyumlarni qayta ishlash mumkin yoki mumkin emasligi haqida fikringizni yozib qoldiring!
✨ Bugun bilib oling, ertaga atrof-muhitga foyda keltiring!
#Sustainability#NoToPlastic
___
♻️ Что вы знаете о переработке отходов?
🌍 В этой инструкции вы узнаете, какие отходы можно перерабатывать, а какие - нет. Некоторые из них могут вас удивить!
🧠 Пишите в комментариях, какие ещё предметы, по-вашему, можно или нельзя переработать!
✨ Узнайте сегодня - принесите пользу окружающей среде уже завтра!
#Sustainability#NoToPlastic
Plastik biz o'ylagandan ko'ra ko'proq joyda mavjud
9️⃣ ta plastik mavjud bo'lgan narsani kashf qiling va plastik ifloslanishni yengish haqida ma'lumotga ega bo'ling.
🐟🥤Plastik ifloslanish faqat idishlar yoki paketlar bilan cheklanmaydi. U chang, havo, kiyimlar, baliqlar, tuz, ichimlik bankalari, hatto inson qonida ham mavjud. Plastik ta'sir etmagan joylar deyarli yo‘q!
🌍💚 Har birimiz bu muammoni hal qilishda o‘z hissamizni qo‘shishimiz kerak.
#Sustainability#NoToPlastic
Kanalimizga obuna bo'ling: wasteuz