Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🌐✨Привет, интернет-серферы! ✨🌐
4️⃣ апреля, мы отмечаем такой привычный, но такой важный для каждого из нас праздник – Международный день интернета!
🌐💻 Кто бы мог подумать, что технология, появившаяся как инструмент для научных исследований, станет неотъемлемой частью нашей жизни, связывая миллионы людей по всему миру?
Интернет – это не просто провод и доступ к информации. Это целый мир, где границы стираются, а возможности безграничны! 🌟 Это место, где мы учимся, работаем, общаемся с близкими, находим вдохновение и даже создаем новые миссии и проекты, как мы, "МедиаФокус"!
Пусть ваш интернет всегда будет быстрым, а онлайн-опыт – позитивным и продуктивным! 🚀
#МедиаФокус#Интернет#Технологии#Онлайн#DigitalWorld#Мир#Инновации#Будущее#DigitalRevolution
💻 FROM ANCIENT SCRIPTS TO DIGITAL CODE: ETHIOPIA'S TECH TAKEOVER
💻 ከጥንታዊ ጽሑፍ እስከ ዲጂታል ኮድ: የኢትዮጵያ ቴክኖሎጂ መቆጣጠር
🔥 КОГДА 3000-ЛЕТНЯЯ ЦИВИЛИЗАЦИЯ ВСТРЕЧАЕТ SILICON VALLEY!
Ethiopian youth aren't just consuming technology - they're CREATING it! 💫
🌟 DIGITAL ETHIOPIA RISING:
🏙️ ADDIS ABABA = AFRICA'S SILICON VALLEY:
- Tech hubs sprouting faster than coffee plants
- Young developers coding the future of Africa
- From ancient Ge'ez script to programming languages!
💡 ETHIOPIAN TECH STARTUPS CHANGING THE GAME:
🚀Ride - Ethiopia's answer to Uber, built for African roads
🚀ZayRide - Local mobility solutions that actually work
🚀Deliver Addis - Food delivery revolutionizing Ethiopian dining
🚀EthSwitch - Fintech making banking accessible to everyone
🚀Gebeya - Training Africa's next generation of developers
🚀iCog Labs - AI and robotics putting Ethiopia on the tech map
📊 THE NUMBERS DON'T LIE:
✨ 50%+ youth population = MASSIVE tech potential
✨ Growing internet penetration = Digital revolution in motion
✨ Government support for tech initiatives = Infrastructure backing innovation
✨ Ancient problem-solving culture + Modern tools = Unstoppable combination
🎯 YOUNG ETHIOPIAN DEVELOPERS SAY:
*"Our ancestors built Lalibela without blueprints - we build apps without limits!"*
*"ቅድመ አያቶቻችን ላሊበላን ያለ ንድፍ ገንብተዋል - እኛ ያለ ገደብ መተግበሪያዎችን እንገነባለን!"*
🔋 THE DIGITAL SWAG:
- Coding in multiple languages (including Amharic interfaces!)
- Building solutions for African problems
- Connecting rural Ethiopia to global markets
- Making ancient wisdom accessible through modern tech
🚀 PLOT TWIST:
While Silicon Valley talks about "disruption," Ethiopia has been disrupting expectations for millennia!
💪 THE FUTURE IS BEING WRITTEN:
In Ethiopian coffee shops, young developers are coding solutions that will change Africa forever!
*From coffee ceremonies to coding ceremonies - the grind never stops* ☕💻
#DigitalEthiopia#የኢትዮጵያቴክኖሎጂ#EthiopianTech#AfricaTech#TechStartups#DigitalRevolution#EthiopianInnovation#TechHub#ኢትዮጵያላይፍ#FutureIsEthiopian