Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
💻 IT sohasida ayollar uchun yaratilayotgan imkoniyatlar bilan yaqindan tanishishga shoshiling!
24 – 27-oktabr kunlari Toshkent shahrida yilning eng yirik IT haftaligi – ICTWeek Uzbekistan 2023 tadbiri bo‘lib o‘tadi.
Haftalikning muhim tadbirlaridan biri – IT sohasida ayollar uchun yaratilayotgan imkoniyatlar bilan yaqindan tanishtirishga bag‘ishlangan “Empowering Women in IT: Leading the Digital Revolution” (Ayollarning IT sohasidagi imkoniyatlarini kengaytirish: raqamli inqilobga rahbarlik qilish) sammiti hisoblanadi.
🤵♀️Sammitda qizlar uchun yangi loyihalar haqida ma’lumot beriladi. Unda qo‘shni davlatlardan va xalqaro tashkilotlardan ekspertlar, mutaxassislar hamda ushbu yo‘nalishda muvaffaqiyatga erishgan xotin-qizlar qatnashadi.
Ushbu tadbi 25-oktabr, soat 15:00 da Raqamli texnologiyalar vazirligi binosida bo‘lib o‘tadi.
Imkoniyatni qo‘ldan boy bermang, ICTWEEK da ishtirok eting!
☎️ (+998 77) 707-66-00, (+998 77) 707-00-66.
🟣ictweek.uz
#digital
#ictweek2023
#ITwomen
📌Telegram|Facebook|Instagram|Youtube|Threads |Twitter
Мы подчеркиваем важность девушек в IT и поддержали эту тему на ICT Week.
В рамках выступлений на тему цифровизации и информационных технологий, представитель VEON AdTech Моника Авакьян рассказала о растущей значимости девушек в IT. Преодоление стереотипов и предубеждений, непредвзятое менторство и поддержка, а также инклюзивность играют существенную роль в гендерном равенстве технологической индустрии.
"Расширение прав и возможностей девушек в IT-индустрии является не только вопросом социальной справедливости, но и стратегическим императивом", — подчеркнула Моника Авакьян.
Команда VEON AdTech считает, что успех не знает гендерных границ, а сочетание технических знаний и навыков работы с людьми может привести к выдающимся достижениям!
– – –
We always emphasize the importance of ladies in IT and therefore supported this topic at ICT Week.
As part of the presentations on digitization and information technology, VEON AdTech representative Monica Avakian spoke about the growing significance of young female professionals in IT. Overcoming stereotypes and biases, inclusivity, open-minded mentorship, and support play a significant role in achieving gender equality in the technology industry.
"Expanding the rights and opportunities for girls in the IT industry is not only a matter of social justice but also a strategic imperative," emphasized Monica Avakian.
The VEON AdTech team believes that success knows no gender boundaries. The combination of technical knowledge and people skills can lead to outstanding achievements!
#VEONAdTech#IT#innovations#womeninIT#career#ICTWeek2023
С 24 по 27 октября в Ташкенте проходит ICT Week - форум о развитии IT-отрасли и технологиях. СЕО VEON AdTech George Held выступил на конференции с лекцией «Заменит ли искусственный интеллект человечество» и принял участие в панельной дискуссии «Создание экосистемы стартапов Узбекистана: привлечение венчурного капитала и расширение глобального охвата».
Основываясь на богатом опыте работы в цифровых технологиях, George Held считает искусственный интеллект мощным инструментом развития человечества. При использовании во благо, он имеет огромный потенциал для улучшения всех сфер жизни, включая работу, здравоохранение, образование и межличностные отношения.
«Индустрия информационных технологий продолжает развиваться и вносить значительный вклад в мировую экономику. По своему опыту могу сказать, что несмотря на стереотипы, IT-стартап требует не только математический расчет, но и живой творческий подход», — подчеркнул George Held.
– – –
ICT Week, a forum on the development of the IT industry and technologies, is taking place in Tashkent from October 24th to 27th. CEO of VEON AdTech, George Held, delivered a lecture titled "Will Artificial Intelligence Replace Humanity?" at the conference and participated in a panel discussion on "Unlocking the Uzbekistan Startup Ecosystem: Attracting Venture Capital and Expanding Global Reach."
Drawing on his extensive experience in digital technologies, George Held believes that Artificial Intelligence is a powerful tool for human development. When used for the greater good, it has huge potential to improve all aspects of life, including work, healthcare, education, and interpersonal relationships.
"The information technology industry continues to evolve and significantly contribute to the global economy. Based on my experience, despite stereotypes, an IT startup requires both mathematical calculations and a lively creative approach," emphasized George Held.
#VEONAdTech#IT#innovations#bigdata#AI#ITeducation#ICTWeek2023