Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇺🇿 Biznes va tadbirkorlik oliy maktabi tomonidan Respublika ilmiy-amaliy konferensiyasi o‘tkazildi
🫥 Tadbir mamlakatimizdagi turli oliy ta’lim va ilmiy-tadqiqot muassasalaridan ilmiy xodimlar, professor-o‘qituvchilar, doktorantlar va mustaqil izlanuvchilarni jamladi.
🇺🇿Высшая школа бизнеса и предпринимательства провела Республиканскую научно-практическую конференцию
🫥
Мероприятие собрало научных сотрудников, профессоров-преподавателей, докторантов и независимых исследователей из различных высших образовательных и научно-исследовательских учреждений нашей страны.
#GraduateSchool#Scientific#Practical#Conference
🔝Web-site |🔝Facebook |🔝Instagram | 🔝Youtube
“Raqamli iqtisodiyotda kapital bozorini rivojlantirish va boshqarish: muammolar va zamonaviy yechimlar” mavzusida o’tkazilgan Xalqaro ilmiy-amaliy konferensiyadan video lavha
🇺🇿Batafsil
#GraduateSchool#Scientific#Practical#Conference
Web-site | Telegram | Facebook | Instagram
Xalqaro ilmiy-amaliy konferensiya: “Raqamli iqtisodiyotda kapital bozorini rivojlantirish va boshqarish: muammolar va zamonaviy yechimlar”
🇺🇿Batafsil
___
International Scientific and Practical Conference: “Development and Management of the Capital Market in the Digital Economy: Challenges and Modern Solutions”
🇬🇧Eng
___
Международная научно-практическая конференция: «Развитие и управление рынком капитала в условиях цифровой экономики: проблемы и современные решения»
🇷🇺Ru
#GraduateSchool#Scientific#Practical#Conference
Web-site | Telegram | Facebook | Instagram
“Qonunchilikni isloh qilishda olimlar va mutaxassislarning roli - Korrupsiyaga qarshi murosasiz kurashamiz” mavzusida ilmiy munozara tashkil qilindi
🔎Batafsil
🇬🇧Eng
🇷🇺Ru
#GraduateSchool#Corruption#Scientific#Discussion
Web-site | Telegram | Facebook | Instagram
The essence of peace and love is fundamentally opposed to the act of killing an innocent creature, such as a sheep. Regardless of who advocates for such actions, participating in violence against a defenseless being aligns one with darkness and cruelty, not light.
Even if this act is presented as divinely sanctioned, the truth remains that taking the life of an innocent animal—who struggles for its existence—is an act of oppression and a crime against compassion.
No justification, religious or traditional, can erase the truth: to take a life that wants to live is an act of brutality.
The deception of evil can be subtle, leading individuals to believe they are on the right path while actually fulfilling the desires of darkness. This act contradicts the principles of peace, love, and justice.
It is far better to turn away from beliefs rooted in darkness and embrace true peace and justice.
Truth cannot be erased. You are not following truth but a darkness whose consequences are evident in your actions. Where there is action against peace, love, and justice, darkness prevails.
Alignment with peace, love, and justice cannot result in the suffering of a being that cries out, that does not want to die.
#vegan#vegans#vegetarian#vegetarians#greenpath#scientific#science
@GreenPathForAll🍀