Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
News: Following months of mutual accusations, #Eritrean President Isaias Afwerki accuses #Ethiopia of declaring war, dismisses Red Sea narrative
Eritrean President #Isaias Afwerki on Monday accused Ethiopia of declaring war on Eritrea and rejected narratives framing the tensions as a dispute over #Red_Sea access, in comments aired on Eritrean state television.
Following an extended discussion on United States foreign policy, President Isaias turned to his deteriorating relations with Ethiopia’s ruling party.
He rejected claims that tensions between the two countries are linked to access to the Red Sea, insisting that Eritrea harbors no such ambition. “For us, it is not directly about the Red Sea,” he said.
The Eritrean leader accused Ethiopia’s ruling Prosperity Party of advancing a broader militarized agenda, claiming that armed conflicts have persisted across the country despite the signing of the Pretoria peace agreement.
Isaias further alleged that ...
Read more: https://addisstandard.com/?p=54519
News: #Saudi deputy foreign minister meets #Ethiopian FM week after Isaias talks in Asmara
Saudi Arabia’s Vice Minister of Foreign Affairs, Waleed A. M. Elkhereiji, met with Ethiopia’s Minister of Foreign Affairs, Gedion Timothewos, in Addis Abeba, a week after holding talks with #Eritrean President #Isaias Afwerki in #Asmara.
According to a statement from the Ethiopian Ministry of Foreign Affairs, the two officials discussed the “strong and longstanding bilateral relations” between Ethiopia and the Kingdom of Saudi Arabia, underscoring the importance of elevating ties to “a new high.” They also exchanged views on regional peace & security issues of mutual interest.
Ethiopia’s Minister of Foreign Affairs offered no additional information in the statement.
The meeting comes a week after Saudi Vice Foreign Minister Waleed A. M. Elkhereiji held talks in Asmara with Eritrean President...
Read more: https://addisstandard.com/saudi-deputy-foreign-minister-meets-ethiopian-fm-week-after-isaias-talks-in-asmara/
🚀✨ ¡Comenzamos una nueva etapa en nuestra serie de las Sagradas Escrituras!
Hoy nos adentramos en los Libros Proféticos con uno de sus gigantes: Isaías.
Junto a Daniel Osorio, descubriremos su mensaje lleno de esperanza y promesa mesiánica.
📅 Hoy | 🕑 2:00 p.m.
📻 Tu Emisora Minuto de Dios
🎙#LaCatequesis
📖 “El pueblo que caminaba en tinieblas vio una gran luz” (Is 9,1).
#fesencillavidailuminada#minutodediosmed#trilocosxjesus#Biblia#Isaias#Profeticos#PalabraQueTransforma