Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇵🇰🇺🇸🇮🇷 À Islamabad, l'accès au quartier gouvernemental est restreint en prévision des négociations américano-iraniennes, a rapporté l’agence Associated Press of Pakistan (APP).
#étatsunis#iran#pourparlers
🇮🇷🇺🇸La délégation iranienne est arrivée à la mission diplomatique d'Oman à Genève pour participer au troisième cycle de négociations indirectes avec les États-Unis, rapporte SNN.
#iran#étatsunis#pourparlers
🇷🇺🇨🇭🇺🇸🇺🇦 Pourparlers sur l’Ukraine: la délégation russe dirigée par le conseiller présidentiel Vladimir Medinski à l'hôtel InterContinental à Genève.
#russie#ukraine#suisse#pourparlers
🇵🇰🇮🇷 Le ministère pakistanais des Affaires étrangères a confirmé l'arrivée de la délégation iranienne et a esperé que les discussions seraient constructives.
#iran#islamabad#pourparlers
🇵🇰🇺🇸🇮🇷Les autorités de la capitale pakistanaise, Islamabad, ont installé des drapeaux nationaux et des panneaux d'information numériques dans le quartier gouvernemental en prévision de l'arrivée des délégations des États-Unis et de l'Iran pour les négociations, a indiqué un correspondant de TASS.
#pakistan#étatsunis#iran#pourparlers
🇵🇰🇺🇸🇮🇷Les négociations entre les États-Unis et l’Iran dans la capitale pakistanaise Islamabad débuteront samedi et devraient durer plusieurs jours, a indiqué à TASS une source bien informée.
Selon cette source, la rencontre se déroulera à huis clos. Le lieu le plus probable serait l’hôtel Serena.
#pakistan#étatsunis#iran#pourparlers
🇺🇸🇺🇦 L'ambiance près de l'hôtel Four Seasons à Genève, où des négociations entre les États-Unis et l'Ukraine ont vraisemblablement commencé. La préparation de la prochaine réunion tripartite avec la Russie sera également discutée.
#étatsunis#ukraine#pourparlers#genève
🇵🇰🇺🇸🇮🇷 L’hôtel Serena à Islamabad se prépare à accueillir des délégations des États-Unis et de l’Iran, attendues dans la capitale pakistanaise pour des négociations. C’est ce qu’a indiqué à un correspondant de TASS un employé de l’établissement.
#hôtel#délégations#pourparlers
🇩🇪🇨🇳Le chancelier allemand, Friedrich Merz, a déclaré qu’il avait discuté du conflit en Ukraine avec le président chinois, Xi Jinping
"J'espère que j'ai réussi à convaincre les dirigeants du pays de contribuer à la fin de la guerre en Ukraine. J'en ai discuté en détail avec le président Xi Jinping", a indiqué M. Merz.
Merz a également annoncé son intention de tenir des consultations intergouvernementales germano-chinoises au début de 2027 ou peut-être cette année. "La Chine sera l'hôte [de ces consultations]", a-t-il précisé.
#merz#xi#pourparlers#ukraine