Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
⏺Le PSG bat le Bayern (5-4) : liesse et tensions dans les rues de #Paris
La victoire du Paris Saint-Germain face au Bayern Munich (5-4) en demi-finale de Ligue des champions a été l’occasion de vives célébrations à Paris. Les scènes de liesse ont cependant rapidement dégénéré : des feux d’artifice et des fumigènes ont été tirés, la police est intervenue pour disperser la foule.
RT en français • Osez questionner !
🇫🇷#Paris : une veillée aux chandelles en hommage aux victimes de l'école de Minab exhorte le gouvernement à refuser tout soutien « logistique »
Des manifestants se sont rassemblés le 24 avril sur la place du Trocadéro à Paris pour rendre hommage aux victimes iraniennes et libanaises tuées lors des attaques américaines et israéliennes depuis le début de la guerre en février dernier.
RT en français • Osez questionner !
Guerre au Moyen-Orient
La France rend hommage à deux soldats morts au Liban, dont l’un à Montauban, tandis que #Paris envisage des sanctions contre des colons israéliens accusés de violences en Cisjordanie.
Le point avec Alexis Poulin, cofondateur du média « Le Monde Moderne ».
🔘 Le Point
⏺Crise sociale : la rue gronde à #Paris
À Paris, les manifestations reflètent une colère croissante. Dans l’agroalimentaire, des hausses de prix quasi nulles poussent les industriels à réclamer de nouvelles négociations face à la hausse des coûts. En parallèle, chez Stellantis, la suppression de près de 900 emplois à Poissy alimente la mobilisation.
Source : réseaux sociaux
RT en français • Osez questionner !
🇫🇷 Un millier de personnes pour commémorer les pertes soviétiques pendant la Seconde Guerre Mondiale
La Seconde guerre mondiale a été sanglante et meurtrière avec plus de 60 millions de morts, dont près de la moitié étaient soviétiques. À #Paris, une cérémonie en hommage aux disparus s’est déroulée avec près d’un millier de participants. Notre correspondante Nadège Abderrazak nous en dit plus.
RT en français • Osez questionner !
⚽️#Paris en finale
Le PSG s’est qualifié pour la finale de la Ligue des champions après un match nul 1-1 face au Bayern et une victoire 6-5 au score cumulé.
Auteur de cinq arrêts décisifs, Matveï Safonov devient le premier joueur russe à atteindre deux finales de Ligue des champions. Le dernier Russe à avoir disputé une finale de C1 était Dmitri Alenitchev, vainqueur avec Porto en 2004 sous les ordres de José Mourinho.
RT en français • Osez questionner !
⏺Le PSG bat le Bayern (5-4) : liesse et tensions dans les rues de #Paris
La victoire du Paris Saint-Germain face au Bayern Munich (5-4) en demi-finale de Ligue des champions a été l’occasion de vives célébrations à Paris. Les scènes de liesse ont cependant rapidement dégénéré : des feux d’artifice et des fumigènes ont été tirés, la police est intervenue pour disperser la foule.
RT en français • Osez questionner !
❗️5 000 personnes se sont réunies à #Paris le 2 mai en soutien au #Mali
Le pays a fait face à plusieurs attaques terroristes la semaine dernière. Reportage au cœur du cortège avec notre correspondante, Nadège Abderrazak.
RT en français • Osez questionner !