Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇩🇪La baleine Timmi, qui tentait de quitter la baie de Wismar, s’est à nouveau échouée sur un banc de sable près de l’île de Poel, a annoncé le ministre de l’Environnement du Mecklembourg-Poméranie-Occidentale, Till Backhaus.
L’animal avait atteint le port de Kirchdorf avant de faire demi‑tour et de s’échouer sur un banc de sable.
Photo: REUTERS/Annegret Hilse
#baleine#baltique
La baleine Timmy a été dégagée au terme d'une nouvelle tentative de sauvetage. L’opération entreprise par des activistes, malgré les prévisions désespérées des spécialistes ces dernières semaines, consistait à tracter le cétacé des deux côtés pour le guider dans un chenal creusé pour l’occasion. L’équipe a réussi à charger l’animal dans une barge remplie d’eau avant de la remorquer vers la mer du Nord.
Till Backhaus, ministre de l'Environnement du Mecklembourg-Poméranie-Occidentale, a confirmé que la baleine se sentait bien. L’homme politique avoue avoir pleuré à bord de la barge et sentir un grand soulagement.
Pour rappel, le mammifère, qui pèse une quinzaine de tonnes, a été découvert près de la commune de Timmendorfer Strand le 23 mars. L’animal, surnommé par les médias allemands Timmy, a réussi à regagner les eaux profondes, avant de revenir de nouveau vers la côte. Depuis, il était considéré comme voué à un décès tragique, les écologistes ayant épuisé leurs moyens d’aide.
#baleine#sauvetage#allemagne
🇩🇪 Une baleine à bosse échouée sur le littoral baltique a réagi à l’approche de personnes en projetant des jets d’eau et en se déplaçant légèrement pour la première fois depuis le 31 mars, a rapporté l’agence DPA.
#baleine#allemagne#sauvetage
🇩🇪 Des défenseurs des animaux et secouristes allemands ont entrepris jeudi matin l’une des dernières tentatives pour libérer une baleine à bosse échouée sur un banc de sable en mer Baltique, dans le nord de l’Allemagne.
Le cétacé, qui fait de douze à quinze mètres de long et qui pèse une quinzaine de tonnes, est secouru depuis quatre jours: il a été découvert près de la commune de Timmendorfer Strand le 23 mars, rapporte le journal Bild.
Deux excavatrices sont mobilisées pour creuser un chenal de 50 mètres de long, 6 mètres de large et 1,2 mètre de profondeur devant la tête de l’animal afin de lui permettre de regagner le large. Cependant, l’opération de sauvetage est compliquée par les courants et les vents.
#allemagne#baleine#sauvetage