Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇷🇺🚀 La fusée russe Proton-M qui devrait lancer un satellite météorologique a été installée sur la plateforme de lancement de Baïkonour, a annoncé la société publique Roscosmos.
#russie#espace#roscosmos
🚀Premier lancement de la fusée Soyouz-5 depuis #Baïkonour
La fusée porteuse Soyouz-5 a décollé avec succès à 21 heures précises, heure de Moscou depuis la rampe de lancement numéro 45 du cosmodrome de Baïkonour. Ce lancement était le premier essai en vol du nouveau lanceur russe de classe moyenne dans le cadre des essais de vol et de conception. C'est ce qu'a annoncé #Roscosmos.
Ses représentants précisent que les premier et deuxième étages de la fusée ont fonctionné normalement pendant le vol, que la maquette de charge utile a été placée sur la trajectoire suborbitale prévue, avant de retomber dans une zone de l'océan Pacifique préalablement fermée à la navigation et à l'aviation.
RT en français • Osez questionner !
🚀Premier lancement de la fusée Soyouz-5 depuis #Baïkonour
La fusée porteuse Soyouz-5 a décollé avec succès à 21 heures précises, heure de Moscou depuis la rampe de lancement numéro 45 du cosmodrome de Baïkonour. Ce lancement était le premier essai en vol du nouveau lanceur russe de classe moyenne dans le cadre des essais de vol et de conception. C'est ce qu'a annoncé #Roscosmos.
Ses représentants précisent que les premier et deuxième étages de la fusée ont fonctionné normalement pendant le vol, que la maquette de charge utile a été placée sur la trajectoire suborbitale prévue, avant de retomber dans une zone de l'océan Pacifique préalablement fermée à la navigation et à l'aviation.
RT en français • Osez questionner !
🇷🇺 Pour son travail au bureau orbital de l'agence TASS sur la Station spatiale internationale (ISS), le cosmonaute de Roscosmos Alexeï Zoubritski a reçu la médaille commémorative TASS à l’ISS.
La médaille lui a été remise par le directeur général de TASS, Andreï Kondrachov.
#tass#roscosmos#iss#zoubritski
Nello spazio non c'è #guerra
Immagini del ritorno sulla Terra dei #cosmonauti di #Roscosmos Sergei #Ryzhikov e Alexei #Zubritsky, nonché dell'astronauta della #NASA Jonathan #Kim.
👉 Un momento delicato e sempre emozionante. Per un russo poi non ne parliamo. Lo spazio è un tema sacro.
E quanto è bello vedere #russi e #statunitensi collaborare (come sempre) nello #spazio.
#tatianasanti
SEGUI Tatiana Santi:
Telegram | YouTube | Sito Web
📱Donazioni