Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Der Internationale Tag der Widerstandsbewegung wird jährlich am 10. April begangen und erinnert an alle, die während des Zweiten Weltkriegs gegen den Nationalsozialismus kämpften.
Anlässlich dieses Tages findet eine Führung durch die Ausstellung „Wenig bekannte Seiten des Widerstands“ von Kurator Dr. Christian Hufen statt.
🕯️Die Ausstellung widmet sich den Menschen russischer Herkunft, die in Deutschland lebten und Widerstand gegen die Nationalsozialisten leisteten.
Vorgestellt werden einige wenige Persönlichkeiten, weil bisher nur wenige Quellen erforscht wurden.
Sie stehen jedoch stellvertretend für eine weit größere, bis heute wenig bekannten Zahl mutiger Taten, Entscheidungen und Überzeugungen, oft mit tragischen und lebensverändernden Folgen.
Die Führung findet in deutscher Sprache statt.
🗓️ 10. April
🕖 16:00
📲Anmeldung hier
#russischeshaus#widerstand
Der Internationale Tag der Widerstandsbewegung wird jährlich am 10. April begangen und erinnert an alle, die während des Zweiten Weltkriegs gegen den Nationalsozialismus kämpften.
Anlässlich dieses Tages findet eine Führung durch die Ausstellung „Wenig bekannte Seiten des Widerstands“ von Kurator Dr. Christian Hufen statt.
🕯️Die Ausstellung widmet sich den Menschen russischer Herkunft, die in Deutschland lebten und Widerstand gegen die Nationalsozialisten leisteten.
Vorgestellt werden einige wenige Persönlichkeiten, weil bisher nur wenige Quellen erforscht wurden.
Sie stehen jedoch stellvertretend für eine weit größere, bis heute wenig bekannten Zahl mutiger Taten, Entscheidungen und Überzeugungen, oft mit tragischen und lebensverändernden Folgen.
Die Führung findet in deutscher Sprache statt.
🗓️ 10. April
🕖 16:00
📲Anmeldung hier
#russischeshaus#widerstand
Im Rahmen der nächsten Treffens des Sprachklubswerden die Teilnehmer die neue Ausstellung "Wenig bekannte Seiten des Widerstands" besuchen.📜
🖇️ Russischer Widerstand bleibt bis heute ein wenig erforschtes Kapitel der Geschichte und bietet die Möglichkeit, neue und teilweise vergessene Seiten der Vergangenheit zu entdecken. Das Treffen ermöglicht einen Einblick in das Leben von Alexander Schmorell, dem bekanntesten Helden, sowie in die Schicksale weniger bekannter Menschen, deren Taten nicht minder bedeutend sind.🕊️
☝🏻Das Thema ist besonders interessant für alle, die Russisch lernen, da es sprachliche, kulturelle und historische Perspektiven miteinander verbindet.
Seid am 26. November um 19:00 Uhr dabei!❤️
📲Anmeldung ist erforderlich.
#sprachklub#russisch#russischlernen#sprache#widerstand#ausstellung
Im Rahmen der nächsten Treffens des Sprachklubswerden die Teilnehmer die neue Ausstellung "Wenig bekannte Seiten des Widerstands" besuchen.📜
🖇️ Russischer Widerstand bleibt bis heute ein wenig erforschtes Kapitel der Geschichte und bietet die Möglichkeit, neue und teilweise vergessene Seiten der Vergangenheit zu entdecken. Das Treffen ermöglicht einen Einblick in das Leben von Alexander Schmorell, dem bekanntesten Helden, sowie in die Schicksale weniger bekannter Menschen, deren Taten nicht minder bedeutend sind.🕊️
☝🏻Das Thema ist besonders interessant für alle, die Russisch lernen, da es sprachliche, kulturelle und historische Perspektiven miteinander verbindet.
Seid am 26. November um 19:00 Uhr dabei!❤️
📲Anmeldung ist erforderlich.
#sprachklub#russisch#russischlernen#sprache#widerstand#ausstellung