Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Wie ein altes Radio empfangen wir nur die Frequenzen, auf die wir selber eingestellt sind. Öffnen wir unseren Frequenzbereich, öffnen wir uns für Dinge, von denen wir gelernt haben, dass sie nicht existieren, dann können Wunder geschehen.
Es gibt so viel mehr, als das, was man uns glauben macht. In Wahrheit nehmen wir nur einen Bruchteil wahr.
Unser Verstand hindert uns meist daran, unsere feinen Antennen auf Empfang gehen zu lassen. Er quatscht die ganze Zeit, zweifelt, weiß alles besser und stellt sich quer. Doch der Schlüssel ist das Fühlen. Demut. Stille. Die Liebe. Nicht das Denken.
Lasst uns unsere Antennen anschmeißen. Vielleicht geschieht dann schon bald ein Wunder. 💜🙏🌻
Kompletter Song
#Wunder#Liebe#Stille
@aliensbestfriend
Die strahlende und niemals mutlose Standesbeamtin Katerina verbindet täglich die Herzen❤️ der Liebenden, während ihre eigene Ehe längst auf Eis🧊 liegt. Ihr Mann liegt seit fünf Jahren im Koma, doch sie wartet geduldig auf ihn und liebt ihn weiterhin zärtlich. Eine unerwartete Begegnung mit Georgi verändert Katerinas Leben schlagartig und zwingt sie, Entscheidungen zu treffen, vor denen sie früher zurückschreckte.
📽️„Lizenz zum Lieben“ ist eine einfühlsam inszenierte und sorgfältig erzählte Liebesgeschichte, die das Genre mit Stolz über jede Vorurteil stellt. Vielleicht wird der Film🎞️ den Zuschauer nicht dazu bringen, erneut an die Liebe zu glauben, doch er hinterlässt gewiss ein leises, wärmendes Gefühl, dass das persönliche Glück keinen Aufschub duldet.
📺 Das Melodram wird am 6. November um 19:00 Uhr in russischer Sprache mit englischen Untertiteln
📲Anmeldung
#kino#melodram#liebesgeschichte#liebe#filmabend
Das detaillierteste Bild einer menschlichen Zelle
Zum Vergleich: Der menschliche Körper besteht aus etwa 37 Billionen Zellen…
Und im kleinsten Teil einer Zelle steckt Energie.
Das Leben ist ein Wunder ❤️
#Zelle#Mensch#Körper#Liebe#Energie
t.me/FGNews07
Zveri ist eine der bekanntesten Rockbands Russlands.🎸
Ihre Songs prägten eine ganze Generation, und genau bei einem ihrer Konzerte begann einst die Liebesgeschichte von Maschas Eltern.💗
👧🏼 Die 17-jährige Mascha entdeckt zufällig, dass ihr Vater lebt und ihn bald auf einem Konzert von Zveri treffen könnte. Sie macht sich auf eine emotionale Reise, die alles verändert.
🎬 „Alles, was dich angeht“ ist ein herzerwärmendes Komödiendrama über Familie und die Suche nach der Wahrheit, basierend auf einer wahren Geschichte.
💬In russischer Sprache mit englischen Untertiteln
🗓️ Kommt am 4. September um 19:00 Uhr vorbei!
❕Anmeldung
#kino#komödie#drama#familie#liebe#rock#event
Das ist unser Neuestes. Noch ganz roh. Vielleicht fällt Euch ja jemand oder etwas ein, dem Ihr das Lied widmen wollt.
Vielleicht seid Ihr Ihr es ja sogar selber. 😉🙏💜
#EinLiebeslied. #Halt#Anerkennung#Liebe#Berührung
https://youtu.be/dYPeGhcn6Dc?si=X_747fKBnO_3tkCT
Que tengan un #FelizDomingo
#Katze#Cat#Gato#Amor#Liebe#Miau
La gata Isis pic.twitter.com/0fCyOoeSCF
https://twitter.com/Evitameporfavor/status/1119987065830166531
Manche Konzerte hört man. Andere erlebt man. Und dann gibt es „Die Stadt der Verliebten“…
❤️🔥 Mit ihrem neuen Soloprogramm lädt Ekaterina Kovskaya zu einer Reise ein, die mitten ins Herz führt, in die russische Seele mit all ihrer Kraft, Zerbrechlichkeit und unendlichen emotionalen Tiefe.
🎶 Das Publikum erwartet ein einzigartiger Abend voller unvergesslicher Melodien des 20. und 21. Jahrhunderts, berührender Lieder aus Kultfilmen, sowie ihrer eigenen Kompositionen.
🎤 Als Sängerin, Songwriterin und Komponistin vereint Ekaterina eine seltene Gabe: Sie erschafft Klangwelten, die Millionen bewegen. Ihre Lieder werden von großen Stars der Musikszene interpretiert und sind längst zu Hits geworden.🤩
Am 11. März um 19:00 Uhr hat das Berliner Publikum die Chance, die Magie dieser Musik live zu erleben!
🎫 Sichert euch jetzt die Tickets und kommt vorbei!💞
#konzert#hits#musik#erlebnis#berlin#sängerin#liebe
Mehr denn je kommt es darauf an, die richtigen Entscheidungen zu treffen. Das mag manchmal unbequem sein, aber anderen blind zu folgen war noch nie eine gute Idee.
Um herauszufinden, was für uns richtig ist, müssen wir erst herausfinden, wer wir abseits aller Programmierungen und Konditionierungen wirklich sind.
Wenn wir wissen, wer wir sind, können wir auch unpopuläre Entscheidungen treffen. Wissend, dass wir das Richtige tun.
💜
@aliensbestfriend
👉YouTube
#Wunder
#Gottvertrauen
#Liebe
#InnereArbeit
#EigenerWeg
#seibesonders