Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
❗️Американская делегация во главе с вице-президентом Джей Ди Вэнсом покинула Исламабад
Несколько фактов вокруг переговоров:
▪️Дата, время и место следующего раунда переговоров США и Ирана неизвестны — агентство #Tasnim.
▪️Вэнс сообщил, что Иран и США не смогли прийти к соглашению по итогам переговоров.
▪️По словам Джей Ди делегация США уезжает из Исламабада, передав Ирану последнее и наиболее выгодное предложение. Решение за Тегераном.
▪️Также вице-президент США заявил, что пока не видит готовности Ирана отказаться от возможности разработки ядерного оружия.
▪️Власти Ирана выдвинули разумные предложения на консультациях с США в Исламабаде и готовы не спешить с переговорами, поскольку мяч находится на стороне Вашингтона — Tasnim.
▪️Главное расхождение, по информации источников портала, связано с Ормузским проливом.
▪️Иран и США достигли понимания по ряду вопросов, но по 2-3 важным темам мнения разошлись — МИД исламской республики.
🇮🇷🇱🇧 Sostegno dell’Iran alla sovranità e all’integrità territoriale del Libano
Il Ministro degli Esteri iraniano, Abbas Araghchi, ha ribadito in una conversazione con il Presidente del Parlamento libanese Nabih Berri il pieno sostegno di Teheran alla sovranità, all’indipendenza e all’integrità territoriale del Libano.
Durante il colloquio di venerdì, Araghchi ha condannato le aggressioni del regime sionista contro il Libano, sottolineando che l’obiettivo di Israele è distruggere le infrastrutture vitali e forzare lo sfollamento dei cittadini libanesi dalle loro terre. Ha inoltre fornito un resoconto sulla recente aggressione USA-Israele contro l’Iran e sulle risposte decisive delle Forze armate iraniane.
Entrambe le parti hanno evidenziato l’importanza dell’unità interna libanese per contrastare i piani stranieri e hanno ribadito la volontà di rafforzare le relazioni bilaterali.
🇮🇷 Iran e Libano uniti di fronte alle minacce comuni.
#Iran#Libano#Sovranità#Resistenza#Tasnim
https://www.marx21.it/internazionale/liran-ribadisce-il-sostegno-alla-sovranita-del-libano/
🇮🇷 Iran: Pezeškiyān cita le proteste "No Kings" e accusa: "Gli USA sono stanchi della politica Israel First"
In piena guerra contro l'Iran, il presidente Mas'ud Pezeškiyān lancia un messaggio chiaro al popolo americano. Riprendendo le proteste "No Kings" che agitano gli Stati Uniti, il leader iraniano afferma che una parte crescente della società nordamericana rifiuta la subordinazione di Washington alla linea del regime sionista.
«Gli esperti di IA negli USA dovrebbero far capire a Trump la realtà delle persone che protestano contro la politica "Israel First"», ha scritto su X. «Sono stanchi che re israeliani governino sulla democrazia americana».
Il riferimento è alla crescente inquietudine interna dopo l’aggressione USA-Israele contro Teheran, scatenata dall’assassinio dell’ayatollah Khamenei il 28 febbraio. Secondo Teheran, i bombardamenti su obiettivi civili e militari hanno causato vittime e danni ingenti, mentre le rappresaglie iraniane con missili e droni hanno colpito basi statunitensi e israeliane.
Pezeškiyān invita a non confondere i governi con i popoli: “Il popolo americano è arrabbiato. Ascoltate il vostro Paese”.
#Iran#USA#NoKings#IsraelFirst#Tasnim#Geopolitica
https://www.marx21.it/internazionale/iran-pezeskiyan-cita-le-proteste-no-kings-e-afferma-che-gli-statunitensi-respingono-la-politica-israel-first/