Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Innei 向 mx-space/core 提交了一个更改
refactor: remove TextMacroService and textOptions config
TextMacroService (text macro replacement for `[[ $var ]]` / `[[ #fn() ]]` syntax)
is no longer needed. All replaceTextMacro calls replaced with direct text usage.
- Delete helper.macro.service.ts and its test/mock files
- Remove TextMacroService injection from post, page, note, markdown modules
- Remove textOptions schema, default config, and DSL section
- Update v10 migration docs with breaking change notice
#Italia#Camera
#FN|ESN ha negato per la seconda volta consecutiva la fiducia al governo Meloni. Il partito di Vannacci si colloca ufficialmente all’opposizione.
@Osservatorioitaliano
#Italia
Roberto #Vannacci (#FN|ESN): "L'immigrazione distrugge anche il calcio. La Serie A oggi è il campionato più ricco di stranieri in Europa: il 67,5% dei giocatori non è italiano, 384 su 569, una percentuale che supera perfino la Premier League. Questo modello orientato al business favorisce i club ma ‘svuota’ il vivaio nazionale: la Nazionale, infatti, può pescare solo da un bacino che rappresenta il 30% del campionato. Il risultato è una crisi strutturale, confermata dalla terza mancata qualificazione consecutiva ai Mondiali e da anni di mancati investimenti sui giovani. I club oggi vedono la maglia azzurra come un ‘fastidio’ che non produce ricavi e preferiscono acquistare giocatori stranieri già pronti, invece di far crescere talenti italiani."
@OsservatorioItaliano
#Italia#Marche
Il sindaco di Civitanova Marche Fabrizio Ciarapica lascia #FI|EPP e aderisce a #FN|ESN: è il primo sindaco “futurista” di un comune italiano superiore.
@Osservatorioitaliano
#Italia
Joe #Formaggio ufficializza il passaggio a #FN|ESN, abbandonando #FdI|ECR, e segnando il terzo passaggio importante in pochi giorni nel partito di Vannacci in Veneto. Poche ore dopo l’annuncio, un incendio ha danneggiato il ristorante di Formaggio.
@Osservatorioitaliano
#Italia
L’ex sottosegretario al lavoro del governo Berlusconi Luca #Belotti, con un passato tra i finiani, lascia #FdI|ECR e aderisce a #FN|ESN.
@OsservatorioItaliano
#Italia#Camera
❗Edoardo #Ziello (#FN|ESN) ha appena votato "NO" alla questione di fiducia al governo Meloni, passando ufficialmente all'opposizione.
@OsservatorioItaliano
#Italia#Camera
❗Rossano #Sasso (#FN|ESN) ha appena votato "NO" alla questione di fiducia al governo Meloni, passando ufficialmente all'opposizione.
@OsservatorioItaliano
#Italia
L'ex sottosegretaria alla Salute dal 2009 al 2011 durante il governo Berlusconi, Francesca #Martini, lascia la #Lega|PfE e aderisce a #FN|ESN.
@OsservatorioItaliano
#Italia#Camera
❗Emanuele #Pozzolo (#FN|ESN) ha appena votato "NO" alla questione di fiducia al governo Meloni, passando ufficialmente all'opposizione.
@OsservatorioItaliano
#Italia#Veneto
Vicenza, in città compaiono locandine per un evento di #FN|ESN organizzato dall’ex consigliere Joe #Formaggio, che sarebbe ad un passo dal lasciare #FdI|ECR per passare con Vannacci
@OsservatorioEsteri