Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#Elezioni#Slovacchia#Presidenziali
Peter #Pellegrini (#Hlas|S&D) eletto nuovo Presidente della Repubblica Slovacca. L'ex Primo Ministro sarà la 6° figura politica a ricoprire la carica di capo dello Stato.
@OsservatorioEsteri
#Slovacchia
Il #KDH|EPP ha presentato una mozione di sfiducia nei confronti del Vice-Presidente del Parlamento slovacco Lubos #Blaha (#Hlas|S&D), dopo che quest’ultimo ha sostituito il ritratto, presente nel suo ufficio, della Presidente #Čaputová con quello di Che Guevara.
@OsservatorioEsteri
#Slovacchia
Peter #Pellegrini (#Hlas|S&D): “Proseguiremo le trattative solo con #Smer|S&D e #SNS|Destra radicale russofila. Ritengo insostenibile una coalizione con #PS|RE, #KDH|EPP e #SaS|ECR, perché i membri di questi partiti hanno già iniziato ad attaccarsi a vicenda pochi giorni dopo le elezioni.”
@OsservatorioEsteri
#Slovacchia
È stata pubblicata la lista del governo di Robert #Fico (#Smer|S&D):
-Primo Ministro: Robert Fico (Smer);
-Vicepremier e Ministro della Difesa: Robert #Kaliňák (Smer);
-Vicepremier e Ministra dell'Economia: Denisa #Saková (#Hlas|S&D);
-Vicepremier e Ministro dell'Ambiente: Tomáš #Taraba (#SNS/#Život|Estrema destra cristiana);
-Ministro delle Finanze: Ladislav #Kamenický (Smer);
-Ministro dei Trasporti: Jozef #Ráž Jr. (Smer);
-Ministro dell'Agricoltura: Richard #Takáč (Smer);
-Ministro degli Investimenti, dello Sviluppo Regionale e dell'Informatizzazione: Richard #Raši (Hlas);
-Ministro dell'Interno: Matúš Šutaj #Eštok (Hlas);
-Ministro della Giustizia: Boris #Susko (Smer);
-Ministro degli Esteri: Juraj #Blanár (Hlas);
-Ministro del Lavoro e della Famiglia: Erik #Tomáš (Hlas);
-Ministro dell'Istruzione e dello Sport: Tomáš #Drucker (Hlas);
-Ministro della Cultura: Martina #Šimkovičová (#SNS|Destra radicale russofila);
-Ministra della Salute : Zuzana #Dolinková (Hlas);
-Ministro del Turismo: Ján #Krišanda (SNS).
@OsservatorioEsteri