Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Thundercats
aka ThunderCats: Los Felinos Cósmicos
📅Año 1985
🎥Dirección#KatsuhitoAkiyama
📄Guion Jules Bass, Doug Bernstein, Beth Bornstein, David Carren, J. Larry Carroll, Barney Cohen, Jeri Craden, Lawrence DuKore, Herb Engelhardt, Sandy Fries, Ron Goulart, Annabelle Gurwitch, George Hampton, Bob Haney, Becky Hartman Edwards, Peter Lawrence, Matthew Malach, Denis Markell, Mike Moore, Kimberly Morris, Romeo Muller, William Overgard, Danny Peary, Steve Perry, Howard Post, Bill Ratter, James Rose, Lee Schneider, Bruce W. Smith, Leonard Starr, Chris Trengove, Kenneth Vose, Heather Winters, Ted Wolf, Dennis Woodyard
🎼Música Bernard Hoffer
🎬Productora Rankin-Bass Productions, Telepictures Corporation, Lorimar Television
Género#SeriedeTV#Animación#Aventuras#Fantástico#Extraterrestres#Cienciaficción
Episodios | Comics | Reparto | Intro Latino | Sinopsis
⏱Duración 22min.
🖥Resolución 720x400
🗣Idioma Latino
Película | Season2 - 3 - 4 - ThunderCats 2011 | Comics
Renmei Kūgun Kōkū Mahō Ongakutai Luminous Witches
📅Año 2022
País🇯🇵Japón
🎥Dirección#ShoujiSaeki
📄Guion Shouji Saeki, Shinya Murakami.
✨Idea#HumikaneShimada
🎼Música Yoshiaki Fujisawa
🎬Productora Kadokawa
Género#SeriedeTV#Animación#Comedia#Drama#Cienciaficción#Musical#Spinoff#Música#Ejército#Histórico#Extraterrestres
Sinopsis
Las "Luminous Witches" son un escuadrón de "Strike Witches" que no se dedican a la batalla, si no a interpretar canciones para proteger las sonrisas de aquellos que han tenido que ser evacuados de sus ciudades por culpa de la invasión Neuroi. Spin-off de la serie anime "Strike Witches: Road to Berlin".
⏱Duración 24min.
🖥Resolución 720x400
🗣Idioma Japonés
Subtítulos Latino
Episodio01 - 02 - 03 - 04 - 05 - 06 - 07 - 08 - 09 - 10 - 11 - 12
Suscripción a este Anime 👉🏻Aquí
Índice de Animaciones 👉🏻Aquí