Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Amigos! Feliz día! 👋🏼👋🏼
Corto, sustancioso y contundente. Una buena entrevista, para sacar buenos tips, si desean que en su #pyme se trabaje por objetivos.
https://canalceo.com/ivan-menendez-gtmhub-para-trabajar-por-objetivos-es-necesario-que-haya-voluntad-y-liderazgo/
Amigos!!!!
Los temas estratégicos del sector #financiero que me han solicitado... esto se mueve para los emprendedores y para las #PYME
OPORTUNIDADES DE ORO ✅
Este es un tema donde deben estar, mucha atención con este #criptoactivo👉🏾👉🏾 VET
Asociaciones a nivel empresarial llevan el precio de VeChain (VET) a nuevos máximos
Los casos de uso en el mundo real y las alianzas a nivel empresarial son sólo algunos de los factores que explican la reciente ruptura de VeChain a un nuevo máximo histórico
https://ct.com/9iwp
#ventas#b2b#empresas
Una buena administración de marketing de contenidos, acompañada de una buena estrategia de un copywriter garantiza el darse a conocer de manera efectiva de tu #pyme.
Comparte 🔄
Apoya 👍🏼
Comenta 🗣
La productividad está en tiC 📲📈
Siempre es importante estar un paso adelante en la #estrategia de tu #PYME. Las señales de lo que será el 2022 ya están dadas, entre ellas cambio climático, economía con mucho movimiento, criptoactivos, salud pública, etc.
Por eso es muy importante estar atentos en este año o comienzos del otro y sentarse a revisar el plan estratégico y sus metas. ⚠️
#estrategia#entorno#vigilanciaeinteligencia#productividad
Las empresas que se adaptan y adoptan lo digital, son las que están cosechando los frutos en el panorama empresarial actual. En otras palabras, la #transformacióndigital no es realmente una opción. Es una necesidad. 📲
¿Cómo está tu #talentohumano de cara a estos retos?, ¿tienes planes de formación a la medida y estratégicos?… que no te tome otro suceso inesperado sin prepararte en tu #pyme, por estar pensando en la venta del día a día. 😓
La productividad está en tiC 📲📈
#competenciasdigitales#consultoria#trainingasaservice#formación