Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#NayibBukele Como el primer presidente en apoyar oficialmente el uso del Bitcoin como moneda de curso legal en El Salvador, Bukele demuestra su compromiso con un futuro innovador y financiero.
t.ly/rj5u
✅ Comparte
✅ Deja tu Like
✅ Comenta
ElSlv.com🇸🇻
#NayibBukele | We are buying one #Bitcoin every day starting tomorrow. // Estamos comprando un #Bitcoin todos los días a partir de mañana. #₿xday
#ElSalvador🇸🇻 | ⚡️t.ly/Rux7
#ElMilagroBukele | La impresionante historia de Nayib Bukele, el presidente que rescató a El Salvador. El éxito de su guerra contra la criminalidad y los choques con Gustavo Petro han logrado captar la atención de los colombianos. https://bit.ly/3JypeCs
#ElSalvador#NayibBukele
👀 ¡Turistas ven cocodrilos en #ElSalvador!
Pero no te preocupes, nuestra seguridad es excelente. Podrás disfrutar de la belleza natural de nuestro país con tranquilidad. 🐊💪#TurismoSeguro#NayibBukele🌴
¡Visítanos sin preocupaciones! 🛫
ElSlv.com🇸🇻❤️
😂¡Ahí no más para que se enojen los prianistas!
‼️La presidenta #ClaudiaSheinbaum es la jefa de Estado mejor evaluada de Latinoamérica, al tener 72.3 por ciento de aprobación, por encima de personajes como #NayibBukele, #JavierMilei y otros.
#MañaneraDelPueblo
Quiero agradecerle al excelentísimo señor Presidente #NayibBukele por hacer este Hospital El Salvador, estamos muy agradecidos como familia López, le extendemos este gran agradecimiento", manifestó Rubidia Villanueva, familiar de un paciente recuperado.
#HospitalElSalvador | #Compartir
Doña Marina Gutiérrez, residente en el cantón Potrero Grande, agradeció al Presidente #NayibBukele por enviar la ayuda alimentaria hasta su casa en el municipio de El Paisnal.
#PaquetesAlimentarios | #Compartir
⚡️ Valiente ALCALDESA de #QUITO ECUADOR, visita a #ELSALVADOR, para emular todos los programas EXITOSOS de #NAYIBBUKELE.
👉t.ly/gXsa
#QuieroElSalvador🚀💯
#Humor | Mientras tanto, #NayibBukele explicando como debe implementar el #RegimendeExcepcion en Honduras, la presidente 𝗫𝗶𝗼𝗺𝗮𝗿𝗮. 😜
#Compartir🇸🇻 | ⚡️t.ly/Rux7
#ElSalvadorReVive | María es una de los miles de personas dañadas por el accionar de las #pandillas, ahora destaca las estrategias de seguridad implementadas por #NayibBukele, la población agradece el ambiente de seguridad y el cambio histórico que atraviesa la nación.
#PandillasNuncaMás🇸🇻👊
Bitcoin Update and TikTok Acquisition Bid
Bitcoin price hits $87,000.
50 million USDC minted. 🪙
El Salvador President Nayib Bukele confirms continued Bitcoin purchases. 🇸🇻
Reddit co-founder Alexis Ohanian joins bid for TikTok U.S., promoting user data ownership through blockchain integration with Project Liberty.
For more details, visit the whale alert transaction and the Reuters article
#Bitcoin#USDC#ElSalvador#NayibBukele#TikTok#AlexisOhanian#Blockchain#DataOwnership#ProjectLiberty#Transparency#Accountability#Crypto#VC