Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Por ti
Con esto anuncio mi deseo
Si en verdad lo logro tomaré y comeré por siempre
Tal vez tenga que preguntarme dos veces si es lo que quiero
Tal vez tenga que volver a repetir lo primero
Si quisiera estar contigo esperando a recibir un humo necesario
Moriré de noche, y sin verme por última vez. Encontraré la vida sin quererla.
Y faltará mucho para comenzar a esperarte. Tendré la decencia de no hacerlo notar
Pero siempre sabrás que algo pasa si miras de frente lo que tengo.
Puede ser de tarde y yo aún vendré hacia el lodo
Esto que hay por dentro seguirá sin explicación
Es lo único que queda entre dos o tres restos de la unión
Eso que has traído hasta mi se perdió
Hay tanto tiempo para pensar si culpar al deseo
Yo quice sentarme a trabajar con lo que no tengo
Justamente para saber, es devolver y perder
Entonces tendré que reclamar lo perdido.
#Anon
🗿Latest news about Ston.Fi
Ston.Fi DEX is developing really fast, so we have collected some news from development of exchanger:
✉️ Transaction status – now we can track progress of exchange immediately in site interface. Status of each transaction is updated in real time and we will know exactly when transaction will be sent to blockchain and executed.
🎱 Now #ANON Space uses Ston.Fi SDK - tool for integrating DEX functionality into any project. Based on #StonFi smart contracts, project is launching staking protocol with additional privileges and referral invitations.
🖥 Added to Dextools – now everyone can monitor progress of trading on Ston.fi using Dextools.
🖥 Dextools is tool which allows you track price, trading volume, liquidity, token transactions and other useful information.
👀 Dont know how to start using Ston.fi?
Guide from DEX team
🗿Участники сюжета 4.0
🗿Все анонсированные ранее персонажи появятся в сюжете 4.0(кроме Блейда и Нигилюксы(они будут упомянуты))
🗿Также в сюжете будут участвовать Фуга🦊, Сампо🗿, Скотт и Ликург🌟
✉️Источник: #anon
🌚HSR KIRA | #v4_0