Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🔋 "Low-voltage Transmission + DePIN" aims to optimize and enhance the performance and security of low-voltage systems by incorporating decentralized infrastructure.
🔌 Low-voltage transmission, which uses low voltage and small currents to transmit signals and data, combined with DePIN's decentralized features, enables safer, more reliable, and efficient data transmission.
#CyberCharge will integrate hardware chargers using the Charge-to-Earn (C2E) model, allowing users to verify their identity while charging their devices, making data transmission more flexible and decentralized.
#Lowvoltage#DePIN
Like👍, Retweet🔵, Comment
Link to the Tweet!
⚡️#CyberCharge: Innovations in Low-Voltage Transmission
🔌 Our charger not only meets everyday charging needs but also integrates seamlessly with custom modular components for storage and computing.
These modular components are encrypted with our proprietary Cyber C1 AI chip, enhancing system security and reliability.
#LowVoltage#AI#Charger
Like👍, Retweet🔵, Comment
Link to the Tweet!
Elektr ta'minotining past bosimida ham texnikangizning uzluksiz ishlashini ta'minlaydi.
__________________
Обеспечит бесперебойную работу вашей техники даже в условиях пониженной подачи электроэнергии.
#Ishonchli#Barakali#Artel#Yangilik#Новинка#LowVoltage
🧐Did you know? "Low-voltage transmission" uses minimal voltage and small currents to safely transmit energy, commonly found in mobile devices and communication systems.
💡This principle is at the core of #CyberCharge, our innovative Web3 charger.
🔋By combining low-voltage technology with #DePIN and blockchain, we've created the world's first Charge-to-Earn (C2E) charger—secure, portable, and reliable.
#Lowvoltage#Web3#charger
Like👍, Retweet🔵, Comment
Link to the Tweet!