Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Китайские компании Huawei и SMIC добились прогресса в разработке чипов
🟢 Компании Huawei Technologies Co. и Semiconductor Manufacturing International Corp. добиваются успехов в технологиях производства микросхем, несмотря на попытки США ограничить их прогресс.
✅ Процессор Kirin 9030 представляет собой «самое передовое на сегодняшний день отечественное производство полупроводников в Китае» и был создан с использованием усовершенствованной версии технологии SMIC.
⚠️ Достижения SMIC пока не могут сравниться с возможностями таких компаний, как Taiwan Semiconductor Manufacturing Co. и Samsung Electronics Co., и, вероятно, страдают от более низкого выхода годной продукции и высокой стоимости производства.
Источник: Bloomberg
@chinastocksnet
Если полезно, поставьте лайк 👍😇
#Huawei#SMIC
📞 Навигация по каналам
▪️Акции▪️Облигации
▪️Китай ▪️Трейдинг
▪️Новости▪️Клуб
메모리 부족 경고!
#Samsung 은 일부 칩 가격을 최대 60%까지 인상했을 가능성이 있으며, 메모리 가격 급등의 여파는 곳곳에서 나타나고 있습니다.
#SMIC 는 가격 협상에 어려움을 겪고 있는 것으로 알려졌으며
#NVIDIA 은 RTX 50 Super 출시를 연기할 가능성이 있습니다.
🚀 STOCKS | Hong Kong Storage Sector Gains Momentum with Semiconductor Stocks Rising
Hong Kong's storage sector continues to show strength as semiconductor stocks experience significant gains. According to Jin10, Semiconductor Manufacturing International Corporation (SMIC) surged over 11%, while leveraged funds targeting SK Hynix and Samsung Electronics also saw substantial increases. Meanwhile, Montage Technology rose by 4.3%, contributing to the overall positive trend in the market.
#Stocks#HongKong#StorageSector#Semiconductors#SMIC#SKHynix#SamsungElectronics#MontageTechnology#MarketGains
🔔 "미·중 정상회담 기대감에..." 중국 AI 반도체 ETF 질주
📈#하이곤#캠브리콘#기가디바이스#SMIC#YMTC
📝#AI반도체#중국반도체#첨단제조#기술자립#대형IPO
미중 정상회담 기대와 중국 정부의 AI 반도체 자립화 전략, 대형 IPO 기대감 등이 투자 심리에 긍정적으로 작용하며 관련주에 관심이 몰리고 있음.
⬜⬜⬜⬜⬜│🟥🟥🟥🟥⬜
【 겁나빠른 #드리고봇 뉴스 】
https://n.news.naver.com/article/014/0005521675