Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#Jpop
About a month ago we announced that we're looking to expand our moderation team. A big thank you to everyone who responded and offered their services!
The search is now over! Please welcome our three new victims moderators that will keep this place in order, so that everyone can easily find the torrents they need and marvel at how pretty everything is. And these people are:
Y***
A***
S*******
xvlse0l.jpg
Yaaaaay!
雞泡泡
大約一個月前，我們宣布我們正在尋求擴大我們的審核團隊。 非常感謝所有回复並提供服務的人！
搜索結束了！ 請歡迎我們的三位新受害者主持人，他們將把這個地方整理好，這樣每個人都可以輕鬆找到他們需要的種子，並驚嘆於一切都很美。 這些人是：
Y ***
一個***
小號*******
xvlse0l.jpg
Yaaaaay！
名称：URU THE BEST 2020 - 2024 FLAC 16bit 44kHz
描述：《URU THE BEST 2020–2024》是日本歌手URU官方数字精选辑，收录2020–2024年代表作22首。她以空灵嗓音、诗意编曲和极低曝光度闻名，音乐以钢琴为骨架，融合环境音效，风格温柔治愈。专辑不只是商业精选，更是封存情感的时间胶囊，2023年与Ayase合作的《Saikai》助其破圈，被乐评称作“2020年代最安静的杰作合集”。
链接：https://pan.quark.cn/s/8404dc7b0485
📁 大小：649MB
🏷 标签：#无损音乐#音乐#jpop