Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #silicon

当前筛选 #silicon清除筛选

Закиев Василь. (AI)ron manager

@zvasilchannel · Post #1460 · 11.01.2025 г., 09:36

Најди слично Погледај

Российский проект RakeSearch имеет неприятную особенность – после перезагрузки задачи начинают считаться заново. Когда задачи считаются в 30+ потоков и среди них есть задачи длительностью до часа, то это приводит к потере до получаса рабочего времени мощного компа. На скринах пример списка задач до и после перезагрузки. В общей картине эти потери, конечно, незначительны. А вот ведущему проекта Эдуарду Ватутину спасибо за регулярные посты о ходе проекта и публикациию результатов в энциклопедии OEIS. Имхо достойно того, чтобы 100% времени наших CPU выделять на RakeSearch. Вот бы ещё на Apple Silicon и на Linux появились задачи от проекта! Подписывайтесь на Эдуарда: https://vk.com/id162891802 #rakesearch #silicon

Hashtags

#rakesearch #silicon

ФГБУН Институт высокотемпературной электрохимии УрО РАН

@ihteubras · Post #164 · 07.12.2022 г., 08:03

Најди слично Погледај

Свежая работа регулярного выпуска👇 🟢 2022 🟢 V. 9 🟢 Issue 4 🟢 No. 20229424 🟢 Article 📜 Electroreduction of silicon from the NaI–KI–K2SiF6 melt for lithium-ion power sources 👩‍🎓👨‍🎓 R.K. Abdurakhimova, M.V. Laptev (https://orcid.org/0000-0003-3338-0057), N.M. Leonova (https://orcid.org/0000-0003-1016-8977), A.M. Leonova (https://orcid.org/0000-0001-5900-7045), A.S. Schmygalev (https://orcid.org/0000-0001-9783-309X), A.V. Suzdaltsev (https://orcid.org/0000-0003-3004-7611) 🏛 Ural Federal University, https://urfu.ru/en 🏛 Institute of High-Temperature Electrochemistry, http://www.ihte.uran.ru 📚#silicon#nanofibers#electroreduction#melt#lithium#cycling#NaI#KI#K2SiF6 🔗https://doi.org/10.15826/chimtech.2022.9.4.24 https://journals.urfu.ru/index.php/chimtech/article/view/6294

Hashtags

#silicon #nanofibers #electroreduction #melt #lithium #cycling #nai #ki #k2sif6