Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
По словам Маска, Оптимус от Tesla превзойдёт любого хирурга-человека через 3 года в масштабах, приближенных к реальным
Илон Маск:
Через 5 лет у каждого будет доступ к медицинской помощи, которая будет лучше, чем та, которую получают президенты сегодня.
Интервьюер:
Не поступайте в медицинский институт.
Илон Маск:
Да. Бессмысленно.
#future
📱Назад в Будущее | Группа каналов PB
宇宙学家、科幻作家卡尔萨根临终前(1996),在一次采访中对美国的警告。
“We’ve arranged a society on science and technology in which nobody understands anything about science and technology, and this combustible mixture of ignorance and power sooner or later is going to blow up in our faces. I mean, who is running the science and technology in a democracy if the people don’t know anything about it.”
我们已经配置了一个以科学和技术为基础的社会,但人们对科技几乎一物不知,这种愚昧和权力的易燃混合迟早会将我们社会炸开。我是说,如果人民对科技都一无所知,那么又由谁来推展这个民主社会的科学和技术呢?
卡尔萨根一直关心的科学在公众想象力中的位置。 #future
https://www.openculture.com/2022/10/carl-sagan-issues-a-chilling-warning-to-america-in-his-last-interview-1996.html
🧠This MIT student can surf the internet with his mind.
He silently #Google questions and hears the answers through vibrations transmitted through his skull and into his inner ear.
#Future
🚀@PerspectiveIX
☕️ Support us with a coffee: prs.pctvix.co/2M8AAOb
🌎 By 2050, urban areas are projected to house 68% of Earth’s population, increasing pressure on ecosystems. Smart city technologies, like energy-efficient buildings and automated waste management, aim to cut pollution and resource use. The World Bank estimates that smarter urban infrastructure could reduce energy use by up to 30%. ✨
#ecology⚡#technology⚡#future
👉subscribe Interesting Planet
👉more Channels
🚀Маск: в будущем работать станет необязательно
Илон Маск на форуме U.S.– Saudi Investment Forum заявил, что через 10–20 лет работа может стать делом выбора.
По его мнению, тотальная автоматизация и распространение роботов приведут к миру, где дефицита больше нет, а деньги перестанут играть ключевую роль.
Понятно, что вопрос стоит не в том, наступит ли эпоха полной автоматизации, а в том, сколько времени на это уйдёт.
https://fortune.com/2025/11/20/elon-musk-tesla-ai-work-optional-money-irrelevant/
@ai_machinelearning_big_data
#ai#future#elonmusk