Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
National Interest: Су С-70 Охотник-Б: российский стелс-беспилотник может стать переломным моментом в геополитической игре
«Идеалист» поздравляет всех читателей с Днем защитника Отечества и напоминает: тот кто хочет мира - неизбежно готовится к войне. В России сегодня разрабатывается достаточно инновационное вооружение, которое, по мнению американских аналитиков, может существенно повлиять на геополитические расклады в мире. Одна из таких разработок - беспилотный С70, самолет, возглавляющий рой дронов, который, как заявляется, может даже выходить в космическое пространство.
«За последние несколько лет было представлено несколько вариантов беспилотника. В августе 2023 года российские государственные СМИ сообщили, что испытания «Охотника» завершатся к концу 2023 года, а в серийное производство беспилотник должен поступить в этом году».
https://theidealist.ru/su70/
#NationalInterest#власть#Россия#оружие
National Interest: не говорите Голливуду: вам нечего бояться вышедшего из под контроля ИИ
Слетевший с катушек искусственный интеллект, мечтающий уничтожить человечество - популярная тема для голливудских фантастических боевиков, которая с развитием генеративного ИИ стала распространенной страшилкой не только в сети, но даже и среди экспертов. Вместе с этим серьёзные ученые-когнитивисты, изучающие разум, признавая неоспоримые достоинства технологии, относятся к её опасности скептически.
«Диалоги, создаваемые большими языковыми моделями, не являются доказательством того, что они обладают разумом даже на уровне очень примитивных животных» — объясняет Колин Аллен, профессор Питтсбургского университета, изучающий когнитивные способности животных и машин... «Мы называем это «искусственным интеллектом», но более подходящим названием было бы «извлечение статистических закономерностей из больших массивов данных». Вычислительные возможности современных ИИ, таких как большие языковые модели, не делают их разумнее, чем камни или другие машины».
https://theidealist.ru/dontafraidai/
#NationalInterest#технологии#ИИ#Элиза#психология
🚀В США признали: Россия может выиграть новую космическую гонку
The National Interest опубликовал материал о многоразовой ракете-носителе «Амур-СПГ», которая способна кардинально изменить расстановку сил в космосе 🌍🔧
💬 *«Россия и Китай хотят лишить Америку преимущества, каким является использование многоразовых ракет. Москве как минимум отчасти удалось достичь этой непростой цели. Российскую многоразовую ракету „Амур-СПГ“ разработала государственная корпорация „Роскосмос“»,* — сообщает издание.
🛰 Разработка ведётся с 2020 года. Особенности:
— первая ступень — многоразовая (до 50 запусков)
— топливо: жидкий кислород и сжиженный природный газ (метан)
— плановый старт — до 2030 года
💬
«Российская ракета-носитель „Амур-СПГ“ способна значительно укрепить позиции страны в космической сфере и вывести ее в лидеры отрасли»,
— отмечает The National Interest.
📡 Помимо ракеты, одобрен и национальный проект в области космоса:
💬
«В рамках данного проекта планируется создание спутниковых группировок для дистанционного зондирования Земли, организации спутниковой связи, включая обеспечение широкополосного интернет-доступа, а также управления беспилотными летательными аппаратами,»
— сообщил глава «Роскосмоса» Дмитрий Баканов.
🌌 Россия делает ставку на долгосрочное и технологическое лидерство в космосе.
#АмурСПГ#Роскосмос#космос#Россия#многоразоваяракета#космическиетехнологии#НИ#NationalInterest#технологии#будущее#метан#интернетизкосмоса🚀🛰🇷🇺