Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
NTT планирует втрое увеличить мощности дата-центров в Японии
Компания NTT - крупнейшая телекоммуникационная группа Японии и один из ключевых технологических «каркасов» страны - объявила о масштабном рывке в сторону будущего. К 2033 г. она планирует более чем втрое увеличить мощности своих дата-центров в Японии - с текущих 0,3 до 1 гигаватта. За этим стоит простой, но амбициозный расчёт: бум искусственного интеллекта (ИИ) требует всё больше энергии и вычислений, а значит нужна новая цифровая инфраструктура.
Сеть NTT уже охватывает более 160 дата-центров по всей стране, но компания готовится к расширению: новые объекты могут появиться в префектурах Тиба и Тотиги, а на Хоккайдо мощности частично направят на поддержку производителя передовых чипов Rapidus. Эти планы укладываются в более широкую стратегию укрепления технологической автономии Японии.
Будущие центры обработки данных будут изначально «заточены» под ИИ: жидкостное охлаждение, высокая плотность вычислений и интеграция с фирменной сетью IOWN должны сделать обработку данных быстрее и эффективнее. В центре этой экосистемы - идея суверенитета данных, когда информация и вычисления остаются внутри страны.
NTT также развивает собственные ИИ-модели, включая Tsuzumi 2, ориентированную на японский язык, и готовится инвестировать около 14 млрд долл. в инфраструктуру в ближайшие пять лет. Примечательно, что конкуренция в этом секторе в Японии усиливается: SoftBank и другие крупные игроки также строят свои ИИ-платформы, превращая страну в один из новых центров глобальной технологической гонки.
#Япония#Телеком#NTT
Японские 5G в небесах
Правительство Японии стремится достичь прогресса в разработке технологий эффективного использования систем беспроводной (мобильной) связи и спутниковый связи.
В последние годы Япония сталкивается с трудностями в обеспечении конкурентных преимуществ над странами с более низкими издержками на производство. В этих условиях власти делают ставку на технические инновации и экономическую безопасность страны.
Одной из перспективных технологий в области телекоммуникаций является использованиет.н.базовых беспилотных станций (HAPS - High Altitude Platform System).
HAPS представляет из себя автономный летательный аппарат, который может самостоятельно функционировать в стратосфере на высоте порядка 20 км и передавать телекоммуникационные сигналы в радиусе до 200 км (для сравнения базовая наземная станция обеспечивает до 10 км в зависимости от ландшафта).
HAPS позволяет эффективно использовать сети стандарта 5G\6G, при этом, в отличие от низкоорбитальных спутников Starlink, может использоваться для смартфонов без установки дополнительного оборудования.
Ожидается, что воздушные платформы гарантируют бесперебойное функционирование связи, в том числе и во время стихийных бедствий. Так, по данным NTT Docomo, одна такая станция способна обеспечивать потребности полуострова Ното, серьезно пострадавшего от землетрясения. Также платформы HAPS будут эффективны в труднодоступных регионах, где установка наземных базовых станций невозможна.
Существуют два перспективных проекта японского HAPS
1. Альянс NTT Docomo и Airbus. Японская компания анонсировала инвестиции в размере 100 млн. долл. в Aalto HAPS. В случае успеха Япония станет первой страной, использующей базовые беспилотные станции в коммерческих целях. NTT Docomo надеется, что к концу десятилетия HAPS будут доступны по всей стране. Тестовый экземпляр с размахом крыльев 25 метров уже показал хорошие результаты во время испытательного запуска, продержавшись в воздухе 64 дня.
2. Проект SoftBank и Alphabet. HAPSMobile, дочерняя компания SoftBank, разрабатывает альтернативную технологию совместно с HAPS Alliance (Nokia, Google, Erisson, Telefonica). Ожидается, что продукт появится на рынке в 2027 г.
В планах NTT и SoftBank масштабировать технологию HAPS на остальной мир, прежде всего на развивающиеся рынки Юго-Восточной Азии и других регионов со сложным ландшафтом. По данным исследовательской компании MarketsandMarkets, мировой рынок HAPS достигнет 189 миллионов долларов в 2028 г.
Параллельно с проектом HAPS NTT продолжает стратегическое сотрудничество с Amazon по созданию группировки из 3236 низкоорбитальных спутников для обеспечения связи.
#HAPS#5G#Мобильнаясвязь#NTT
Япония разрабатывает сети6G - вся надежда на фотонику
Япония, проигрывая Китаю в конкурентной борьбе за беспроводные сети 5G, планирует стать лидером в разработке технологии следующего поколения 6G.
Минцифры Японии начинает отбор проектов по разработке стандартов и развития ноу-хау для сетей 6G.
Планируется, что к 2028 г. именно Япония представит мировому рынку новое поколение телекоммуникационных решений, которые будут базироваться на т.н. «фотонике».
Эксперты Nikkei отмечают, что лидерство в распространении технологий 5G принадлежит КНР (Huawei), ЕС (Ericsson, Nokia) и США (Qualcomm и Cisco), и Япония с ними уже не сможет конкурировать. В свою очередь, японские компании обладают рядом уникальных технологий в передаче данных с использованием фотоники.
На данный момент наиболее передовыми решениям располагает корпорация NTT, которая разрабатывает телекоммуникационную платформу IOWN (Innovative Optical and Wireless Network).
IOWN характеризуется не только высокой скоростью передачи данных, но и низкими показателями энергопотребления. Сообщается, что тестовая передача данных при помощи IOWN уже была проведена между дата-центрами в США и Великобритании.
Японские разработчики 6G-сетей стремятся создать технические решения, позволяющие расширить географию размещения дата-центров, увеличить скорость передачи информации и снизить затраты на электропотребление.
#6G#NTT#Япония#ИИ#большие_данные#фотоника