Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Kecha shahzoda Uilyam va shahzoda Garri malika #Diana yodgorligini ochishdi. Hayot bo’lganida u 60 yoshga kirgan bo’lar edi.
"Bugun, onamiz 60 yoshga to'lganida, biz uning sevgisini, kuchini va fe'l-atvorini eslaymiz - bu fazilatlar uni butun dunyoga yaxshilik timsoliga aylantirgan, behisob insonlar hayotini yaxshi tomonga o'zgartirgan.
Biz har kuni uning yonimizda bo'lishini istaymiz va bu haykal uning abadiy hayoti va merosining ramzi bo'lib qolishiga umid qilamiz.
Yan Ren-Brodli, Pip Morrison va ularning jamoalariga ajoyib ishlari uchun, bunda yordam bergan do'stlarimiz va homiylar hamda onamizning xotirasini qadrlaydigan dunyodagi barcha odamlarga minnadorchilligimizni bildiramiz"
Shaxzoda Uilyam va shaxzoda Garri
@Diplomatika
Акселератор оборонных технологий (DIANA) НАТО объявил об отборе десяти компаний для второго этапа конкурса на предоставление финансирования.
DIANA направлен на расширение сотрудничества альянса в области новых технологий и развитие обширной инновационной сети. Он предоставляет инновационным компаниям, которые разрабатывают технологии двойного назначения, финансирование, наставничество, испытательную базу и доступ к инвесторам и конечным пользователям.
В прошлом году DIANA запустил первый этап конкурсной программы, пилотными темами которого были выбраны энергетическая устойчивость, безопасный обмен информацией, зондирование и наблюдение. Участие в первом этапе, который завершился 25 июня этого года, приняли 44 компании.
Итак, список прошедших во второй этап:
• Aquark Technologies, квантовые технологии, Великобритания;
• Astrolight, технологии лазерной связи, Литве;
• Dolphin Labs, наблюдение за океаном, США;
• Ephos, квантовые технологии, Италия;
• Goldilock, защита персональных данных, Великобритания;
• IONATE, специализируется на интеллектуальных энергетических платформах, Великобритания;
• Lobster Robotics, картографическая компания, Нидерланды;
• Phantom Photonics, квантовое зондирование, Канада;
• Revobeam, антенны, беспроводная связь и IoT решения, Польша;
• Secqai, ПО и защищённое оборудование, Великобритания.
Выбранные компании получат до 300 тысяч евро.
#НАТО#DIANA#IT
Вестник NATO