Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇫🇷Paris 2024
Francia ha detectado 43 tentativas de injerencias digitales contra los JJ.OO. de París#Paris2024
Las autoridades francesas detectaron 43 tentativas de injerencias digitales contra los Juegos Olímpicos y Paralímpicos de París que han tratado de perturbar las competiciones o los debates internacionales en torno a estas citas.
El Ministerio francés de Exteriores, que presentó la cifra este viernes en un comunicado, destacó que estas operaciones pretendían “denigrar la organización de los Juegos, ofrecer una imagen sesgada de la ciudad de París y de forma más amplia estropear la fiesta popular que constituyó este acontecimiento”.
En el punto de mira de esas maniobras registradas en un amplio periodo que va desde abril de 2023 hasta el cierre de los Juegos Paralímpicos el pasado 8 de septiembre, estaban Francia, como país anfitrión y el comité de organización de los JJ.OO., precisó el Ministerio.
En su comunicado, el Ministerio condenó “firmemente” estas maniobras “hostiles contrarias al espíritu olímpico”.
https://efe.com/otras-noticias-espana/2024-09-13/francia-tentativas-injerencia-contra-jjoo/
🏆@Info288_deportes
🗣️MIJAIN LÓPEZ ESTÁ EN SEMIFINALES!!!
El tetracampeon olímpico derrotó al iraní 3-1 y se mantiene invicto en su camino a su 5to título olímpico len #Paris2024
OLYMPIA 2024: FRAUEN BEGEHREN AUF
X-ZEICHEN FÜR DEN FRAUENSPORT
INTERNATIONAL, 08.2024
(♀️ XX)
@royalAllemand
#Paris2024
https://youtu.be/7Lx4jQMF5lg?si=kRtdlhlaNj8hWBOW
👍
🇰🇬 КУТ БОЛСУН КЫРГЫЗ ЭЛИМ! МУНАРБЕК ЖАРЫМ ФИНАЛДАААА!!!#PARIS2024
🇰🇬 Мунарбек Сейитбек уулу 3:2 Жамал Харви
🇺🇸
📲 Жаңылыктар жана арзандатуулар үчүн биздин каналга жазылыңыздар: @insport_kg
🇰🇬👍 Кыргызым! Сыймактанабыз силер менен! #Paris2024
☀️ Биздин делегацияга жеке кайыкты биздин ажобуз алып бериптир!
@insport_kg - Лучший магазин спортивных товаров
France 🇫🇷 Les athlètes du monde entier continuent d'« admirer » les lits du village olympique.
Les représentants officiels des Jeux olympiques de Paris affirment que cela n'a pas été fait pour économiser de l'argent et réduire le budget, mais pour empêcher les actes sexuels entre athlètes.
Apparemment ça n’a pas l’air de résister aux poids des athlètes 😁
#Paris2024#BoycottJO2024
@egountchibehanzinTV
Всего через неделю мы станем 👁️ свидетелями Паралимпийских игр 2024 года в Париже!
Как показывают исследования, успех Паралимпийских игр способствует повышению осведомленности общества и улучшению 🤝 понимания людей с ограниченными возможностями. По данным опросов, 70 процентов жителей Великобритании считают, что Паралимпийские игры 2012 года в Лондоне положительно повлияли на отношение к людям с ограниченными возможностями.
А знаете ли вы, что сборная команда Великобритании #ParalympicsGB - это международный лидер паралимпийских игр? Спортсмены Великобритании вошли в тройку лидеров по числу медалей уже на 6 Паралимпийских играх подряд. Более того, на Паралимпийских играх в Токио три года назад паралимпийцы Великобритании установили 🚀рекорд, завоевав медали в 18 видах спорта!
Но несмотря на то, что игры еще не начались, уже достигнуто многое. В этом году в сборной #ParalympicsGB самая высокая доля женщин-спортсменок - 46 процентов из 215 участников❗ Это самая высокая доля женщин-спортсменок в сборной Великобритании за всю историю, и даже большее гендерное равенство, чем в Токио-2020.
Будете ли вы следить за Паралимпийскими играми❓
#ParalympicsGB | #Paralympics | #Paris2024
Боксер Давлат Болтаев принес третью медаль в копилку сборной Таджикистана 🇹🇯 на Олимпийских играх-2024 🥇 в Париже. Болтаев, выступающий в весовой категории до 92 кг, стал обладателем бронзовой медали 🥉🥉 в боксерском олимпийском турнире. Поздравляем нашего спортсмена с этим достижением! 👏
#OlympicGames2024#Paris2024#ТочикистонБаПеш