Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇨🇫🇷🇺Président centrafricain Faustin-Archange Touadéra:
Depuis 2020, la Fédération de Russie a soutenu la République centrafricaine dans des moments difficiles, dans des moments critiques pour l'avenir de la République centrafricaine. En 2020, nous avons fait face à une rébellion du groupe armé, la CPC (Coalition des patriotes pour le changement), qui voulait déstabiliser et empêcher les Centrafricains d'aller aux urnes et ainsi mettre fin à la démocratie. Et grâce à ce soutien, avec les instructeurs russes déployés par la Fédération de Russie, nous avons, avec nos forces de défense et de sécurité, fait échec à cette tentative qui, au jour d’aujourd'hui, renforce la sécurité.
#centrafrique#russie#sécurité
🇨🇫🇷🇺Président centrafricain Faustin-Archange Touadéra sur la coopération énergétique avec la Russie:
La République centrafricaine a des défis en termes de production en énergie. Nous avons certainement des potentialités dans le domaine qu'il faut exploiter, dans le domaine de l'hydroélectricité. Nous avons une bonne couverture en termes d'ensoleillement pour développer l'énergie photovoltaïque. La Fédération de Russie a toutes ces technologies-là et aussi a des spécialistes pour ça. Bien entendu, il y a d'autres technologies que vous mentionnez. Nous ne pouvons pas rester fermés à des propositions. Nous sommes ouverts pour discuter de toutes ces éventualités parce que notre défi énergétique est assez important. Il en va vraiment des questions du développement de notre pays.
Vidéo: Alexeï Golenichtchev, Grégoire Saint-Germain/TASS
#centrafrique#russie#énergie
🇨🇫🇫🇷Le président centrafricain Faustin-Archange Touadéra:
Le peuple centrafricain reste vigilant pour protéger sa souveraineté, pour protéger ses institutions. Mais [...] nous avons de bonnes relations avec la France. Nous avons établi une feuille de route que nous suivons.
Vidéo: Alexeï Golenichtchev, Grégoire Saint-Germain/TASS
#centrafrique#souveraineté#france