Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Even the shinning stars cried
When they wrre writing a fate
The night also bowed down a bit
And haven't slept till date a proper nap.
As the day burns the sky with
The hot sunny weather
And this inflicts the stars.
The night heals them
And makes them the most beautiful glowing stars again..
Just like a love it is in real life we lost
Like a star then someone comes into our life
Like a shimmy night and briggtens is up like a star glows.
Uchit (motivation influencer blogger) ®
#review#poetry#uc
THE ANGEL WHICH BRIGHTENED UP A LIFE OF A DARK SOUL:
And there i saw her standing alone . Her eyes were searching for something or someone . I wish i could be that someone . Suddenly i felt her eyes on me . She slowly walked towards me in the lights of darkness where she was like a moonlight to me in my darkness.
As she approached me my heart was pumping very high.As she came as angel and showered the lights and brightened up my life, as she was looking and searching for my smile which i losted in the darkness.
She was so perfect in my favorite colour blue and black denim. I was stunned at that moment .And then she just gave me one of her beautiful smile at me and said keep this safely because this smile completes you dear. I couldn't utter a word and i was madly admiring her, and kept on seeing her and i was like oh my god such an beautiful angel she is.
~uchit(word's of scribbler)
#review#short poem #uc
Тенденции на рынке унифицированных коммуникаций в России
Заместитель генерального директора IVA Technologies Максим Смирнов принял участие в сессии «Унифицированные коммуникации: новый вектор развития» в рамках выставки «Связь-2025». В своем выступлении он выделил ключевые тренды российского рынка UC.
🟢Экосистемный подход. В приоритете— развитие продуктов, которые интегрированы друг с другом и поддерживают совместные сценарии использования. Это поможет внедрять решения быстрее и упрощает их эксплуатацию.
🟢Безопасность данных. Интегрированные экосистемы обеспечивают высокий уровень защиты информации, что особенно актуально в условиях увеличения числа киберугроз.
🟢Повышение эффективности бизнес-процессов за счет ИИ. Технологии позволяют анализировать большие объемы данных с высокой скоростью и точностью. Современные алгоритмы могут выявлять скрытые паттерны и тенденции, которые сложно обнаружить с помощью традиционных методов анализа. Однако не следует ИИ передавать ответственность за все-все процессы 😉
🟢Время разработки ИТ-продуктов сокращается за счет технологий. Автоматизация процессов и искусственный интеллект способствуют созданию более эффективных рабочих процессов и позволяют командам быстрее выводить на рынок свои разработки.
P.S. Благодаря ИИ-модулю распознавания речи IVA Terra мы оперативно подготовили основные тезисы его выступления 🙂
#Тренды#UC#Связь