Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#scala
X's Recommendation Algorithm uses machine learning to show you posts and content you are most likely to engage with across its platform, including the "For You" timeline and notifications. It gathers a large pool of posts from people you follow and others you might like, then ranks them by predicting your interest based on your past actions like likes, clicks, and replies. It also filters out unwanted content and mixes in sponsored posts to keep your feed relevant and diverse. This means your feed is personalized to show you the most interesting and safe content, improving your experience on X.
https://github.com/twitter/the-algorithm
🔥 Сегодня
🔥 Java meetup
📅 14 марта / 18:30–20:30 (время Челябинское, МСК+2) / Челябинск, Бр. Кашириных 12
💵 Бесплатно
📝 Регистрация тут: https://goo.gl/jjHpdj
Собраться с коллегами-Java, Scala разработчиками, послушать профессиональные доклады и обсудить вопросы в непринуждённой атмосфере за бокалом чая? А почему бы и да! 14 марта в 18.30 состоится первая из Java встреч Челябинска.
🔗 Программа: https://goo.gl/jjHpdj
#backend#java#spring#scala#Челябинск
🔥 Яндекс: быстрый поиск— изнутри и снаружи
📅 14 марта / 18:30 (время МСК) / Санкт-Петербург, Пискарёвский проспект, 2к2, л. Щ, Бизнес-центр «Бенуа», 5 этаж
💵 Бесплатно
📝 Регистрация тут: https://goo.gl/THPJjm
Приглашаем опытных разработчиков из Санкт-Петербурга на встречу с ведущими специалистами команд Поиска. Мероприятие пройдёт в рамках цикла встреч «Яндекс изнутри», на которых разработчики и руководители сервисов рассказывают об их устройстве.
🔗 Программа: https://goo.gl/7DR1Lq
#frontend#backend#СанктПетербург
✅ Завтра
✅ Яндекс: быстрый поиск— изнутри и снаружи
📅 14 марта / 18:30 (время МСК) / Санкт-Петербург, Пискарёвский проспект, 2к2, л. Щ Бизнес-центр «Бенуа», 5 этаж
💵 Бесплатно
📝 Регистрация тут: https://goo.gl/THPJjm
Приглашаем опытных разработчиков из Санкт-Петербурга на встречу с ведущими специалистами команд Поиска. Мероприятие пройдёт в рамках цикла встреч «Яндекс изнутри», на которых разработчики и руководители сервисов рассказывают об их устройстве.
🔗 Программа: https://goo.gl/7DR1Lq
#frontend#backend#СанктПетербург
✅ Java meetup
📅 14 марта / 18:30–20:30 (время Челябинское, МСК+2) / Челябинск, Бр. Кашириных 12
💵 Бесплатно
📝 Регистрация тут: https://goo.gl/jjHpdj
Собраться с коллегами-Java, Scala разработчиками, послушать профессиональные доклады и обсудить вопросы в непринуждённой атмосфере за бокалом чая? А почему бы и да! 14 марта в 18.30 состоится первая из Java встреч Челябинска.
🔗 Программа: https://goo.gl/jjHpdj
#backend#java#spring#scala#Челябинск
✅ Через неделю
✅ Java meetup
📅 14 марта / 18:30–20:30 (время Челябинское, МСК+2) / Челябинск, Бр. Кашириных 12
💵 Бесплатно
📝 Регистрация тут: https://goo.gl/jjHpdj
Собраться с коллегами-Java, Scala разработчиками, послушать профессиональные доклады и обсудить вопросы в непринуждённой атмосфере за бокалом чая? А почему бы и да! 14 марта в 18.30 состоится первая из Java встреч Челябинска.
🔗 Программа: https://goo.gl/jjHpdj
#backend#java#spring#scala#Челябинск
✅ Яндекс: быстрый поиск— изнутри и снаружи
📅 14 марта / 18:30 (время МСК) / Санкт-Петербург, Пискарёвский проспект, 2к2, л. Щ, Бизнес-центр «Бенуа», 5 этаж
💵 Бесплатно
📝 Регистрация тут: https://goo.gl/THPJjm
Приглашаем опытных разработчиков из Санкт-Петербурга на встречу с ведущими специалистами команд Поиска. Мероприятие пройдёт в рамках цикла встреч «Яндекс изнутри», на которых разработчики и руководители сервисов рассказывают об их устройстве.
🔗 Программа: https://goo.gl/7DR1Lq
#frontend#backend#СанктПетербург