Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
У нас много традиций: делать крутые кейсы и исследования, играть настолки в офисе и каждый четверг делиться с командой чем-то полезным на demo day. Этим летом появилась ещё одна — aic.weekend.
aic.weekend — это собраться с любимыми коллегами в парке, принести еду и хорошенько отдохнуть. Заняться йогой, вкусно поесть, попеть и потанцевать под музыку aic.band❤️
Именно так мы провели 13 августа 🙌 Смотрите видео, чтобы зарядиться позитивом ✨
#picnic
Thinking about Father's Day plans? Why not organise a memorable picnic? Here are some tips to make it fun and eco-friendly. #FathersDay#EcoFriendly#Picnic#SayYEStoWasteLess
A mini picnic in the park. 🧺
Just being here and now is the best plan for the day.
Мини-пикник в парке. 🧺
Просто быть здесь и сейчас — лучший план на день.
#LunaEverly#Picnic#DayMindset#Park#Simplicity
✔️Attention all picnic lovers!
📌 We're excited to announce a picnic day at the beautiful BELDERSOY location right after Midterm exams. Get ready to spend a fun-filled day surrounded by lush greenery, serene landscapes and the company of great people.
🤩 The best part? This event is fully free for all to join! That's right, all you need to do is show up with a smile on your face and a willingness to have a good time. And, if you're feeling extra peckish, 😊 feel free to bring along your favorite snacks and drinks to share with others.
Don't miss out on this amazing opportunity to enjoy the great outdoors and connect with like-minded people. Spread the word, mark your calendars, and we'll see you at Beldersoy on May 6th! 🌳🌞🧺
🗓 May 6th (Saturday)
⏰ Departure - 6 AM
Return - 6 PM
Best Regards,
Student Government.
#picnic#Beldersoy#May6th#funinthesun