Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
📺 Paramount Netflix’ning Warner Bros’ni sotib olishini to‘xtatish uchun studiyani o‘zi xarid qilishga kirishdi
📈Paramount, Netflix taklif bergan paytda, Warner Bros aksiyalariga har biriga $27,75 o‘rniga $30 taklif qilib, raqobatga kirishdi.
💸 Umumiy bitim qiymati $108 milliard deb baholanmoqda — bu Netflix taklifidan $18 milliard ko‘proq.
ℹ️ Eng muhim jihati shuki, Paramount taklifni Warner Bros. Discovery aksiyadorlariga bevosita, kompaniya kuzatuv kengashini chetlab o‘tgan holda yubordi. Agar aksiyadorlar ushbu taklifni ma’qul ko‘rishsa, Netflix bilan bitim avtomatik ravishda bekor bo‘ladi.
Ushbu e’londan so‘ng:
• Paramount aksiyalari 4% gaoshdi,
• Warner Bros — 6% ga ko‘tarildi,
• Netflix aksiyalari esa 3% ga pasaydi.
➡️#netflix#warnerbros#paramount | Birinchi IT-Blog
🇺🇸Warner Bros. Joins the Fight: Copyright Lawsuit Against Midjourney
Warner Bros. has filed a lawsuit against Midjourney, accusing the AI platform of willfully generating images and videos featuring its iconic characters, including Superman, Batman, Bugs Bunny, Daffy Duck, and Tom & Jerry. The studio alleges Midjourney removed safeguards that previously blocked users from creating IP-infringing videos, calling the company’s approach a “brazen” disregard for copyright law.
The lawsuit mirrors recent actions by Disney and Universal, represented by the same legal team, asserting that AI-generated outputs closely resembling copyrighted characters violate intellectual property rights. Studios argue that Midjourney could maintain its service while enforcing guardrails to prevent infringement, while Midjourney’s lawyers accuse the companies of hypocrisy for opposing “industry standard” AI practices while seeking to benefit from AI’s potential.
#AIRegulation#CopyrightLaw#AIandIP#WarnerBros#Midjourney#AIEthics#AICompliance
✨Компания Warner Bros. анонсировала кулинарное шоу «Гарри Поттер: Волшебники выпечки»
🍰 Участники будут соревноваться в создании десертов, вдохновленных книгами Джоан Роулинг и их экранизациями. Ведущими шоу станут Джеймс и Оливер Фелпс, сыгравшие близнецов Фреда и Джорджа Уизли.
#ГарриПоттер#ВолшебникиВыпечки#WarnerBros#КулинарноеШоу#ДжоанРоулинг#ДжеймсФелпс#ОливерФелпс
СТОП! СЛИТО.💦