Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #kunuzai

当前筛选 #kunuzai清除筛选

Kun.uz AI

@kunuzai · Post #97 · 08.02.2025 г., 13:02

Најди слично Погледај

☕️ Kechki qahva va AI yangiliklariga taklif etamiz! Bugun meni Zuckerberg miyamni o'qimoqchi... 🧠 1. OpenAI Germaniyada🇩🇪 OpenAI Myunxenda o'z ofisini ochmoqda. Sam Altman aytishicha, nemislarning texnik mukammalligi va innovatsiyalarga bo'lgan muhabbati ularni tanlashga majbur qilgan. ChatGPT'ning pullik foydalanuvchilari soni Germaniyada uch barobarga oshgan (nemislar ham ChatGPT'ga mukkasidan ketishyapti! 😄). 2. AI kampusi Fransiyada🇫🇷 BAA va Fransiya 50 milliard yevroli investitsiya bilan Yevropadagi eng yirik sun'iy intellekt kampusini quradi. Kampus 1 gigavatt quvvatli ma'lumotlar markaziga ega bo'ladi. Kampusning aniq joyi hali noma'lum (ehtimol, Eyfel minorasi yonida? 🗼). 3.DeepMind matematik championlar darajasida!🏅 AlphaGeometry2 AI tizimi geometriya bo'yicha olimpiada g'oliblaridan ham zo'r natija ko'rsatmoqda. 25 yillik olimpiada masalalarining 84 foizini yecha oladi. Endi maktab o'quvchilari geometriya darslarida AI'dan ko'chirib olishmasin! 📐 4. Microsoft Edge yangilandi💻 Edge brauzerida AI asosidagi yangi xavfsizlik funksiyasi ishga tushdi. U firibgarlardan himoya qiladi va zararli saytlarni bloklaydi. Microsoft Edge nihoyat Chrome'ga raqobatchi bo'lishga harakat qilyapti! 🛡 5. Meta'ning miyya o'qish texnologiyasi😳 Zuckerberg kompaniyasi miyya faoliyatini tahlil qilib, matn terishga yordam beradigan tizim yaratdi. Tizim 80 foiz aniqlikda ishlaydi, ammo hozircha faqat laboratoriyada. Narxi 2 million dollar (miyamizni o'qish qimmatga tusharkan! 💭). 6. Kokoro v1.0 - yangi ovoz sintezatori Brauzerda ishlaydigan ko'p tilli ovoz sintezatori ishga tushdi. 82M parametrli model bilan ishlaydi va hamma tillarda gapira oladi (polyglot AI, nimalar deysan! 🗣). #KunUzAI#Texnologiya#SuniyIntellekt🚀

Hashtags

#kunuzai #texnologiya #suniyintellekt

Kun.uz AI

@kunuzai · Post #24 · 31.01.2025 г., 02:41

Најди слично Погледај

🆕Krea AI yangi Krea AI Chat funksiyasini taqdim etmoqda Endi foydalanuvchilar bitta qulay chat interfeysida rasmlar, videolar yaratish va boshqa Krea AI funksiyalaridan foydalanishlari mumkin. Yangi funksiya Deepseek sun’iy intellekt modeli asosida ishlaydi va kontent yaratish jarayonini osonlashtiradi. 📌Bu funksiya yaqin kunlarda foydalanish uchun taqdim etiladi. #AI#Texnologiyalar#KreaAI#SuniyIntellekt#KunUzAI

Hashtags

#ai #texnologiyalar #kreaai #suniyintellekt #kunuzai