Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 1 слични објави

Пребарај: #aiabuse

当前筛选 #aiabuse清除筛选

AI & Law

@ai_and_law · Post #487 · 20.01.2025 г., 08:04

Најди слично Погледај

🇺🇸Microsoft Takes Legal Action Against AI Abuse Scheme Microsoft has launched two lawsuits targeting an elaborate scheme to bypass safety guardrails in its generative AI systems. The first lawsuit is aimed at three individuals accused of running a "hacking-as-a-service" operation. These defendants allegedly created tools to exploit undocumented APIs, compromised legitimate customer accounts, and built a fee-based platform for generating harmful and illicit content. The second lawsuit targets ten individuals who were customers of this service. According to the complaints, the defendants’ platform provided detailed instructions on bypassing Microsoft’s restrictions, enabling the creation of prohibited content, including materials promoting harm or discrimination. Microsoft alleges the platform used stolen API keys and proxy servers to mimic legitimate requests, undermining the integrity of its Azure OpenAI systems. Both lawsuits, filed in Virginia, invoke the Computer Fraud and Abuse Act, the Digital Millennium Copyright Act, and other legal provisions. These cases underscore the ongoing challenges in securing generative AI platforms against abuse while maintaining their accessibility for ethical uses. #AIRegulation#Cybersecurity#EthicsInAI#Microsoft#AIAbuse

Hashtags

#airegulation #cybersecurity #ethicsinai #microsoft #aiabuse