Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🤖 Новые данные о использовании ИИ: автоматизация правит балом
Компания Anthropic опубликовала масштабный отчет о том, как бизнес и обычные пользователи внедряют ИИ в свою работу. Вот главные выводы:
🏢 Бизнес предпочитает автоматизацию
· 77% корпоративного использования Claude через API приходится на полную автоматизацию задач, а не на взаимодействии между человеком и ИИ .
· Для сравнения: среди обычных пользователей (Claude.ai) автоматизация и дополнение разделены почти поровну .
· 44% API-трафика — это программирование и математические задачи, против 36% на потребительской платформе .
· Бизнес также использует ИИ для создания маркетинговых материалов (4.7%) и обработки данных по рекрутингу (1.9%) .
📈 Рост автоматизации среди всех пользователей
· Доля директивных диалогов (где ИИ полностью выполняет задачу) выросла с 27% в конце 2024 года до 39% в августе 2025-го .
· Это впервые, когда автоматизация превзошла паттерны дополнения человека .
⚠️ Риски для рынка труда
· Генеральный CEO Anthropic Дарио Амодеи предупреждает: ИИ может устранить до 50% начальных офисных должностей в течение 5 лет .
· Под ударом — юристы, консультанты, административный персонал и финансисты .
🌍 Географические различия
· Лидеры по внедрению ИИ на душу населения: Израиль (в 7 раз выше ожидаемого уровня), Сингапур (4.6x) и Канада (2.9x) .
· В странах с низким доходом (например, Нигерия — 0.2x) ИИ используется меньше .
· Богатые регионы используют ИИ для совместной работы, а бедные — для автоматизации . Это может усилить глобальное неравенство .
💡 Что это значит?
· Бизнес видит в ИИ инструмент для сокращения издержек, а не просто для расширения возможностей сотрудников .
· Пользователи всё чаще доверяют ИИ сложные задачи — это тренд, который будет расти .
· Географический разрыв может привести к тому, что выгоды от ИИ достанутся богатым регионам/странам.
📊 Вывод: ИИ уже меняет рынок труда, и эти изменения неравномерны. Бизнес автоматизирует рутину, а пользователи становятся более доверчивыми. Но стоит помнить о рисках — особенно для начальных позиций в карьере...
Что думаете? Вы уже используете ИИ для автоматизации рутины или скорее для усиления в обычных делах? Делитесь в комментариях! 👇
#ИИ#Anthropic#ClaudeAI#Статистика#РынокТруда
https://t.me/semasci
🚀 AI TRENDS | Anthropic Secures CoreWeave Data Center Capacity Amid Rising AI Demand
Anthropic has agreed to lease data center capacity from CoreWeave to address the growing demand for its AI services, Jin10 reports. CoreWeave announced on Friday that the multi-year agreement will assist Anthropic in building and deploying its Claude AI model. CoreWeave's CEO, Intrator, stated that the deal will involve various Nvidia chip architectures within U.S. data centers. The financial terms of the agreement were not disclosed by either company. Anthropic, similar to OpenAI, has been at the forefront of the AI service surge, sometimes struggling to maintain its products online due to what it describes as 'unprecedented demand.' Earlier this week, Anthropic revealed a collaboration with Broadcom and Google to secure 3.5 gigawatts of energy, noting that one gigawatt of power is sufficient to supply electricity to approximately 750,000 U.S. households simultaneously.
#AI#Anthropic#CoreWeave#DataCenter#ClaudeAI#Nvidia#Broadcom#Google#ArtificialIntelligence#TechTrends