Post #4934

⚡️Qwen3 теперь с контекстом до 1 млн токенов Qwen представила Qwen3-30B-A3B-2507 и Qwen3-235B-A22B-2507 с поддержкой ультрадлинного контекста до 1M токенов. Как это работает: 🟡Dual Chunk Attention (DCA) — делит длинные последовательности на блоки, сохраняя глобальную связность 🟡MInference — разреженное внимание, которое снижает нагрузку, фокусируясь только на ключевых токенах Что это даёт: 🟡 До 3× быстрее на последовательностях, близких к 1M токенов 🟡 Более высокая точность генерации при сверхдлинном контексте 🟡 Полная совместимость с vLLM и SGLang для эффективного развёртывания 🤑ForgetMe | Boosty | ForgetBench | ForgetGPT | ForgetAPI #новости#qwen#нейросети