Post #816

Мнения о локальных LLM сильно поляризованы, часто основаны на вайбах и хайпе, а не на фактах и науке Несмотря на это, локальные модели используются всё больше, и 2026-й станет переломным годом для этого движения Год назад агентные применения казались нереалистичными из-за требований к памяти и вычислениям, но летом 2025 с выходом gpt-oss и тд. появились модели, где tool calling реально работает на обычных устройствах Уже не нужны триллионные модели и датацентры для большинства реальных задач Существует некий порог достаточного интеллекта, который полностью достижим локально - это вопрос правильного software stack, а не вычислительной мощи Qwen3.5 сейчас - лучший выбор Но главная боль не в моделях, а в цепочке от промпта до результата Единственная правильная архитектура, та, что работает эффективно на любом устройстве, в открытой разработке с сообществом и независимыми производителями железа Локальные LLM - это экономика наличных расчётов в мире AML-агентов