TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #554 · 14.09

В сети пишут, что у Patreon финансовые сложности: закрыли подразделения в Берлине и Дублине, увольняют сотрудников. Патреон — сравнительно простой технически сайт, у которого толком не было мажорных обновлений. Самое сложное там это работа с выплатами, но вряд ли она у них своя самописная, наверняка пользуются чем-то типа Stripe. При этом у Патреона очень понятная бизнес-модель с линейным масштабированием и почти нет потребности в сложном маркетинге (популярные блогеры сами тебя постоянно рекламируют миллионам людей, потому что ты источник их заработка). Короче, просрать Патреон это надо уметь. Кажется, топ менеджеры покупали себе слишком дорогие яхты, иначе я не могу объяснить. Перегруженность и непрозрачность процессов, низкая эффективность как сотрудников, так и финансовых вложений — одни из фундаментальных проблем энтерпрайза, я вам как-то уже об этом рассказывал. При этом сама модель мне нравится. Я рад, что она заработала, хотя внутренний менталитет русского человека видит тут некоторое противоречие: как же это отдать деньги добровольно не за товар или услугу, а просто чтобы поддержать факт существования какого-то интересного для тебя явления? Можно же поддержать лайком или хорошим комментарием, но деньги??? Нет, деньги надо только на хлеб обменивать. Так думают многие мои знакомые. Но не все, и не я. До остановки платежей был подписан на десяток проектов и нигде не читал, собственно, саму ленту Патреона. Мне не слишком интересны бэкстейджи и ранний доступ, я продолжал смотреть всех тех же ребят на Ютубе на общих началах. Сейчас поддерживаю пару русских блогеров на boosty. Добровольная подписка на и без того доступный контент — это почти буквально голосование рублём. Способ отдать что-то, действительное представляющее для тебя ценность (деньги) в знак поддержки какого-то начинания, а не в обмен на товар. Это, на мой взгляд, самый честный индикатор: человеку что-то нужно/нравится, если он готов за это платить. А уж если готов платить даже при условной возможности не платить — значит очень нравится. #web

Hashtags

Резултати

Намерени 3 подобни публикации

Търсене: #gptoss

当前筛选 #gptoss清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8413 · 29.08.2025 г., 18:01

🚀 OpenAI **gpt-oss** с ультрадлинным контекстом! Unsloth выпустили Flex Attention, который даёт до 61K контекста для gpt-oss bf16 при обучении на GPU с 80GB. 📊 Что это значит: - 8× больше контекста - потребляет на 50% меньше VRAM - 1.5× быстрее по сравнению с альтернативами (включая FA3) Для BF16 LoRA теперь можно тренировать с ~60K контекстом на одной H100 80GB. 🔗 Подробнее: https://docs.unsloth.ai/basics/long-context-gpt-oss-training @ai_machinelearning_big_data #Unsloth#OpenAI#gptoss#chatgpt

Machinelearning

@ai_machinelearning_big_data · Post #8238 · 08.08.2025 г., 11:34

⚡️GGUF-версии GPT-OSS от Unsloth. Unsloth конвертировали обе GPT-OSS (20B и 120B) и исправили ошибки, чтобы повысить качество инференса. 🟡Оптимальный сетап: 🟢20B работает со скоростью более 10 токенов/с при полной точности на 14 ГБ оперативной памяти. 🟢120B с полной точностью будет давать >40 токенов/с на примерно 64 ГБ ОЗУ. Минимальных требований для запуска моделей нет, запуститься можно даже если у вас всего 6 ГБ и только CPU, но инференс будет медленнее. GPU не требуется , особенно для модели 20B, но его наличие значительно увеличивает скорость вывода (~80 токенов/с). С чем-то вроде H100 можно получить пропускную способность 140 токенов/с, и это значительно быстрее, чем у OpenAI в ChatGPT. Модели можно запустить через llama.cpp, LM Studio или Open WebUI. Если модель 120B слишком медленная, попробуйте версию 20B - она очень быстрая и работает не хуже o3-mini. Помимо моделей формата GGUF c полной точностью, Unsloth сделали версии с 4-bit и 16-bit точностью. 4-бинтый квант, кстати, можно файнтюнить на 24 ГБ VRAM. 📌 Подробная пошаговая инструкция по локальному запуску и файнтюну - в документации Unsloth. 🟡Набор моделей 🟡Документация @ai_machinelearning_big_data #AI#ML#GPTOSS#GGUF#Unsloth

Machinelearning

@ai_machinelearning_big_data · Post #8215 · 06.08.2025 г., 10:09

🖥gpt-oss работает на специальном формате промптов — Harmony, и без него модель просто не будет выдавать корректные ответы. Зачем нужен Harmony? Этот формат нужен для: — 🧠 генерации chain of thought рассуждений — 🔧 корректного вызова функций и использования инструментов — 📦 вывода в разные каналы: обычный ответ, reasoning, tool call — 🗂️ поддержки tool namespaces и иерархических инструкций 💡 Harmony имитирует OpenAI Responses API, так что если вы с ним работали — будет легко освоиться. 👉 Если вы используете gpt-oss через HuggingFace, Ollama или vLLM, волноваться не нужно. Но если строите свой пайплайн — обязательно изучитегайд по Harmony. Без него модель просто не будет работать как надо. pip install openai-harmony # or if you are using uv uv pip install openai-harmony @ai_machinelearning_big_data #gptOSS#Harmony#OpenAI#LLM#PromptEngineering