TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #554 · 14.09

В сети пишут, что у Patreon финансовые сложности: закрыли подразделения в Берлине и Дублине, увольняют сотрудников. Патреон — сравнительно простой технически сайт, у которого толком не было мажорных обновлений. Самое сложное там это работа с выплатами, но вряд ли она у них своя самописная, наверняка пользуются чем-то типа Stripe. При этом у Патреона очень понятная бизнес-модель с линейным масштабированием и почти нет потребности в сложном маркетинге (популярные блогеры сами тебя постоянно рекламируют миллионам людей, потому что ты источник их заработка). Короче, просрать Патреон это надо уметь. Кажется, топ менеджеры покупали себе слишком дорогие яхты, иначе я не могу объяснить. Перегруженность и непрозрачность процессов, низкая эффективность как сотрудников, так и финансовых вложений — одни из фундаментальных проблем энтерпрайза, я вам как-то уже об этом рассказывал. При этом сама модель мне нравится. Я рад, что она заработала, хотя внутренний менталитет русского человека видит тут некоторое противоречие: как же это отдать деньги добровольно не за товар или услугу, а просто чтобы поддержать факт существования какого-то интересного для тебя явления? Можно же поддержать лайком или хорошим комментарием, но деньги??? Нет, деньги надо только на хлеб обменивать. Так думают многие мои знакомые. Но не все, и не я. До остановки платежей был подписан на десяток проектов и нигде не читал, собственно, саму ленту Патреона. Мне не слишком интересны бэкстейджи и ранний доступ, я продолжал смотреть всех тех же ребят на Ютубе на общих началах. Сейчас поддерживаю пару русских блогеров на boosty. Добровольная подписка на и без того доступный контент — это почти буквально голосование рублём. Способ отдать что-то, действительное представляющее для тебя ценность (деньги) в знак поддержки какого-то начинания, а не в обмен на товар. Это, на мой взгляд, самый честный индикатор: человеку что-то нужно/нравится, если он готов за это платить. А уж если готов платить даже при условной возможности не платить — значит очень нравится. #web

Hashtags

Резултати

Намерени 3 подобни публикации

Търсене: #unsloth

当前筛选 #unsloth清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8413 · 29.08.2025 г., 18:01

🚀 OpenAI **gpt-oss** с ультрадлинным контекстом! Unsloth выпустили Flex Attention, который даёт до 61K контекста для gpt-oss bf16 при обучении на GPU с 80GB. 📊 Что это значит: - 8× больше контекста - потребляет на 50% меньше VRAM - 1.5× быстрее по сравнению с альтернативами (включая FA3) Для BF16 LoRA теперь можно тренировать с ~60K контекстом на одной H100 80GB. 🔗 Подробнее: https://docs.unsloth.ai/basics/long-context-gpt-oss-training @ai_machinelearning_big_data #Unsloth#OpenAI#gptoss#chatgpt

Machinelearning

@ai_machinelearning_big_data · Post #8238 · 08.08.2025 г., 11:34

⚡️GGUF-версии GPT-OSS от Unsloth. Unsloth конвертировали обе GPT-OSS (20B и 120B) и исправили ошибки, чтобы повысить качество инференса. 🟡Оптимальный сетап: 🟢20B работает со скоростью более 10 токенов/с при полной точности на 14 ГБ оперативной памяти. 🟢120B с полной точностью будет давать >40 токенов/с на примерно 64 ГБ ОЗУ. Минимальных требований для запуска моделей нет, запуститься можно даже если у вас всего 6 ГБ и только CPU, но инференс будет медленнее. GPU не требуется , особенно для модели 20B, но его наличие значительно увеличивает скорость вывода (~80 токенов/с). С чем-то вроде H100 можно получить пропускную способность 140 токенов/с, и это значительно быстрее, чем у OpenAI в ChatGPT. Модели можно запустить через llama.cpp, LM Studio или Open WebUI. Если модель 120B слишком медленная, попробуйте версию 20B - она очень быстрая и работает не хуже o3-mini. Помимо моделей формата GGUF c полной точностью, Unsloth сделали версии с 4-bit и 16-bit точностью. 4-бинтый квант, кстати, можно файнтюнить на 24 ГБ VRAM. 📌 Подробная пошаговая инструкция по локальному запуску и файнтюну - в документации Unsloth. 🟡Набор моделей 🟡Документация @ai_machinelearning_big_data #AI#ML#GPTOSS#GGUF#Unsloth

Machinelearning

@ai_machinelearning_big_data · Post #9311 · 24.12.2025 г., 10:45

📌Тренируем FunctionGemma самостоятельно. LM Studio в коллаборации с Unsloth опубликовали подробный туториал по файнтюнингу недавно выпущенной Google модели FunctionGemma. FunctionGemma - уменьшенная версия Gemma (всего 270Ь параметров) для агентских сценариев и работы в качестве бэкенда приложений, которую можно запускать практически на любом устройстве. Гайд состоит из подробного описания всего процесса от обучения модели вызову инструментов до преобразования в GGUF-формат и последующего запуска его в LM Studio Туториал подойдет для локального трейна (Unsloth работает на NVIDIA, AMD и Intel), но есть и готовый Collab Notebook для тренировки в облаке. ⚠️ FunctionGemma не предназначена для использования в качестве прямой диалоговой модели. @ai_machinelearning_big_data #AI#ML#LLM#Tutorial#Unsloth#LMStudio