TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #113 · 27.12

Всегда мечтал быть тем чуваком, которому присылают тестовые версии устройств на зацен, ещё до поступления в продажу. И вот Сбер таки прислал. Год назад я писал о выходе SberPortal — умной колонки с экраном. Тогда казалось, что акцент у Сбера именно такой — обязательное наличие экрана даже при голосовом управлении. Но сейчас они выпустили voice-only устройство: SberBox Time. Нет, его всё ещё можно подключить к телевизору, но это не обязательно, и по факту колонка является чем-то средним между большой и маленькой Яндекс Станциями, с уклоном в большую: и звук помощнее, и HDMI есть. Устройство пока не продаётся, но некоторым разработчикам под Сбер выслали демонстрационные экземпляры. Стоит сразу отметить любопытную дизайнерскую находку — аналоговые часы вместо дисплея. Находка именно что любопытная. По факту сугубо на мой взгляд часы не являются ни шибко красивыми, ни тем более удобными. Определять по ним время тяжело, а из-за матового стекла лично у меня постоянно возникает желание настроить резкость. Однако, сама мысль скрещивать хайтек с чем-то более конвервативным звучит привлекательно. Возможно, я становлюсь старым, а может, просто устал от повсеместной цифровизации всего вокруг, но даже при субъективно спорном дизайне часики вполне приятно разместились на стеллаже. Впрочем, колонка пока что сырая — ложные срабатывания, неопределённо скачущая громкость, ошибки в ответах. К счастью, это всё исправляется апдейтами софта, а Сбер за прошедший год показал себя очень внимательным в вопросе фикса багов, и опередил здесь по скорости всех конкурентов. Посмотрим, что из этого выйдет. Прикольная мелочь: на офсайте SberBox Time предлагают скачать модели для 3D-печати и "надеть" на колонку всякие ушки, рожки, плавники, крылья итд. Я сначала подумал, что это полный бред, но для интереса распечатал, и надо сказать очень мило вышло, даже мне взрослому не хочется снимать, а уж дети то вообще должны быть в восторге (известно, что дети составляют значительную долю среди пользователей умных колонок). #gadgets

Hashtags

Резултати

Намерени 3 подобни публикации

Търсене: #unsloth

当前筛选 #unsloth清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8413 · 29.08.2025 г., 18:01

🚀 OpenAI **gpt-oss** с ультрадлинным контекстом! Unsloth выпустили Flex Attention, который даёт до 61K контекста для gpt-oss bf16 при обучении на GPU с 80GB. 📊 Что это значит: - 8× больше контекста - потребляет на 50% меньше VRAM - 1.5× быстрее по сравнению с альтернативами (включая FA3) Для BF16 LoRA теперь можно тренировать с ~60K контекстом на одной H100 80GB. 🔗 Подробнее: https://docs.unsloth.ai/basics/long-context-gpt-oss-training @ai_machinelearning_big_data #Unsloth#OpenAI#gptoss#chatgpt

Machinelearning

@ai_machinelearning_big_data · Post #8238 · 08.08.2025 г., 11:34

⚡️GGUF-версии GPT-OSS от Unsloth. Unsloth конвертировали обе GPT-OSS (20B и 120B) и исправили ошибки, чтобы повысить качество инференса. 🟡Оптимальный сетап: 🟢20B работает со скоростью более 10 токенов/с при полной точности на 14 ГБ оперативной памяти. 🟢120B с полной точностью будет давать >40 токенов/с на примерно 64 ГБ ОЗУ. Минимальных требований для запуска моделей нет, запуститься можно даже если у вас всего 6 ГБ и только CPU, но инференс будет медленнее. GPU не требуется , особенно для модели 20B, но его наличие значительно увеличивает скорость вывода (~80 токенов/с). С чем-то вроде H100 можно получить пропускную способность 140 токенов/с, и это значительно быстрее, чем у OpenAI в ChatGPT. Модели можно запустить через llama.cpp, LM Studio или Open WebUI. Если модель 120B слишком медленная, попробуйте версию 20B - она очень быстрая и работает не хуже o3-mini. Помимо моделей формата GGUF c полной точностью, Unsloth сделали версии с 4-bit и 16-bit точностью. 4-бинтый квант, кстати, можно файнтюнить на 24 ГБ VRAM. 📌 Подробная пошаговая инструкция по локальному запуску и файнтюну - в документации Unsloth. 🟡Набор моделей 🟡Документация @ai_machinelearning_big_data #AI#ML#GPTOSS#GGUF#Unsloth

Machinelearning

@ai_machinelearning_big_data · Post #9311 · 24.12.2025 г., 10:45

📌Тренируем FunctionGemma самостоятельно. LM Studio в коллаборации с Unsloth опубликовали подробный туториал по файнтюнингу недавно выпущенной Google модели FunctionGemma. FunctionGemma - уменьшенная версия Gemma (всего 270Ь параметров) для агентских сценариев и работы в качестве бэкенда приложений, которую можно запускать практически на любом устройстве. Гайд состоит из подробного описания всего процесса от обучения модели вызову инструментов до преобразования в GGUF-формат и последующего запуска его в LM Studio Туториал подойдет для локального трейна (Unsloth работает на NVIDIA, AMD и Intel), но есть и готовый Collab Notebook для тренировки в облаке. ⚠️ FunctionGemma не предназначена для использования в качестве прямой диалоговой модели. @ai_machinelearning_big_data #AI#ML#LLM#Tutorial#Unsloth#LMStudio