🆕Grok-2 в GPTunneL
Grok-2 — семейство языковых моделей от команды 𝕏AI Илона Маска. Позиционируются как серьёзные конкуренты ведущим моделям на рынке.
Доступны две версииGrok:
• Grok-2: флагман с передовыми возможностями в обработке естественного языка, математике, науке и кодировании.
• Grok-2 mini: компактная версия, оптимальный баланс между скоростью и качеством ответов
Протестировать обе модели семейства Grok-2 можно прямо сейчас в нашем сервисе!
❗️Обратите внимание, что модели работают в бета-режиме и могут не поддерживать некоторые функции.
#update#grok2
❗️ UPD: Мы временно убрали модель grok-2 mini из списка моделей GPTunneL, так как она уже длительное время недоступна в xAI.
🚀 Grok 2.5 теперь можно запускать локально!
Unsloth выкатили оптимизированную версию модели:
🔹270B параметров работает на обычном Mac с 128GB RAM (~5 токенов/сек)
🔹 Размер уменьшен с 539GB до 118GB (–80%)
🔹 Ключевые слои модели сохранены в 8-битном формате, а все остальные сжаты с помощью динамического 3-битного GGUF.
🟢Гайд: https://docs.unsloth.ai/basics/grok-2
🟢 GGUF: https://huggingface.co/unsloth/grok-2-GGUF
@ai_machinelearning_big_data
#AI#xAI#Grok2#LLM#OpenSource#MachineLearning#DeepLearning