TGTGInsighttelegram intelligenceLIVE / telegram public index
← GitHub Trends

TGINSIGHT SIMILAR POSTS

Find similar content

Source channel @githubtrending · Post #14974 · Jul 19

#cplusplus ik_llama.cpp is an improved version of llama.cpp that runs faster on CPUs and hybrid GPU/CPU setups. It supports many new advanced quantization methods, which help models use less memory and run more efficiently. It also offers better performance for special models like DeepSeek and MoE, with faster prompt processing and token generation. You can run it on various hardware, including Android, and it has features to control where model data is stored (CPU or GPU). This means you get quicker AI responses and can handle bigger or more complex models smoothly on your computer or device[2][1][4]. https://github.com/ikawrakow/ik_llama.cpp

Hashtags

Results

2 similar posts found

Search: #opticalcomputing

当前筛选 #opticalcomputing清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8675 · 10/02/2025, 03:11 PM

🔦Генерация изображений на свете, а не на GPU Исследователи из UCLA представили оптическую генеративную модель (Optical Generative Model). Она использует свет и линзы вместо вычислительных блоков - то есть картинки рождаются не на чипах, а в физике. 🔬 Как это работает: 1. Лёгкий цифровой энкодер превращает случайный шум в фазовый узор. 2. Этот узор загружается на оптический модулятор света. 3. Свет проходит через дифракционный декодер и прямо на сенсоре формируется изображение. ✔️ Авторами проведены реальные эксперименты: с помощью видимого света и SLM показаны результаты генерации: - Созданы цифры, лица, бабочки и даже картины в стиле Ван Гога. - Качество сравнимо с современными диффузионными моделями. - Есть две версии: мгновенная (один проход) и итеративная (несколько шагов, как у диффузии). ⚡ Чем интересен такой подход - Подход не требует никакой вычислительной нагрузки. - Супербыстрая генерация: физика света выполняет то, что GPU делает миллиардами операций. - Это открывает путь к энергоэффективному ИИ для edge-устройств: AR/VR, мобильные камеры, компактные сенсоры. ⚠️ Ограничения: - Сложно выравнивать оптические системы. - Ограничения по точности фазовых масок. - Зависимость от качества оборудования (шум, битовая глубина). Но даже с этими проблемами, это первый шаг к новому классу ИИ, где вычисления заменяются чистой оптикой. Nature: https://www.nature.com/articles/s41586-025-09446-5 @ai_machinelearning_big_data #AI#OpticalComputing#Photonics#GenerativeA

Machinelearning

@ai_machinelearning_big_data · Post #8489 · 09/09/2025, 03:30 PM

🔬Университет Флориды представил оптический AI-чип Инженеры UF создали чип, который использует лазеры и микролинзы для выполнения операций свёртки — ключевых для распознавания изображений, видео и речи. 🚀 Почему это интересно: - Энергопотребление таких чипов эффективнее в 10–100 раз, чем у обычных электронных чипов - Точность обработки сохраняется на уровне ~98% - Технология поможет снизить нагрузку на энергосети и сделать масштабные AI-системы более устойчивыми Впервые оптические вычисления встроены прямо в чип и применены к нейросети. Это значит, что чип может выполнять самые ресурсоёмкие операции почти не потребляя энергию. 📊 Итог - Потребление энергии ↓ в 10–100 раз - Точность ~98% Этот чип может стать новым стандартом в энергоэффективных вычислениях для AI. ⚡Подробности: news.ufl.edu/2025/09/optical-ai-chip/ @ai_machinelearning_big_data #AI#Chip#OpticalComputing#Photonics#Energy