⚡️ Google представила Coral NPU - открытую платформу для создания умных ИИ-устройств на Эйдж девайсах
Это полный стек для разработки локального искусственного интеллекта, который работает без облака и практически без задержек.
Coral NPU - это новый тип нейропроцессора (Neural Processing Unit), созданный для умных гаджетов, IoT и носимых устройств.
Можно обучать и запускать модели прямо на устройствах с низким энергопотреблением - от датчиков и дронов до мини-роботов и камер. Coral NPU позволяет делать это быстро и безопасно.
🧩 Врунти:
- SDK и инструменты для TensorFlow Lite и ONNX
- Компилятор, квантование и оптимизация моделей
- Поддержка Python, C++ и микроконтроллеров
Как это работает
1. Модель обучается (в TensorFlow / PyTorch).
2. Компилятор Coral NPU превращает её в оптимизированный код через MLIR → IREE → NPU binary.
3. Код работает прямо на устройстве, используя:
- RISC-V (управляет задачами)
- Векторные блоки( выполняют параллельные операции)
- Матричные ускорители MAC (считают нейронные сети за милливатты энер)гии.
Результат - ИИ-инференс с производительностью до 512 миллиардов операций в секунду, при этом устройство потребляет очень мало ресурсов и не передаёт данные в облако.
Edge AI получает свою открытую архитектуру от Google.
Подробнее: https://research.google/blog/coral-npu-a-full-stack-platform-for-edge-ai/
@ai_machinelearning_big_data
#EdgeAI#GoogleResearch#CoralNPU#RISC_V#AIHardware
OpenAI представит первый свой гаджет в 2026: ждать ли революцию от ИИ-гиганта?
Скоро «умный» мир ждет пополнение: в 2026 году OpenAI планирует выпустить свой первый гаджет. Подробностей мало — компания не раскрывает ни цен, ни точных дат. По информации инсайдеров, это будет носимый аудио-девайс. Эксперты прогнозируют, что его отличительной чертой станет глубокое голосовое взаимодействие с ИИ, а дизайнерскую концепцию создаст легендарный Джони Айв (Jony Ive).
➡️Что это значит? OpenAI выходит за пределы софта, чтобы напрямую влиять на то, как мы взаимодействуем с ИИ в реальном мире.
➡️Почему это важно? Попытки создать гарнитуру для общения с ИИ уже были у Humane и Rabbit, но рынок пока не завоеван. Если OpenAI удастся предложить уникальный опыт, это может задать новый тренд.
Что думаете, удастся ли OpenAI переизобрести «умные» гаджеты?
#OpenAI#ИскусственныйИнтеллект#AIhardware#Гаджеты#ИИновости
Источники: Axios, TechCrunch.
https://t.me/semasci
В 2023 мы с Айраной Монгуш и Давидом Дале сделали первый Тувинско-Русский ИИ переводчик — раньше Google и Яндекса. Опубликовали на конференции по машинному переводу WMT 2024.
С тех пор я думал: а если без интернета? Прямо на телефоне?
Взял Gemma3 1B, обучил на Colab, запустил на CPU. Вот скрин — живые переводы, ~500мс, без GPU.
Модель пока сырая. Иногда галлюцинирует. Но когда попадает — попадает точно. Это работающая система.
Дальше хочу добиться реального качества:
— iOS через Core ML (моя основная среда)
— 4-bit квантизация для мобильного
— Правильно организовать "трубу" (пайплан) — основная проблема
— Организовать более гибкий системный промпт (фью-шот промптинг)
— Почистить датасет и обогатить синтетически
— Сравнить несколько моделей
— Выпустить офлайн-приложение для тувинцев
💬 Что сейчас работает для low-resource MT с ~300к парами? Интересно всё — архитектуры, трюки при обучении, способы улучшить качество на маленьком датасете.
#NLP#Gemma3#iOS#CoreML#TuvanLanguage#EdgeAI#Google