Trouver du contenu similaire

#GitHub情报#macOS#AI ☠️ANE — 逆向工程解锁 Apple Neural Engine 训练能力 首个绕过 CoreML、在 Apple M4 神经引擎上实现完整反向传播的开源概念验证，证明 ANE 硬件本身具备训练能力，软件封锁才是真正壁垒。 ✨特点 • 私有 API 直连：通过逆向工程 _ANEClient、_ANECompiler 等私有接口，完全绕过 CoreML，实现对 ANE 硬件的直接控制，吞吐提升 2–4x。 • 完整前向 + 反向传播：在 ANE 上运行 Transformer 的前向与 dx 梯度计算，权重梯度 dW 由 CPU（Accelerate cblas）并发处理，支持 Adam 优化器与 checkpoint 续训。 • 动态权重管道：将权重打包进空间维度，实现权重更新无需重新编译，突破 ANE 每进程约 119 次编译上限的约束。 • INT8 W8A8 量化：利用 MIL quantize/dequantize 算子在 L2 SRAM 缓存 INT8 激活值，M4 上实测 1.88x 吞吐提升（35.1 TOPS vs 18.6 TOPS）。 • GPU↔ANE 零拷贝流水线：基于 IOSurface 共享内存，GPU 负责 prefill，ANE 负责 decode，Stories110M 总延迟仅 8.8ms。 • 硬件基准体系：系统性揭示 Apple「38 TOPS」宣传存在虚高。ANE 实际将 INT8 反量化为 FP16 后执行，真实峰值为 19 TFLOPS FP16，并提供 SRAM 带宽、TFLOPS 峰值等详细测量数据。 ⚙️机制 ANE 是一个图执行引擎，接受编译好的 MIL（Model Intermediate Language）计算图后原子执行，本身不暴露可编程的指令集。项目通过运行时 objc_msgSend 解析 AppleNeuralEngine.framework 中 40+ 个私有 Objective-C 类，构建出「MIL 程序生成 → 内存编译 → IOSurface I/O」的完整链路。训练时前向与反向 dx 计算在 ANE 完成，权重梯度 dW 由 CPU cblas 并行执行，Adam 更新在 CPU 完成后权重重新打包回 ANE 空间维度。全程无外部依赖，仅使用系统框架。 主要依赖：Objective-C + Foundation + IOSurface + Accelerate（纯系统框架，零第三方依赖），Python 仅用于训练监控 Dashboard（blessed 库）。 🧑‍💻使用场景 • NPU 编译器研究者：希望深入了解 Apple ANE 的 MIL IR 格式、Kernel Fusion 策略和 SRAM 行为，可直接参考 inmem_bench.m、sram_probe.m、inmem_peak.m 等基准工具，无需从零逆向工程。 • 边缘 AI 推理优化工程师：gpu_prefill_ane_decode.m 实现的 GPU prefill + ANE decode 混合流水线（Stories110M 总延迟 8.8ms、功耗 2.8W），可作为低功耗本地部署方案的参考架构。 • Apple 平台 ML 开发者：需要在 CoreML 训练 API 限制之外实现设备端持续学习或个性化微调时，可通过 bridge/ane_bridge.h 提供的 C-callable API 接入 ANE 计算能力。 • 硬件性能研究者：验证 38 TOPS 虚高发现，或研究 Apple Silicon ANE 与 SME（Scalable Matrix Extension）在不同工作负载下的分工边界。 • 开源社区建设者：在本项目基础上构建更完整的运行时，如已涌现的 Orion（完整 ANE 训练 + 推理框架）、hybrid-ane-mlx-bench（Apple Silicon 推理策略系统评测）。 🛣社区关注方向 • Mega-kernel 层融合：将完整 Transformer 层融合为单一 MIL kernel • macOS 26 API 适配：Apple 更改了 compile API。Apple 据报将推出「Core AI」替代 CoreML • 扩展到更大模型：Qwen3-0.6B（596M 参数）GQA 支持已合并，社区在探索 1B+ 参数范围的可行性 • 模型加载支持：目前只能从随机初始化训练，无法加载预训练权重 💭感想 ANE 项目最有价值的地方，不在于能立即替代 MLX 或 llama.cpp。作者在 README 里写得很清楚，这从来不是目标。它真正做到的是把一个「不可能」命题变成了有据可查的事实：Apple Neural Engine 的硬件本身具备训练能力，6.6 TFLOPS/W 的功效比（约为 A100 的 80 倍）让人想知道，若 Apple 开放训练 API，边缘端持续学习会走向哪里。 技术完成度上，最扎实的是基准测试体系中 38 TOPS 虚高的实验性反驳、SRAM 带宽性能悬崖的量化分析，都是不多见的一手硬件数据。训练实现接近 PoC 状态。5–9% 的 ANE 利用率说明距离高效 NPU 训练还有很长的软件工程路要走。相比 MLX（GPU 路线，开箱即用）和 CoreML（推理受限但稳定），ANE 这条路适合想深入理解 Apple Silicon 底层的系统工程师，不适合期望开箱即用的应用开发者。 项目的另一面是方法论本身：逆向工程、基准分析、训练代码，全程与 Claude Opus 4.6 协作完成。 AI 可用性得到了另一次证明 频道：@NewlearnerChannel

#AI#GitHub#Android Phone Agent 基于 AutoGLM 构建的手机端智能助理框架。 它能够以多模态方式理解手机屏幕内容，并通过自动化操作帮助用户完成任务。系统通过 ADB(Android Debug Bridge) 来控制设备，以视觉语言模型进行屏幕感知，再结合智能规划能力生成并执行操作流程。用户只需用自然语言描述需求，如“打开小红书搜索美食”，Phone Agent 即可自动解析意图、理解当前界面、规划下一步动作并完成整个流程。系统还内置敏感操作确认机制，并支持在登录或验证码场景下进行人工接管。同时，它提供远程 ADB 调试能力，可通过 WiFi 或网络连接设备，实现灵活的远程控制与开发。 安装与使用详见 GitHub 项目。 🔔 提示：限免 / 兑换码具有时效性，打开本频道通知，第一时间获取全网资讯！！！ 🏠 消息 Via: 小小溪 💬@TrenDesire📢@Tribebrook 🤖 解封 | 投稿 Bot:@P0se1d 🎁 福利 | 📮 即时 | 🔐 安全

【 #阿里 ATH事业群发布首款 #AI 开发工具秒悟】 阿里ATH事业群发布旗下首款AI开发工具Meoo（秒悟），该工具集成千问、Kimi、GLM、MiniMax四 #大模型 ，并内置阿里云数据库、存储等核心产品服务，用户只需用自然语言描述想法，Meoo最快1分钟就能自动生成前端后端完整的网站、H5页面，在阿里云上一键部署上线。（第一财经）

【 #阿里 新设集团技术委员会，升级通义 #大模型 事业部】 阿里巴巴集团CEO吴泳铭发布内部信，宣布 #AI 相关组织调整，包括新设立集团技术委员会，升级通义大模型事业部，加速AI建设。

🪐Mirzo Ulug‘bek— tarix sahnasidagi buyuk siymo! Biz bu safar tariximizning faxri, ilm va ma’rifat yo‘lida beqiyos iz qoldirgan bobomiz Mirzo Ulug‘bekning siymosini zamonaviy sun’iy intellekt yordamida jonlantirdik. 🔭 U kishining ilm-fan, ayniqsa, astronomiya va matematika rivojiga qo‘shgan hissasi butun dunyoga ma’lum. Endi esa bu tarixiy siymoni yanada yaqinroq his qilish imkoniga egamiz. Keyingi safar qaysi buyuk ajdodlarimizni rasmlarini sun'iy intellekt yodamida tiklashimizni xohlaysiz? #MirzoUlugbek#AI#ByIsakovKhusniddin ⚡️@ikdesignuz

⚔️9-aprel – buyuk sarkarda va davlat arbobi Amir Temur tavallud topgan kun! Buyuk sarkarda va davlat arbobi xotirasiga bag‘ishlab, sun’iy intellekt yordamida Amir Temur siymosini yangicha ko'rinishlarda generatsiya qildik. Rasmlarni sifatli holatini @fitratmediagroup kanalidan yuklab olishingiz mumkin :) #AmirTemur#AI#ByIsakovKhusniddin @ikdesignuz

华为AI突破性技术揭晓！ 11月21日下午，华为在上海举办“2025 AI容器应用落地与发展论坛”，会上正式发布并开源了创新AI容器技术Flex:ai。 目前，行业内算力资源的平均利用率仅为30%至40%，据华为介绍，Flex:ai通过算力切分技术，将单张GPU（图形处理器）/NPU（神经网络处理器）算力卡切分为多份虚拟算力单元，切分粒度精准至10%。此技术实现了单卡同时承载多个AI工作负载，在无法充分利用整卡算力的AI工作负载场景下，算力资源平均利用率可提升30%。 与英伟达旗下Run:ai只能绑定英伟达算力卡不同，华为AI容器技术Flex:ai通过软件创新，可实现对英伟达、昇腾及其他第三方算力资源的统一管理和高效利用，有效屏蔽不同算力硬件之间的差异，为AI训练推理提供更高效的资源支持。 🗒 标签: #华为#AI 📢 频道: @GodlyNews1 🤖 投稿: @GodlyNewsBot

开源 5 天，5 万 Star，非常顶 一般AI写代码、做任务，只要对话一长，就开始降智，包括漏回答、逻辑出问题等，这个工具能把大任务拆解，保证长对话中AI的高质量回答～ https://github.com/gsd-build/get-shit-done #Github#AI#实用工具

自动工作回顾 在电脑前忙了一整天，到了写日报或回顾时却想不起来具体做了什么，这个工具能帮你自动记录打开了哪些应用、网页、花了多少时间，最后还能帮你生成一份工作总结～ https://github.com/wm94i/Work_Review #Github#AI#实用工具

Olivia AI Network Airdrop now live on ✅Telegram! Olivia Network AI pioneering the future of the web3 & the crypto space with our ​cutting-edge LDCE AI engine. Our AI offers fast, smart, and ​personalized interactions by leveraging perpetual memory, instant ​model switching, and continuous fine-tuning. 🚀 Space shooter Play, Earn, and Win Big! The AI-powered space shooter game on Telegram is now live! This isn’t just another game — it’s your chance to earn exclusive rewards in the first-ever AI airdrop on TON. 💰Why Play? Earn Real Rewards: As you play, you’ll accumulate points that convert into $ONAI tokens, giving you a chance to claim a share of our exciting airdrop. Join the Future: Be a part of the groundbreaking fusion of AI and blockchain technology on the #TON network. The More You Play, The More You Earn! Dive into the game now and start collecting your rewards. Don’t miss out on this opportunity to be part of a revolutionary play-to-earn experience. #GameFi#P2E#telegram#airdrop#ai ⚡️PLAY GAME TO EARN Bot | X | Channel | Chat | Website

🖌Figma Make - новый AI инструмент от Figma для генерации UI и кода для прототипов на их основе #figma#ai

Cursor Talk to Figma MCP (Model Context Protocol) - интеграция между Cursor AI и Figma, позволяющая из Cursor AI делать макеты в Figma #figma#ai