TGTGInsightаналитика telegramLIVE / telegram public index
← [404] — программирование

TGINSIGHT SIMILAR POSTS

Найти похожее

Источник @procode404 · Post #2930 · 2 апр.

🧠 В каких случаях и как нужно ускорять инференс LLM Инференсом ML-модели называют процесс её работы на конечном устройстве. Следовательно, его ускорение напрямую повышает скорость работы модели. Специалист из команды YandexGPT рассказывает про методы дистилляции, квантизации и дополнительные способы, такие как Speculative Decoding. Также автор делится опытом преодоления технических сложностей при внедрении LLM в реальные продукты. Перейти к изучению методов ускорения инференса LLM #ai#теория

Результаты

Найдено 10,379 похожих постов

Общий глобальный поиск

XP Digital Lab

@rocCHL · Post #10183 · 04.04.2026, 06:38

(转载)评测一下自己用过的 ai 第三方中转站 标签:#ai Created by RocM 官方频道:@rocCHL 官方群组:@roctech 官方合作:@rocmmbot

Hashtags

🎉 Efficiency资源干货全收录

@Quanshoulu · Post #10158 · 04.04.2026, 09:59

#AI PolyStudio 是一个对话式多模态内容生成平台,将语言模型与专业工具(如图片生成、视频生成、3D 模型生成、多模态内容理解)相结合,通过自然语言对话即可生成、分析和管理多媒体内容。 https://github.com/hirogoing/PolyStudio

Hashtags

🎉 Efficiency资源干货全收录

@Quanshoulu · Post #10142 · 02.04.2026, 12:15

#AI 一个完全免费AI-api服务,标准的 API 接口,无需 Key,无需登录注册,即开即用。https://ai-api.xzt.plus 📢关注频道:@quanshoulu 🎁访问主页: www.noisework.cn

Hashtags

🎉 Efficiency资源干货全收录

@Quanshoulu · Post #9995 · 13.03.2026, 12:19

#AI 一站式 AI 生成短剧(竖屏短剧 / 微短剧)的生产工具 , 从剧本输入 → 智能分镜 → 角色/场景/道具一致性管理 → AI 视频生成 → 后期剪辑 → 一键导出成片 . https://github.com/Forget-C/Jellyfish

Hashtags

XP Digital Lab

@rocCHL · Post #9994 · 18.03.2026, 02:23

手机AI功能有用吗 数千名网友投票扎心:1/4用户直言从不用 近年推出的手机普遍内置AI助理,提供便利的生成式AI功能,但这些功能对大众而言真的有用吗。根据Android Authority最新调查显示,在超过六千名的受访者中,有四分之一以上的人表示自己根本没在用这些AI功能。 我说一下自己,用的iphone的ai,最多使用的是图片的擦除和文本总结 标签:#ai Created by RocM 官方频道:@rocCHL 官方群组:@roctech 官方合作:@rocmmbot

Hashtags

🎉 Efficiency资源干货全收录

@Quanshoulu · Post #9963 · 09.03.2026, 11:59

#AI 开源的 AI 视频知识提取工具。输入视频链接或本地文件,一键生成笔记、知识卡片、思维导图,支持智能问答和多语言翻译。内置 ViNoter 超级智能体,基于 ANP 协议实现对话式跨平台视频搜索与处理 https://github.com/zrt-ai-lab/ViNote

Hashtags

12•••1112131415•••50•••100•••150•••200•••250•••300•••350•••400•••450•••500•••550•••600•••650•••700•••750•••800•••850•••864865