TGTGInsightаналитика telegramLIVE / telegram public index
← [404] — программирование

TGINSIGHT SIMILAR POSTS

Найти похожее

Источник @procode404 · Post #2930 · 2 апр.

🧠 В каких случаях и как нужно ускорять инференс LLM Инференсом ML-модели называют процесс её работы на конечном устройстве. Следовательно, его ускорение напрямую повышает скорость работы модели. Специалист из команды YandexGPT рассказывает про методы дистилляции, квантизации и дополнительные способы, такие как Speculative Decoding. Также автор делится опытом преодоления технических сложностей при внедрении LLM в реальные продукты. Перейти к изучению методов ускорения инференса LLM #ai#теория

Результаты

Найдено 10,379 похожих постов

Общий глобальный поиск

🎉 Efficiency资源干货全收录

@Quanshoulu · Post #9937 · 06.03.2026, 10:59

#AI 本地优先、隐私至上的 AI 工作台 —— 结构化文档 + 多模型对话 + 跨平台桌面,数据永远留在你的设备上,一个应用替代 Notion + ChatGPT + Trello + 画板工具 — 数据 100% 留在本地 https://github.com/OpenLoaf/OpenLoaf

Hashtags

鋅厘的收藏

@zince_general_collection · Post #9937 · 09.05.2026, 18:49

応答なし: ドキドキ https://twitter.com/outounashi___/status/2052911147851153589 #ai

Hashtags

🎉 Efficiency资源干货全收录

@Quanshoulu · Post #9928 · 05.03.2026, 10:59

#AI 基于即梦 Seedance 2.0 模型的 AI 视频生成 Web 应用。支持多图参考、双模型选择、6种画面比例、4-15秒时长,React + Express 前后端架构,支持 Docker 一键部署。 https://github.com/wwwzhouhui/seedance2.0

Hashtags

🎉 Efficiency资源干货全收录

@Quanshoulu · Post #9927 · 05.03.2026, 10:59

#AI 专为个人用户打造的开源 AI Agent — 轻量、易用、更适合中文用户 | 智能记忆 · Skills拓展 · 模块化 · 国产大模型深度适配 | 轻量版中文 OpenClaw,支持飞书、钉钉、Telegram远程控制 https://github.com/countbot-ai/CountBot

Hashtags

🎉 Efficiency资源干货全收录

@Quanshoulu · Post #9880 · 02.03.2026, 10:19

#AI 一句话需求,三条产线同时开工,对话生成流程图,支持局部、全量,一键应用到画布。支持页级增量迭代,把改稿变成可追踪的流程。 https://github.com/CodingFeng101/CanvasAnvil

Hashtags

🎉 Efficiency资源干货全收录

@Quanshoulu · Post #9879 · 02.03.2026, 10:19

#AI 一个完整的 AI 驱动小说转短剧生产平台。从小说文本输入到最终视频输出,覆盖 章节拆分 → 实体提取 → 参考图生成 → 分镜生成 → 视频合成 全流程 https://github.com/Anning01/novelvids

Hashtags

XP Digital Lab

@rocCHL · Post #9856 · 08.03.2026, 10:50

MIRD-276,MOODYZ已经AI制作了…… 标签:#ai Created by RocM 官方频道:@rocCHL 官方群组:@roctech 官方合作:@rocmmbot

Hashtags

12•••1213141516•••50•••100•••150•••200•••250•••300•••350•••400•••450•••500•••550•••600•••650•••700•••750•••800•••850•••864865