TGTGInsighttelegram intelligenceLIVE / telegram public index
← AI中文社区

TGINSIGHT SIMILAR POSTS

查找相似内容

Source channel @LptTech · Post #613 · 4月4日

#AI论文 用一种新的方式对LLMs 性能比较和评估 ⚜️arxiv.org/abs/2304.00457 论文对 BLOOM, GPT-3, ChatGPT, LLaMa-13B 在物理、化学、生物、天文学、地球科学以及子领域上的评分。 ChatGPT稳居第一,LLaMa-13B 也不错。目前ChatGPT简中使用有一定门槛,然而LLaMa可算是近期最活跃的开源项目了,单机部署运行门槛越来越低,而且有不同参数规模版本。 -- 来源

Hashtags

Results

找到 1 条相似帖子

TG规则脚本信息分享器

@MRHXPJGG · Post #19268 · 2023/05/19 17:53

#AI论文 将文本context限制增加到1百万token GPT-4 处理 context 限制为32,768个token(大约50页文档),整个《哈利·波特》系列大约有1.5百万个token。 摘要:本文介绍了recurrent memory在BERT中的应用,BERT是自然语言处理中最有效的基于Transformer的模型之一。通过利用Recurrent Memory Transformer 架构,我们成功将模型的有效上下文长度增加到前所未有的两百万个token,同时保持了高的内存检索精度。我们的方法可以存储和处理本地和全局信息,并通过循环使用使输入序列段之间的信息流动成为可能。 — 更多详情

Hashtags