DPS Build

Haystack • Ask questions in natural language and find granular answers in your documents. • Perform semantic search and retrieve documents according to meaning, not keywords. • Use off-the-shelf models or fine-tune them to your domain. • Use user feedback to evaluate, benchmark, and continuously improve your live models. • Leverage existing knowledge bases and better handle the long tail of queries that chatbots receive. • Automate processes by automatically applying a list of questions to new documents and using the extracted answers. https://github.com/deepset-ai/haystack #nlp

NLP 的未来已来 https://simonwillison.net/2023/Mar/11/llama/

为什么 ChatGPT API 是革命性的？ 这几天读了读 ChatGPT API 的文档，太惊喜了： 1. 最新版的 API 是基于 gpt-turbo-3.5 的，这一版的 API 的交互是革命性的。得益于模型的强大，用户不需要提交各种参数，只要写 prompt 就行。也就是说 API 的 UX 被大大简化。用户不需要在请求里写参数，只要在 prompt 里写人话，模型自行能够明白用户的表达。 2. 更厉害的是，gpt 这类模型可以接受 chain of thoughts (COT) 的 prompt，如果用户觉得结果不满意，可以继续提交请求让模型生成更好的答案。在李宏毅的讲座里，他给出了一个例子就是，如果让模型直接解答一个复杂的数学题，效果可能不是很好，但是加上 let’s do it step by step 的 prompt 之后，模型给出了一步步的推导过程，结果大为改善。 3. 除了直接调用 ChatGPT API 的基础模型以外，OpenAI 还提供了让用户提交自己的 embedding 和 fine-tuning 等定制模型的方式，这两种都可以通过 API 来实现，不需要额外的步骤。不过，最新的 API 暂时不支持 fine-tuning 4. 以前随便开发一个 NLP 的模型，基本上开发周期是以月计算的，有了 ChatGPT API 之后，抛去准备数据的时间，开发周期可以以小时计算。我从零开始开始读文档，到写出一个 Q&A 生成的项目，只花了半天时间。放在以前，至少要花一两个月的时间吧。 #nlp

https://twitter.com/mehd_io/status/1634199933938184192?s=46

在单机上可以跑得动 Meta 发布的 LLaMA 模型。 https://til.simonwillison.net/llms/llama-7b-m2 https://twitter.com/ggerganov/status/1634282694208114690 #ml

在单机上可以跑得动 Meta 发布的 LLaMA 模型。 https://til.simonwillison.net/llms/llama-7b-m2 https://twitter.com/ggerganov/status/1634282694208114690 #ml

https://twitter.com/aieleuther/status/1633971388317941763?s=46 #ml

各家公司 A100 显卡的囤货情况 https://twitter.com/abacaj/status/1634069822764900353 #ml

抽时间读了读 openAI API 的使用文档和样例代码，发现这些 API 的威力远比在 ChatGPT 前台展示得要大得多。 感觉ChatGPT API 的开放对于 NLP 任务而言，就像十年前 AlexNet 的出现对于 CV 任务的推动差不多。 ChatGPT 当然不是全知全能，但是如何好好利用 ChatGPT （比如 fine tuning）可能是所有开发者都需要好好学习的 https://platform.openai.com/examples https://github.com/openai/openai…

UX 设计工具的市场占有率变化 https://twitter.com/gergelyorosz/status/1633865322603094017

gpt 有多火呢？看看现在包含 gpt 字符的 .com 顶级域名都是天文数字了😅

一个更好用的 ChatGPT 界面，已经有很多预设的 prompt，支持倒入自己的 API key 。付费之后支持搜索记录等等功能 https://www.typingmind.com/ #tools