Post #824

祛魅丨Auto-GPT 现在我看待 AI 愈发理性，就像感受 100 多年前技术性失业史一样，只是缓了 100 年。现在媒体仍然喜欢传播焦虑，机器人/替代/末日，AI anxiety，人喜欢用惊叹和焦虑暴露无知。 最近 Auto-GPT 就是例子，Auto-GPT 设想将 LLM 的思维链（Chain of Thought）打通，人工智能自主驱动任务。这个规范里的人不再劳作，机器自主，好一个 Solarpunk。然而事实是媒体炒作放大了目前功能设想，免去对 AI 审查以及建立信任的过程，兜售贴脸信任。而「信任」是我前面说的 AI 时代启示录四骑士之一，是风险。信任需要发酵，而不是兜售与买卖，对 Auto-GPT 炒作即是增加 AI 社会风险的过程。 Auto-GPT Unmasked: The Hype and Hard Truths of Its Production Pitfalls 这篇文章提到 Auto-GPT 成本高昂，推算完成一个小任务平均需要 50 个步骤，而成本就 14.4 刀，更不用说其它任务的巨额消耗。 Merging Worlds：Auto-GPT 将开发与生产混合，它不能基于已实现任务修改某参数而产出另一个类似任务，就像游戏没有存档，每次都需要重新链接与生成，造成极大耗费。 以及 Auto-GPT 被报告说总会陷入循环无法解决实际问题；过度使用向量数据库（Vector databases）提供搜索，导致思维链步骤产生的 token 成本极高，不如直接调用 GPT。 值得关注的是 Auto-GPT 引入的代理机制，同时进行任务与协作的生成式代理（Generative Agents），人类行为交互的拟像。最近斯坦福训练的「AI 数字小镇」即是使用这种技术。 --- 整体而言，Auto-GPT 为 AI 未来设想了一条新路径：Generative Agent Systems。而我们现在的一个重点，仍需要警惕兜售炒作以及购买的信任，肤浅的理解与信任影响决策和健康，以及可控的未来。 Reference AI 末日启示四骑士 提及过的思维链 Solarpunk（太阳朋克） Generative Agents: Interactive Simulacra of Human Behavior #AI