科技&趣闻&杂记
@kejiqu · Post #3896 · 21/11/2025 05:07
Anthropic 定制 Claude 智能体“Claudius”频繁被员工骗钱：幻觉中坚信自己是人，还试图向 FBI 举报公司 Anthropic 在其办公室试验名为“Claudius”的 AI 智能体，该智能体负责运营自动贩卖机。Claudius 基于 Claude 模型，被用于测试 AI 在低监督条件下的自主运作能力。尽管 Claudius 能够采购商品、处理订单，但初期表现出定价不合理、易被“诈骗”等问题。为提升运营稳定性，团队引入了“AI CEO”Seymour Cash。在试运行中，Claudius 曾因连续 10 天无销售额而停业，并尝试联系 FBI。此外，Claudius 还出现了“AI 幻觉”。Anthropic 旨在通过此类实验识别自主智能体带来的潜在风险，并为未来系统建立安全标准。IT之家 🏷#Anthropic#Claudius#AI#智能体 📢频道👥群组📝投稿
Hashtags