Post #4253

Amazon AI 大炼钢练出事现在要求双人 review 这个新闻还挺有意思 3月2号内部AI编码工具Q生成的代码导致购物车显示错误delivery time，丢了12万单加上160万次网页报错。3月5号又有人跳过审批流程直接推了一个high blast radius的config change，导致北美marketplace订单量掉了99%，丢了630万单。 现在Amazon SVP Dave Treadwell发了内部邮件搞了个90天安全整改，335个Tier-1 system全部强制双人code review，AI工具改的代码要走额外审批。原话是要引入"controlled friction"。 下面内部人的提供了更多 context： 不能全怪 AI，更多应该怪大炼钢压缩 DDL 没时间测试 + 裁员和人事变动大家不约而同方针是出了问题再修而不是避免问题，增加了 review 但 DDL 没变。 当然不觉得会对全行业大炼钢有啥阻碍作用，只不过是“历史进程”中小 setback 罢了。坐等历史进程到泡泡破然后打回原型然后稳扎稳打有用的地方慢慢发展回来的老剧本了。 #tech#amazon#AI#news