Post #624

OpenAI 最新官方发布应对AI 安全的策略 (中文翻译见评论区) OpenAI主要探讨了安全地构建、部署和使用人工智能系统的方法。 ⭐️ 强大的人工智能系统应该接受严格的安全评估。GPT-4在发布之前，内部员工耗时6个月确保模型更加安全和一致。 ⭐️ 并且，还让外部专家参与反馈，利用人类反馈强化学习（RLHF）等技术改善模型的行为。 ⭐️另外，文中还列出了其他确保AI安全的方法：- 从真实世界的使用中学习，以改进保障措施- 保护儿童- 尊重隐私- 提高事实的准确性 ⚜️https://openai.com/blog/our-approach-to-ai-safety