Post #637

Anthropic опубликовала новую «Конституцию Claude» — текст, который интересен как попытка зафиксировать образ мышления для искусственного интеллекта Речь идёт о документе, который объясняет, почему модель должна действовать так, а не иначе Авторы прямо говорят, что если Ml должен ориентироваться в сложных и неоднозначных ситуациях, ему недостаточно следовать правилам Ему нужно понимать основания этих правил, уметь соотносить ценности и принимать решения в условиях неопределённости Текст написан прежде всего для самого Claude Модель опирается на него при генерации данных, при выборе ответов и при оценке собственных вариантов поведения В документе постоянно подчёркивается различия между намерениями и реальностью Авторы не обещают, что модель всегда будет соответствовать описанным идеалам, и прямо говорят о разрыве между замыслом и фактическим поведением Конституция представлена как «живой» текст, который будет переписываться и уточняться по мере того, как меняются сами модели и их возможности Отдельного внимания заслуживает тон: Anthropic не утверждает, что Claude обладает сознанием или моральным статусом, но при этом серьёзно обсуждает вопросы идентичности, самопонимания и даже психологической устойчивости Ml И дело, конечно, не в страданиях, а потому, что его способ понимать себя влияет на безопасность, целостность и качество решений