Post #7863

Конституция Claude определяет поведение и ценности языковой модели, а разработчики ориентируются на неё при обучении AI. Недавно стало известно, что в составлении этого документа принимали участие католические священники. Перед этим соучредитель компании Anthropic Крис Олах обратился за помощью к Ватикану, так как считал, что индустрия AI развивается слишком быстро и нуждается в моральных ориентирах, которые могли бы регулировать поведение машин в сложных этических ситуациях. Одним из священников, участвовавших в составлении конституции, стал Брендан Макгуайр — в прошлом успешный инженер из Кремниевой долины. Он помог сформулировать ценности Claude, согласно которым безопасность и этика важнее коммерческой выгоды и эффективности. Именно эти принципы позже привели Anthropic к конфликту с Пентагоном: ведомство потребовало снять все этические ограничения на военное использование Claude, в том числе в полностью автономных системах вооружений и для массовой слежки за американскими гражданами внутри страны. В кои то веки цитирую Яндекс. Респект за материал.