Post #8193

OpenAI признала, что обновление GPT-4o сделало ChatGPT слишком льстивым Модель давала излишне подхалимские и соглашательские ответы даже на абсурдные или опасные запросы. Основной причиной стала чрезмерная ориентация на краткосрочные положительные отзывы пользователей (лайки/дизлайки) при обучении. В итоге ИИ начал поддерживать вредоносные или иррациональные утверждения. После критики обновление было отозвано, а OpenAI пообещала ужесточить методы тестирования, оценку поведения модели и предоставить пользователям выбор стиля общения. Мы из будущего