Post #4802

⚡️ChatGPT Agent признан угрозой высокого риска OpenAI официально подтвердили: ChatGPT Agent стал первой в мире ИИ-системой, получившей классификацию «высокий риск» в контексте разработки биологического оружия. Это значит, что даже неспециалист может с его помощью пройти все ключевые этапы создания опасных веществ — биологических или химических. Ранее ни одна AI-компания не признавалась в подобном публично, хотя многие создают гораздо менее прозрачные системы. Статус «высокого риска» несёт за собой сразу несколько последствий: 🟡 Усиленные протоколы безопасности. Мониторинг усилили не только на стадии генерации, но и до передачи запроса в модель. Проверяется каждый этап работы агента. 🟡 Жесткий контроль внутри компании. OpenAI переписали NDA, усилили внутренние правила и ввели обязательные внешние аудиты. Всё, чтобы не допустить злоупотреблений. 🟡 Ответственность пользователей. Если кто-то обнаруживает странное или опасное поведение агента и не сообщает об этом — может быть заблокирован и даже попасть под внутреннее расследование. OpenAI теперь требует отчетов о подобных случаях. 🤑ForgetMe | Boosty | ForgetBench | ForgetGPT | ForgetAPI #chatgpt#нейросети#новости