Post #1218

Россия внедряет невидимую маркировку ИИ-контента Институт системного программирования РАН разработал технологию «невидимых водяных знаков» — маркировки, которая позволяет определять, что контент был сгенерирован искусственным интеллектом. Сейчас идёт подготовка к внедрению технологии, в том числе — в рамках Кодекса этики ИИ. Что это значит Любой ИИ-контент — изображения, видео, тексты — в перспективе будет автоматически «помечаться» скрытым идентификатором. Эта маркировка будет невидима для обычного пользователя, но доступна для распознавания с помощью специальных алгоритмов. Технология поможет отслеживать происхождение контента, выявлять дипфейки и синтетические материалы в соцсетях и СМИ. Почему это произошло сейчас 🟢Резко выросло качество и количество генеративных ИИ (ChatGPT, Midjourney и др.). 🟢Увеличилось число фейков и дипфейков, которые невозможно отличить на глаз. 🟢Аналогичные инициативы появились за рубежом — ЕС, Китай, Meta, Google внедрили и уже тестируют подобные решения. 🟢Возник общественный запрос: 81 % россиян поддерживают идею маркировки ИИ-контента. Какие будут последствия 🟢Платформы смогут предупреждать, что контент создан ИИ. 🟢Дипфейки и фейки будут легче отслеживаться. 🟢Возможно, появятся новые нормы, обязывающие соцсети проверять и маркировать публикации. Но: 🟢техническая реализация сложная (огромные объемы контента); 🟢нет 100 % гарантии, что водяные знаки нельзя будет подделать или удалить; 🟢необходима стандартизация и поддержка со стороны платформ и государства. А пока учимся самостоятельно распознавать фейки. Технологии помогут, но критическое мышление по-прежнему — главное. И следите за обновлениями — ИИ‑законодательство в России сейчас активно формируется.