Post #1463

📩 OpenAI признает неустранимость угрозы непрямой промпт-инъекции в ИИ браузерах. Хотя номинальный лидер в сегменте больших языковых моделей описывает шаги, предпринятые для минимизации риска, многие представители индустрий ИИ/инфобеза уже высказывались в этом ключе. Современные браузеры Atlas и Comet, главной фишкой которых является встроенный LLM-агент для автоматизации взаимодействия с интернетом, всегда будут подвержены такому виду атак, но их автономность и доступ к аккаунтам пользователя увеличивает риск многократно. 📍Комментарий экспертов Центра ИИ МГИМО: Данные выводы можно в значительной степени расширить на произвольные агентные системы, но их развертывание в бизнес-контексте должно содержать строгую политику безопасности по части доступа к исходным данным и допустимых прав агентов. ИИ браузеры, напротив, по своей природе обрабатывают посещаемые страницы через LLM, рискуя инъекцию, а обычный пользователь вряд ли будет соблюдать должный уровень цифровой гигиены для минимизации угрозы.