Две новости последних дней:
1. Гильдия актёров озвучки видеоигр в США закончила годовую забастовку, выбив себе особые условия по использованию их голосов в ИИ
2. Крупнейшие медиагиганты Disney и Universal подали в суд на Midjourney за незаконное использование их изображений в обучении нейросети
Обычно в таких темах люди делятся на две группы. Одна говорит, что ИИ обучается как и человек, только быстрее, поэтому подобные запреты приближаются по смыслу к запрету людям обучаться на работах других людей, что немыслимо. Другая говорит, что ИИ комбинирует кусочки существующих данных, просто очень хитрым образом, но всё равно это нарушение, потому что человек тоже не может вырезать кусок чужого изображения и где-то его использовать, не имея на это прав.
Я считаю, что у нас на лицо сценарий романа Стругацких «Далёкая радуга» — человечество кинулось лавинообразно исследовать и расширять некоторое явление, для которого не изучены последствия и не выработаны правила и меры предосторожности. У нас нет ни хорошей юридической практики обращения с нейросетями, ни защиты от возможного коллапса экономики из-за потери сотен тысяч рабочих мест, ни контроля за данными в интернете, которые постепенно превращают поисковые выдачи текста, картинок и видео в неконтролируемый мусор. Да, корпорациям очень хочется понастроить себе датацентров с ИИ, чтобы выгнать людей и не платить зарплаты. Иронично, что другие крупные корпорации сейчас этому частично противятся, но, я вас уверяю, тому же Диснею абсолютно плевать на своих художников, и они тоже с радостью заменят их на тот же Midjourney, как только нейросети поднимутся ещё на пару градаций по качеству и предсказуемости.
Окей, когда ИИ заменит программистов, никто не будет особо горевать из-за исчезновения дорогих зажравшихся айтишников-выскочек. Но с художниками ситуация сложнее. В теории мы рискуем потерять огромный пласт человеческой культуры, потому что работа людей-художников перестанет цениться, а сами художники не смогут эффективно презентовать себя в потоке нейрошлака. И с этой позиции конкретно сейчас Дисней с Юниверсалом делают благое дело. Вот только, по-видимому, они сильно опоздали.
#life
CISA Unveils Groundbreaking AI Security Blueprint
Hello everyone! The Cybersecurity and Infrastructure Security Agency of USA (CISA) has launched its inaugural AI roadmap, aligning with President Biden's Executive Order and prioritizing national safety and cybersecurity.
Key Initiatives in CISA's AI Roadmap:
1️⃣Responsibly Use AI: Commitment to ethically use AI-enabled tools for cyber defense and critical infrastructure missions.
2️⃣Assess and Assure AI Systems: Evaluation and assistance in secure AI-based software adoption, ensuring resilience and security.
3️⃣Protect Critical Infrastructure: Evaluation and mitigation of AI threats, with collaboration across government agencies and industry partners.
4️⃣Collaborate on Key AI Efforts: Contribution to interagency efforts, supporting policy approaches, and coordination with international partners.
5️⃣Expand AI Expertise in Workforce: Education, recruitment, and training to enhance workforce proficiency in AI systems, covering legal, ethical, and policy aspects.
#CISA#AI#NationalSecurity#Cybersecurity
CISA и FBI выпустили уведомление для владельцев бизнеса, призывая из обратить внимание на случаи атак с использованием уязвимостей CVE-2024-20399, CVE-2024-3400, CVE-2024-21887) и принять меры по выявлению и устранению их.
У меня вопрос: а вот наши ИБшники, который сейчас продолжают использовать старые Cisco, Palo Alto для защиты периметра - снова ждете пока кто то на форуме прошивку сольет и вы без проверки полезете ее ставить или снова будете думать "ну, нас проносило и пронесет сейчас"? Боюсь, как бы со страху от звонка вашего ИТшника вас бы не пронесло... (немного жестко, но за то правда)
#news#cisa#vulnurability
Выпущено международное руководство по безопасному развертыванию ИИ
Центр безопасности искусственного интеллекта Агентства национальной безопасности США в сотрудничестве с Агентством кибербезопасности и безопасности инфраструктуры, Федеральным бюро расследований, Австралийским центром кибербезопасности, Канадским центром кибербезопасности, Национальным центром кибербезопасности Новой Зеландии и Национальным центром кибербезопасности Великобритании выпустили совместное руководство по безопасному развертыванию систем искусственного интеллекта.
В этом руководстве изложены лучшие практики развертывания и использования систем ИИ от внешних разработчиков. Целью руководства является:
✅ повысить конфиденциальность, целостность и доступность систем искусственного интеллекта;
✅ обеспечить надлежащее устранение известных уязвимостей в системах ИИ;
✅ обеспечить методологии и средства контроля для защиты, обнаружения и реагирования на злонамеренные действия в отношении систем ИИ и связанных с ними данных и сервисов.
Документ охватывает широкий спектр тем: от защиты среды развертывания до защиты операционной системы ИИ и обеспечения безопасности операций и обслуживания ИИ.
В руководстве изложены три основных метода обеспечения безопасности:
✅ защита среды развертывания,
✅ защита системы ИИ, и
✅ обеспечение безопасности эксплуатации и обслуживания ИИ.
Понимание и выполнение рекомендаций, изложенных в руководстве, поможет организациям снизить риски ИИ и укрепить доверие к этой быстроразвивающейся технологии.
#AI#Безопасность#Кибербезопасность#CISA#NSA
International Guidance Released on Secure AI Deployment
The US National Security Agency’s (NSA) Artificial Intelligence Security Center (AISC) in collaboration with the Cybersecurity & Infrastructure Security Agency (CISA), the Federal Bureau of Investigation (FBI), the Australian Signals Directorate’s Australian Cyber Security Centre (ASD ACSC), the Canadian Centre for Cyber Security (CCCS), the New Zealand National Cyber Security Centre (NCSC-NZ), and the United Kingdom’s National Cyber Security Centre (NCSC-UK) released joint guidance on Deploying AI Systems Securely.
This guidance outlines best practices for deploying and using externally developed AI systems. The aim of the guidance is to:
✅ Improve the confidentiality, integrity, and availability of AI systems.
✅ Ensure there are appropriate mitigations for known vulnerabilities in AI systems.
✅ Provide methodologies and controls to protect, detect, and respond to malicious activity against AI systems and related data and services.
The guidance covers a wide range of topics, from securing the deployment environment to protecting the operating AI system and securing AI operations and maintenance.
The three overarching best practices outlined in the guidance are:
✅ secure the deployment environment,
✅ continuously protect the AI system, and
✅ secure AI operation and maintenance.
The release of this guidance is an important step in ensuring the safe and secure deployment of AI systems. Understanding and implementing the recommendations outlined in it can help organizations mitigate AI risks and build trust in this powerful technology.
#AI#Security#Cybersecurity#CISA#NSA
13 ноября NIST NVD наконец признали очевидное: им не удалось разобрать бэклог по анализу CVE до конца фискального года (30 сентября). Что, в общем-то, видно в их же статистике. На текущий момент в бэклоге 19860 идентификаторов. За эту неделю новых CVE поступило 1136, а проанализировали они только 510. И это не какая-то аномальная неделя, это сейчас норма. Они не справляются с разбором нового, чего уже говорить о бэклоге. Кризис продолжается.
При этом в сообщении они почему-то пишут, что у них полная команда аналитиков, и они обрабатывают все входящие CVE по мере их загрузки в систему. Но почему тогда их статистика показывает обратное?
Они пишут, что теперь обрабатывают все уязвимости из CISA KEV. И это хорошо. Но в CISA KEV за 2024 год добавили пока только 162 CVE. Круто, что они осилили эти идентификаторы, но достижение, мягко говоря, не впечатляет.
Почему NVD не справляются с бэклогом?
Они пишут, что дело в формате данных от Authorized Data Providers (ADPs), видимо имея в виду под этим CISA Vulnrichment. NVD не могут эффективно импортировать и улучшать данные в этом формате. Чтобы это делать они разрабатывают какие-то "новые системы".
То есть мало того, что они расписались в неспособности анализировать уязвимости самостоятельно и готовы использовать чужие данные as is, они ещё и не могут парсеры-конвертеры писать за адекватное время. 🐾 Просто удивительные. 🤦♂️
И тут ещё прошла новость, что сенатор Рэнд Пол, новый председатель Senate Homeland Security Committee пообещал серьезно сократить полномочия CISA или полностью их ликвидировать. Наш слоняра! 😁🐘 Весь движ там из-за работы CISA "по противодействию дезинформации" перед американскими выборами. Но под это дело могут угробить единственного американского ИБ-регулятора, который делает хоть что-то полезное и в адекватные сроки. Молодцы, так держать. 👍
Ничего кроме дальнейшей деградации ждать не приходится.
@avleonovrus#NIST#NVD#CISA#Vulnrichment#thoseamericans