Яндекс выложил в открытый доступ нейросеть YaLM 100B, которая может псевдоразумно отвечать на вопросы и вести беседу. К сожалению, попробовать её лично я не могу, потому что для запуска нужно около 200+ гигабайт видеопамяти, это приличная такая майнинг-ферма. Но по скриншотам она действительно хорошо работает. Хотя про GPT-3 тоже так говорили, а на деле очень так себе.
А ещё неделю назад по сети ходила новость о том, что один из разработчиков в Google пообщался с их нейросетью и увидел в ней признаки разума. Вплоть до того, что нанял юриста защищать интересы нейросети! Его в итоге отправили в оплачиваемый принудительный отпуск, подлечиться, наверное.
Разработчики знают о мысленном эксперименте "Китайская комната", но обывателю он, на мой взгляд, сложен для понимания, поэтому я попробую привести другой пример. Представьте, что у вас есть кубики с буквами, и там набор граней, которые составляют фразу "Привет, человек". Вы эти грани намазали чем-то вкусным и научили вашу собаку переворачивать кубики вкусными гранями вверх в ответ на команду "Привет, собака". В итоге, если вы говорите "Привет, собака", она переворачивает кубики так, чтобы из них сложилось "Привет, человек".
Научилась ли собака при этом говорить на человеческом языке и осознанно отвечать на приветствие? Нет. Нейросеть гораздо глупее собаки (та хотя бы способна именно сознанием различать разные человеческие фразы). Это просто набор алгоритмов, которые складывают кубики, а мы уже на этих кубиках что-то читаем. Чтобы кубики складывались правильно, этих алгоритмов много, и параметров, которыми такая нейросеть оперирует, 100 миллиардов.
Даже очень хороший алгоритм по подбору кубиков не является разумным фактически ни в каком смысле этого слова. Впрочем, это не значит, что он не может решать нужные нам задачи. Такую сетку вполне нормально поставить в условной службе поддержки отбиваться от дурачков, задающих банальные или глупые вопросы.
Что еще посмотреть по теме:
«Теорема о бесконечном количестве обезъян»;
И очень крутой фантастический рассказ Хорхе Луиса Борхеса «Вавилонская библиотека». В Библиотеке точно будет книга, которая станет буквально с вами разговаривать: вы задаёте вопрос (любой), переворачиваете страницу и видите там ответ на него, будто бы от разумного существа.
#dev#fiction
CISA Unveils Groundbreaking AI Security Blueprint
Hello everyone! The Cybersecurity and Infrastructure Security Agency of USA (CISA) has launched its inaugural AI roadmap, aligning with President Biden's Executive Order and prioritizing national safety and cybersecurity.
Key Initiatives in CISA's AI Roadmap:
1️⃣Responsibly Use AI: Commitment to ethically use AI-enabled tools for cyber defense and critical infrastructure missions.
2️⃣Assess and Assure AI Systems: Evaluation and assistance in secure AI-based software adoption, ensuring resilience and security.
3️⃣Protect Critical Infrastructure: Evaluation and mitigation of AI threats, with collaboration across government agencies and industry partners.
4️⃣Collaborate on Key AI Efforts: Contribution to interagency efforts, supporting policy approaches, and coordination with international partners.
5️⃣Expand AI Expertise in Workforce: Education, recruitment, and training to enhance workforce proficiency in AI systems, covering legal, ethical, and policy aspects.
#CISA#AI#NationalSecurity#Cybersecurity
CISA и FBI выпустили уведомление для владельцев бизнеса, призывая из обратить внимание на случаи атак с использованием уязвимостей CVE-2024-20399, CVE-2024-3400, CVE-2024-21887) и принять меры по выявлению и устранению их.
У меня вопрос: а вот наши ИБшники, который сейчас продолжают использовать старые Cisco, Palo Alto для защиты периметра - снова ждете пока кто то на форуме прошивку сольет и вы без проверки полезете ее ставить или снова будете думать "ну, нас проносило и пронесет сейчас"? Боюсь, как бы со страху от звонка вашего ИТшника вас бы не пронесло... (немного жестко, но за то правда)
#news#cisa#vulnurability
Выпущено международное руководство по безопасному развертыванию ИИ
Центр безопасности искусственного интеллекта Агентства национальной безопасности США в сотрудничестве с Агентством кибербезопасности и безопасности инфраструктуры, Федеральным бюро расследований, Австралийским центром кибербезопасности, Канадским центром кибербезопасности, Национальным центром кибербезопасности Новой Зеландии и Национальным центром кибербезопасности Великобритании выпустили совместное руководство по безопасному развертыванию систем искусственного интеллекта.
В этом руководстве изложены лучшие практики развертывания и использования систем ИИ от внешних разработчиков. Целью руководства является:
✅ повысить конфиденциальность, целостность и доступность систем искусственного интеллекта;
✅ обеспечить надлежащее устранение известных уязвимостей в системах ИИ;
✅ обеспечить методологии и средства контроля для защиты, обнаружения и реагирования на злонамеренные действия в отношении систем ИИ и связанных с ними данных и сервисов.
Документ охватывает широкий спектр тем: от защиты среды развертывания до защиты операционной системы ИИ и обеспечения безопасности операций и обслуживания ИИ.
В руководстве изложены три основных метода обеспечения безопасности:
✅ защита среды развертывания,
✅ защита системы ИИ, и
✅ обеспечение безопасности эксплуатации и обслуживания ИИ.
Понимание и выполнение рекомендаций, изложенных в руководстве, поможет организациям снизить риски ИИ и укрепить доверие к этой быстроразвивающейся технологии.
#AI#Безопасность#Кибербезопасность#CISA#NSA
International Guidance Released on Secure AI Deployment
The US National Security Agency’s (NSA) Artificial Intelligence Security Center (AISC) in collaboration with the Cybersecurity & Infrastructure Security Agency (CISA), the Federal Bureau of Investigation (FBI), the Australian Signals Directorate’s Australian Cyber Security Centre (ASD ACSC), the Canadian Centre for Cyber Security (CCCS), the New Zealand National Cyber Security Centre (NCSC-NZ), and the United Kingdom’s National Cyber Security Centre (NCSC-UK) released joint guidance on Deploying AI Systems Securely.
This guidance outlines best practices for deploying and using externally developed AI systems. The aim of the guidance is to:
✅ Improve the confidentiality, integrity, and availability of AI systems.
✅ Ensure there are appropriate mitigations for known vulnerabilities in AI systems.
✅ Provide methodologies and controls to protect, detect, and respond to malicious activity against AI systems and related data and services.
The guidance covers a wide range of topics, from securing the deployment environment to protecting the operating AI system and securing AI operations and maintenance.
The three overarching best practices outlined in the guidance are:
✅ secure the deployment environment,
✅ continuously protect the AI system, and
✅ secure AI operation and maintenance.
The release of this guidance is an important step in ensuring the safe and secure deployment of AI systems. Understanding and implementing the recommendations outlined in it can help organizations mitigate AI risks and build trust in this powerful technology.
#AI#Security#Cybersecurity#CISA#NSA
13 ноября NIST NVD наконец признали очевидное: им не удалось разобрать бэклог по анализу CVE до конца фискального года (30 сентября). Что, в общем-то, видно в их же статистике. На текущий момент в бэклоге 19860 идентификаторов. За эту неделю новых CVE поступило 1136, а проанализировали они только 510. И это не какая-то аномальная неделя, это сейчас норма. Они не справляются с разбором нового, чего уже говорить о бэклоге. Кризис продолжается.
При этом в сообщении они почему-то пишут, что у них полная команда аналитиков, и они обрабатывают все входящие CVE по мере их загрузки в систему. Но почему тогда их статистика показывает обратное?
Они пишут, что теперь обрабатывают все уязвимости из CISA KEV. И это хорошо. Но в CISA KEV за 2024 год добавили пока только 162 CVE. Круто, что они осилили эти идентификаторы, но достижение, мягко говоря, не впечатляет.
Почему NVD не справляются с бэклогом?
Они пишут, что дело в формате данных от Authorized Data Providers (ADPs), видимо имея в виду под этим CISA Vulnrichment. NVD не могут эффективно импортировать и улучшать данные в этом формате. Чтобы это делать они разрабатывают какие-то "новые системы".
То есть мало того, что они расписались в неспособности анализировать уязвимости самостоятельно и готовы использовать чужие данные as is, они ещё и не могут парсеры-конвертеры писать за адекватное время. 🐾 Просто удивительные. 🤦♂️
И тут ещё прошла новость, что сенатор Рэнд Пол, новый председатель Senate Homeland Security Committee пообещал серьезно сократить полномочия CISA или полностью их ликвидировать. Наш слоняра! 😁🐘 Весь движ там из-за работы CISA "по противодействию дезинформации" перед американскими выборами. Но под это дело могут угробить единственного американского ИБ-регулятора, который делает хоть что-то полезное и в адекватные сроки. Молодцы, так держать. 👍
Ничего кроме дальнейшей деградации ждать не приходится.
@avleonovrus#NIST#NVD#CISA#Vulnrichment#thoseamericans