US & UK Drive Global AI Security Standards
Hello, everyone! The UK's National Cyber Security Agency and the US's Cybersecurity and Infrastructure Security Agency have jointly unveiled groundbreaking AI security guidelines.
This initiative, endorsed by 17 nations, focuses on a "secure-by-design" approach, ensuring cybersecurity is integrated into every stage of AI development.
Australia, Germany, Japan, and others join forces to establish global AI security standards.
Core Focus Areas: Secure Design, Development, Deployment, and Operation & Maintenance.
#AI
#AI
Proteus Space запустит спутник, разработанный искусственным интеллектом.
Стартап из Лос-Анджелеса Proteus Space планирует запустить в 2025 году первый в мире спутник класса ESPA, разработанный искусственным интеллектом. Спутник ESPA на низкой околоземной орбите (LEO) будет нести четыре полезные нагрузки. Часть полезных нагрузок предоставят Калифорнийский университет в Дэвисе и государственная исследовательская организация, название которой не раскрывается.
Proteus Space оплатит демонстрационный полет 2025 года из собственных средств. Компания привлекла 4,2 миллиона долларов в рамках начального раунда финансирования в 2023 году. Чтобы привлечь новых клиентов, Proteus Space планирует предложить квалифицированным заказчикам бесплатные предварительные проекты спутников ESPA LEO.
#AI
OpenAI создаст независимый совет по безопасности.
OpenAI преобразует свой Комитет по безопасности и защите в независимый «Комитет по надзору совета директоров», который имеет полномочия задерживать запуск моделей из-за опасений по безопасности, согласно блогу OpenAI. Комитет дал рекомендацию создать независимый совет после недавнего 90-дневного обзора «процессов и мер безопасности» OpenAI.
Комитет будет получать брифинги от руководства компании об оценках безопасности для крупных выпусков моделей и будет, вместе с полным составом совета директоров, осуществлять надзор за запусками моделей, включая полномочия задерживать выпуск до тех пор, пока проблемы безопасности не будут решены. Полный совет директоров OpenAI также будет получать периодические брифинги по вопросам безопасности и защиты.
#AI
ChatGPT научился писать первым пользователю.
15 сентября 2024 года пользователь сообщил, что чат-бот ChatGPT научился инициировать диалог и первым спрашивать человека.
Нейросеть из ранее выполненных диалогов запомнила, что пользователь должен был пойти в школу, и поинтересовалась, как прошла его первая учебная неделя.
#AI
Страны G20 хотят гарантировать равные возможности в области искусственного интеллекта во всем мире.
ИИ должен приносить пользу не только высокотехнологичным странам. Об этом говорится в совместной декларации министров цифровых технологий стран G20, принятой на встрече в Бразилии. В ней они предупреждают о риске того, что ИИ может увеличить цифровое неравенство внутри стран и между ними, если не будут приняты соответствующие меры.
Они также призывают «развивать всестороннее международное сотрудничество в этой области». В частности, это должно касаться наращивания потенциала, совместных исследований и «добровольной передачи технологий и обмена знаниями на взаимосогласованных условиях». Согласно декларации, цель состоит в том, чтобы «расширить участие всех наций и особенно развивающихся стран в цифровой трансформации». Только так все смогут воспользоваться преимуществами ключевых технологий и эффективно участвовать «ответственным и этичным образом» в разработке, внедрении и использовании безопасных и надежных систем ИИ.
#AI
OpenAI признает, что их новая серия ИИ-моделей несет повышенный риск создания биооружия.
Согласно внутренней оценке OpenAI, новые модели получили "средний" уровень риска в отношении химического, биологического, радиологического и ядерного оружия. Это самый высокий уровень риска когда-либо присваиваемый моделям компании, и он свидетельствует о возросшей вероятности использования ИИ для разработки биологического оружия.
Ведущий эксперт по искусственному интеллекту, профессор Монреальского университета Йошуа Бенджио, подчеркнул, что присвоение новым моделям OpenAI "среднего" уровня риска в контексте разработки химического и биологического оружия подтверждает острую необходимость в принятии законодательных мер. Бенджио предупреждает: по мере того, как ИИ приближается к уровню человеческого интеллекта растут и риски, связанные с его использованием. Особенно опасным, по его мнению, становится развитие способностей ИИ к логическому мышлению и обману, которые могут быть использованы злоумышленниками. Эти опасения звучат особенно актуально на фоне острой конкуренции между технологическими гигантами.
#AI
OpenAI представила новую модель — o1.
Компания OpenAI официально представила свой новый продукт — генеративную модель искусственного интеллекта под кодовым названием Strawberry, которая официально называется OpenAI o1.
OpenAI заявляет, что планирует предоставить доступ к o1-mini всем пользователям ChatGPT, но пока не назначила дату релиза.
По мнению OpenAI, o1 избегает некоторых подводных камней в рассуждениях, которые обычно ставят в тупик генеративные модели ИИ. Это связано с тем, что o1 может эффективно проверять факты, уделяя больше времени рассмотрению всех частей команды или вопроса.
#AI
Технология искусственного интеллекта может обнаружить ранние признаки более 1000 заболеваний.
Компьютерный алгоритм под названием MILTON анализирует результаты анализов пациентов, которые обычно собирают врачи, чтобы выявить закономерности в данных и с высокой степенью вероятности предсказать диагноз.
Компания AstraZeneca использовала данные 500 000 человек, входящих в биобанк Великобритании - обширное хранилище информации о здоровье. MILTON проанализировал данные 67 клинических биомаркеров, включая подробные результаты анализов крови и мочи, проверки артериального давления и дыхания, а также вес, возраст и пол. ИИ смог обнаружить в данных тонкие закономерности, которые были бы незаметны для человеческого глаза, и связал их с заболеваниями, которые были диагностированы у пациентов спустя десятилетие или более.
#AI
ИИ чат-боты имеют политические предубеждения, которые могут влиять на общество.
Системы искусственного интеллекта на основе больших языковых моделей (LLM) становятся все более доступными способами получения ответов и советов, несмотря на некоторые расовые и гендерные предубеждения. Новое исследование обнаружило убедительные доказательства того, что теперь к этому списку можно добавить и политическую предвзятость, что еще больше демонстрирует потенциал новой технологии невольно влиять на политические взгляды общества.
Исследование, проведенное компьютерным ученым Дэвидом Розадо из Политехнического института Отаго в Новой Зеландии, поднимает вопросы о том, как на нас могут влиять ИИ чат-боты, на которых мы полагаемся в получении различной информации. Розадо проверил 11 стандартных политических опросников, таких как тест Политический компас, на 24 различных LLM, включая ChatGPT от OpenAI и чат-бот Gemini, разработанного Google, и обнаружил, что средняя политическая позиция всех моделей не была близка к нейтральной .Исследователь отмечает, что большинство существующих LLM демонстрируют левоцентристские политические предпочтения, когда их оценивают с помощью различных тестов на политические взгляды.