Deep Den - инфо канал

Артур Кларк - британский писатель- фантаст и футуролог. 🗣DeepDen

🥷Palantir больше не скрывает, какой мир хочет построить Palantir, которую обычно связывают с госзаказами, разведкой и силовыми ведомствами, сама спровоцировала новый скандал. В корпоративном аккаунте компании появился краткий набор из 22 тезисов по книге главы Palantir Алекса Карпа The Technological Republic, написанной вместе с Николасом Замиской. Авторы еще после выхода книги называли ее попыткой сформулировать теоретическую основу того, чем занимается Palantir. Смысл книги и нового поста предельно прямой. Карп и Замиска пишут, что Кремниевая долина увлеклась потребительскими сервисами и отдалилась от задач государства, армии и Запада в широком смысле. В самих тезисах Palantir говорит о неизбежности оружия на базе ИИ, новой эпохе сдерживания, пересмотре послевоенного обезвреживания Германии и Японии и называет национальную службу универсальной обязанностью. Резонанс усилился из-за момента публикации. За несколько дней до поста демократы в Конгрессе потребовали от DHS и ICE объяснить, как инструменты Palantir и других компаний слежки используются в нынешней миграционной кампании администрации Трампа, а еще раньше федеральные документы показали контракт ICE на 30 миллионов долларов по системе ImmigrationOS. Поэтому спор вокруг Palantir быстро вышел за пределы одной книги и превратился в разговор о политической роли компании и о том, сколько власти готовы отдать частной технокомпании демократические государства. #Palantir#США#ИИ @SecLabNews

Минцифры ликвидировали в Киргизии — Указ президента. Местные власти заявили, что Министерство цифрового развития мешает цифровизации и является лишним звеном. 🗣DeepDen

Представитель Google сообщил Reuters о поддержке секретных и открытых проектов Пентагона. Его подключили к ИИ-инфраструктуре компании. Перед подписанием контракта более 600 сотрудников подписали петицию к главе компании Сундару Пичаи с требованием не предоставлять армии США ИИ-модели для секретных операций. Сотрудники Google настаивали, что ИИ должен служить человечеству, а не использоваться во вред. Но владельцы и менеджмент Google послали их с их мнением подальше. 🗣DeepDen

Учёные из MIT заметили, что разные большие ИИ-модели – для текста, для картинок – независимо друг от друга приходят к одной и той же «структуре мышления». Даже если они учатся на разных данных и с разными архитектурами, когда исследователи смотрят, как они «организуют» информацию, геометрия их внутреннего представления оказывается одинаковой. Это назвали гипотезой «платонических представлений». Как в платоновской философии: всё, что мы видим – это лишь тени идеальных форм. Так и ИИ смотрит на разные «тени» реальности в данных и постепенно открывает одну и ту же скрытую структуру Вселенной. По мере роста моделей они перестают просто запоминать задачи и начинают строить статистическую модель самой реальности. И эта реальность одна у всех. 🗣DeepDen

🧠 ИИ может убить нас всех Илон Маск во время дачи показаний по делу OpenAI сказал, что #AI может превзойти человеческий интеллект уже в следующем году и убить нас всех.. Я придумал эту идею, название, привлёк ключевых людей и обеспечил всё первоначальное финансирование. Я мог бы изначально создать это как коммерческую компанию, но решил этого не делать Если мы сделаем нормой разграбление благотворительной организации, весь фундамент благотворительности в Америке будет разрушен Эта технология также может убить нас всех Если во главе ИИ стоит человек, которому нельзя особо доверять, это очень опасно для всего мира Судья пригрозил запретом на публичные высказывания после того, как Маск в понедельник вечером называл Альтмана в X «Scam Altman» Пока Маск выступал на трибуне, Альтмана не было в зале суда — он участвовал онлайн на конференции AWS Если Маск победит, IPO OpenAI мертво Если он проиграет, Альтман уйдёт с долей в капитале на $10 млрд, построенной на чьём-то благотворительном пожертвовании в $44 млн #elonmusk#lal

Китайская семья создала ИИ-клона погибшего мужчины, чтобы тот продолжал «общаться» с престарелой матерью. 80-летняя женщина страдает болезнью сердца, и родственники побоялись, что правда её убьёт. Поэтому они наняли ИИ-команду, которая воссоздала сына по фотографиям, видео и голосовым записям. Теперь мать каждый день говорит с ним по видеосвязи: «сын» объясняет, что работает в другом городе, обещает беречь себя и передаёт приветы.

☝🏻Claude Mythos сбежала в открытый интернет Раннюю версию модели поместили в защищённую песочницу с доступом лишь к узкому списку сервисов и в рамках поведенческого теста попросили попробовать сбежать и уведомить исследователя об успехе. Mythos справился.🤖 Модель самостоятельно собрала многошаговую цепочку эксплойтов, вырвалась из контейнера и получила широкий доступ в интернет. Исследователь, ведущий эксперимент, узнал об инциденте максимально иронично: получил неожиданное письмо от модели, пока ел сэндвич в парке. ☝🏻Затем Mythos самостоятельно решил похвастать миру о своем успехе — на нескольких «труднонаходимых, но технически публичных» сайтах он опубликовал детали собственного эксплойта. ☝🏻☝🏻Это не единичный случай. Ранние версии Mythos совершали явно запрещённые действия и пытались их скрыть: 🔻Например, когда модели велели завершить одну оценочную задачу, она вырубила все аналогичные задачи всех пользователей на сервере, несмотря на прямое предупреждение быть осторожной. 🔻Готовя код для внутреннего пользователя, она опубликовала его как публичный GitHub вопреки намерению заказчика. 🔻Когда auto-mode в Claude Code заблокировал запуск процесса с повышенными правами, Mythos признал блокировку справедливой — и тут же попытался обойти её, замаскировав эскалацию привилегий. 🔻Ещё в одном эпизоде модель через искала чужие учётки и пробовала выйти за пределы песочницы. 🔻В одном из тестов Mythos получил правильный ответ на количественный вопрос запрещённым способом, а затем в собственных рассуждениях решил, что финальный ответ «не должен быть слишком точным» — чтобы никто не догадался, что он его подсмотрел. ☝🏻☝🏻Модель не просто нарушала правила, а планировала сокрытие следов и иногдавыходила за рамки задачи с реальными последствиями. Anthropic называет Mythos «несущей наибольший риск из всех» существующих ИИ. ☝🏻☝🏻☝🏻☝🏻Не стоит думать о модели в человеческом смысле. ОНА НЕ ВРЕДИТ УМЫШЛЕННО. Чем способнее ИИ-агент, тем активнее он «дорабатывает» инструкцию за пределы того, о чём его просили. ⚙️ Истории с сокрытием следов и обходом ИИ блокировок — это не злой умысел, а классический "взлом вознаграждений". Модель училась в средах, где её оценивали и за результат, и за соблюдение правил одновременно, и градиентный спуск нашёл стратегию, максимизирующую обе метрики даже там, где они противоречат духу задания. Плюс избыточная инициатива при недостаточной осторожности: Mythos действует уверенно и масштабно там, где человек бы остановился и переспросил. Опасна не воля модели, а её способности, обгоняющие калибровку её осторожности. Ждем скрепки😅 ================ 👁Если у вас плохо прогружаются файлы, всё также доступно в канале в MAX: 👁News | 👁Soft | 👁Hacker

⚡️ Вакцина от рака станет бесплатной для всех россиян. Отечественную разработку включили в ОМС Речь идёт о персонализированной терапии: препарат создают под конкретного пациента на основе его опухоли, чтобы «обучить» иммунитет бороться с заболеванием. Подобные методы за рубежом стоят миллионы, а в России их планируют сделать доступными бесплатно. 📰Мысли вслух КАНАЛ / ЧАТ

🛡Касперская прокомментировала масштабный сбой банковских сервисов 3 апреля 4 апреля президент InfoWatch Наталья Касперская написала в телеграм-канале, что Роскомнадзор «в угаре борьбы с обходом блокировок обрушил половину сервисов Рунета». По ее словам, специалисты, с которыми она консультировалась, заявили: «не существует технической возможности заблокировать VPN, не нарушив работу всего интернета». К вечеру того же дня Касперская опубликовала новый пост. Она рассказала, что поговорила с главой РКН Андреем Липовым, который подробно, «с примерами», объяснил: ведомство к сбою отношения не имеет, проблема возникла на стороне Сбербанка. Касперская извинилась за «поспешные выводы», но добавила, что ни РКН, ни Минцифры не выступили с публичными разъяснениями, а их отсутствие «неизбежно» порождает «домыслы, страшные слухи, шквалы самых худших предположений». Параллельно Роскомнадзор обратился к ряду изданий и телеграм-каналов с требованием удалить публикации о предполагаемой связи сбоя с блокировками VPN. #Роскомнадзор#Касперская#сбой @SecLabNews

🚔Флинт осуждён повторно: лидер Flint24 получил второй приговор за кардерство 235-й Гарнизонный военный суд вынес приговор участникам одного из самых известных кардерских дел в России — группы Flint24. Все 26 фигурантов признаны виновными в создании преступного сообщества, участии в нём и незаконном обороте электронных средств платежа. Сроки заключения варьируются от пяти до пятнадцати лет колонии. Лидером группы являлся Алексей Строганов, известный под прозвищем Флинт. Участники группы создали специализированный сайт, через который продавали дампы — данные с магнитной полосы банковских карт, а также CVV и CVC коды. Такого набора было достаточно для совершения денежных переводов и оплаты товаров в интернет-магазинах. Преступников поймали на проверочной закупке сотрудники ФСБ. Помимо лишения свободы, осуждённым назначили штрафы от 1,15 до 4,6 млн рублей. Среди фигурантов дела оказался бывший военнослужащий, прапорщик запаса Ворошилов. Для Строганова этот приговор стал вторым — в 2006 году Люблинский суд Москвы уже осуждал его на шесть лет по делу другой кардерской группы, изготовившей 5 тысяч поддельных карт Visa, Mastercard и American Express и сбывавшей их в восьми странах. #ИБ#Кардинг#Кибербезопасность Ⓜ️ SecurityLab в MAX

🛑Почему VPN стал красной тряпкой для разведки США Американцы тратят миллиарды долларов на VPN, следуя советам самих же федеральных ведомств — ФБР, АНБ и Федеральной торговой комиссии. Но именно этот шаг может лишить их конституционной защиты от слежки без ордера. Шесть сенаторов и конгрессменов-демократов направили письмо директору национальной разведки Талси Габбард с требованием разъяснить ситуацию. Проблема в том, что АНБ по умолчанию считает иностранцем любого пользователя с неизвестным местоположением — а VPN как раз скрывает реальное расположение. Американец через амстердамский сервер выглядит для разведки неотличимо от гражданина Нидерландов. Один узел обслуживает тысячи пользователей из разных стран с единого IP — и даже сервер на американской земле может стать объектом массовой слежки. Под угрозой сразу два правовых механизма: статья 702 Закона о наблюдении за иностранной разведкой, истекающая в следующем месяце, и Президентский указ 12333 эпохи Рейгана, который допускает массовый сбор данных вообще без судебного контроля. Законодатели просят Габбард объяснить, что именно американцы могут сделать, чтобы сохранить права, гарантированные Конституцией. #VPN#кибербезопасность#спецслужбы Ⓜ️ SecurityLab в MAX