TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #336 · 22 мај

Популярность имеет свои минусы. Чем популярней язык программирования, тем выше его распространённость, а значит найдутся те кто поспешит воспользоваться этим. С ростом популярности Python всё больше на PyPi появляется вредоносных пакетов. Трояны, стиллеры и доставщики более опасных вредоносов. Команда PyPi постоянно мониторит подобные случаи но и их возможности достигли предела. В результате сервис временно закрывает возможность заливки новых пакетов и регистрации юзеров. PyPI new user and new project registrations temporarily suspended Возможно одной из причин большого наплыва вредоносов является резко возросшая доступность их создания. Сегодня любой, даже не программист, может попросить у ChatGPT написать необходимый код и все инструкции для атаки. Основной тип атаки - рассчёт на опечатку в названии пакета. Если невнимательный программист случайно установит pilow или djangoo, считай что вредонос уже в системе. Чтобы избежать подобных факапов я рекомендую: ▫️ Всегда работайте в виртуальном окружении, неизвестные проекты устанавливайте внутри контейнеров. ▫️ Используйте файл requirements.txt вместо ручной установки пакетов ▫️ Очень внимательно пишите названия пакетов, а после написания проверьте еще раз. Сверьте с названием из документации. ▫️ После успешных тестов всегда фиксируйте версию пакета. Бывали случаи когда опасный код добавляли в новые версии. К тому же и без этой опасности не рекомендуется ставить по умолчанию последнюю версию. ▫️ Используйте вспомогательные инструменты для проверки безопасности, например https://pyup.io/safety или https://github.com/PyCQA/bandit. Они помогут не только найти опасный код в чужих пакетах, но и ваш код проверит на уязвимости. Будем надеяться что PyPi переосмыслит методы борьбы с вредоносами, например внедрит ИИ для проверки как симметричный шаг. #offtop

Hashtags

Резултати

Пронајдени 1 слични објави

Пребарај: #gpt6

当前筛选 #gpt6清除筛选

🔥ИИ, который учится вечно: закат эры «замороженных» моделей Знакомо ощущение, что разговариваешь с очень умным, но давно застрявшим в прошлом собеседником? 🤔 Так и есть. Текущие LLM (большие языковые модели) — это статичные «энциклопедии». Их знания и логика заморожены на моменте окончания обучения. Да, они могут проанализировать дополнительный материал в контексте запроса (например, статью из интернета или ваш файл), но их ядро остаётся неизменным. Они не учатся на своих ошибках и не адаптируются к миру, который меняется прямо сейчас. А что, если бы ИИ мог учиться так же, как человек? Не просто читать, а впитывать опыт и становиться умнее с каждым днем. Это уже не фантастика. Это — SEAL. Исследователи из MIT представили фреймворк SEAL (Self-Adapting Language Models) — самоприспосабливающиеся языковые модели . Это фундаментальный прорыв. Такая модель умеет: ➡️Генерировать собственные учебные данные через саморедактирование . ➡️Обновлять свои веса (параметры) — то есть, менять то, как она «думает» . ➡️Оценивать свою работу с помощью reinforcement learning (обучения с подкреплением) и постоянно самосовершенствоваться . Что это значит на практике? ➡️Чат-бот для поддержки, который сталкивается с новой проблемой, не просто эскалирует ее человеку, а сам генерирует для себя примеры и учится ее решать . ➡️AI для кибербезопасности, который не просто ищет известные угрозы, а эволюционирует вместе с новыми атаками, постоянно refining свои защитные механизмы . ➡️Конец эры моделей с фиксированными весами . Система, которая адаптируется к миру и улучшается каждый день. Любопытно, что некоторые исследователи, стоящие за SEAL, уже работают в OpenAI . Это наводит на мысль, что GPT-6 может быть больше, чем просто «умнее» — он может «ожить» в вычислительном смысле . Конечно, есть и вызовы: например, «катастрофическое забывание» (когда новые знания вытесняют старые) и высокая требовательность к вычислениям . Но направление задано. Эпоха статичного ИИ подходит к концу. Начинается эра живых, самообучающихся систем. 🚀 P.S. Для глубокого погружения в тему можно почитать про другие подходы, например, Darwin Gödel Machine — самоулучшающегося агента, который эволюционирует, меняя собственный код . #ИИ#Самообучение#SEAL#GPT6#Будущее#AI https://t.me/semasci