TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #336 · 22 мај

Популярность имеет свои минусы. Чем популярней язык программирования, тем выше его распространённость, а значит найдутся те кто поспешит воспользоваться этим. С ростом популярности Python всё больше на PyPi появляется вредоносных пакетов. Трояны, стиллеры и доставщики более опасных вредоносов. Команда PyPi постоянно мониторит подобные случаи но и их возможности достигли предела. В результате сервис временно закрывает возможность заливки новых пакетов и регистрации юзеров. PyPI new user and new project registrations temporarily suspended Возможно одной из причин большого наплыва вредоносов является резко возросшая доступность их создания. Сегодня любой, даже не программист, может попросить у ChatGPT написать необходимый код и все инструкции для атаки. Основной тип атаки - рассчёт на опечатку в названии пакета. Если невнимательный программист случайно установит pilow или djangoo, считай что вредонос уже в системе. Чтобы избежать подобных факапов я рекомендую: ▫️ Всегда работайте в виртуальном окружении, неизвестные проекты устанавливайте внутри контейнеров. ▫️ Используйте файл requirements.txt вместо ручной установки пакетов ▫️ Очень внимательно пишите названия пакетов, а после написания проверьте еще раз. Сверьте с названием из документации. ▫️ После успешных тестов всегда фиксируйте версию пакета. Бывали случаи когда опасный код добавляли в новые версии. К тому же и без этой опасности не рекомендуется ставить по умолчанию последнюю версию. ▫️ Используйте вспомогательные инструменты для проверки безопасности, например https://pyup.io/safety или https://github.com/PyCQA/bandit. Они помогут не только найти опасный код в чужих пакетах, но и ваш код проверит на уязвимости. Будем надеяться что PyPi переосмыслит методы борьбы с вредоносами, например внедрит ИИ для проверки как симметричный шаг. #offtop

Hashtags

Резултати

Пронајдени 1 слични објави

Пребарај: #uzh

当前筛选 #uzh清除筛选
蛋挞报

@Pincongessence · Post #2678 · 04.05.2025 г., 13:34

经过大学伦理委员会批准,UZH 研究人员在 Reddit 研究 LLM 生成内容的观点操纵能力。 - UZH 即苏黎世大学 (Universität Zürich),是位于瑞士苏黎世的一所综合大学。 - /r/ChangeMyView 管理员发布贴文,称 UZH 研究人员在事后告知其使用 GenAI 机器人账户在 /r/ChangeMyView 发文,以研究 LLM 说服人类的能力。 - 研究者称实验已经过大学伦理委员会同意;由于提前告知会使实验失去意义,即使违反了社群规则,也并未在实验开始前告知管理员。研究者也提到其在评论发布之前人工检查了每条评论,确保其无害。 - /r/ChangeMyView 的管理团队向 UZH 伦理委员会表示担忧,要求终止发布实验成果。委员会称其没有终止实验成果发布的权力,并且认为实验引发的负面影响与其意义相比十分微小,不致终止其成果发布。 - 研究者要求不具名;Reddit 已经移除了这些机器人账户和相关发布内容。 old.reddit.com/~ linksrc: blog.gslin.org/~ #GenAI#Reddit#UZH