TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #336 · 22 мај

Популярность имеет свои минусы. Чем популярней язык программирования, тем выше его распространённость, а значит найдутся те кто поспешит воспользоваться этим. С ростом популярности Python всё больше на PyPi появляется вредоносных пакетов. Трояны, стиллеры и доставщики более опасных вредоносов. Команда PyPi постоянно мониторит подобные случаи но и их возможности достигли предела. В результате сервис временно закрывает возможность заливки новых пакетов и регистрации юзеров. PyPI new user and new project registrations temporarily suspended Возможно одной из причин большого наплыва вредоносов является резко возросшая доступность их создания. Сегодня любой, даже не программист, может попросить у ChatGPT написать необходимый код и все инструкции для атаки. Основной тип атаки - рассчёт на опечатку в названии пакета. Если невнимательный программист случайно установит pilow или djangoo, считай что вредонос уже в системе. Чтобы избежать подобных факапов я рекомендую: ▫️ Всегда работайте в виртуальном окружении, неизвестные проекты устанавливайте внутри контейнеров. ▫️ Используйте файл requirements.txt вместо ручной установки пакетов ▫️ Очень внимательно пишите названия пакетов, а после написания проверьте еще раз. Сверьте с названием из документации. ▫️ После успешных тестов всегда фиксируйте версию пакета. Бывали случаи когда опасный код добавляли в новые версии. К тому же и без этой опасности не рекомендуется ставить по умолчанию последнюю версию. ▫️ Используйте вспомогательные инструменты для проверки безопасности, например https://pyup.io/safety или https://github.com/PyCQA/bandit. Они помогут не только найти опасный код в чужих пакетах, но и ваш код проверит на уязвимости. Будем надеяться что PyPi переосмыслит методы борьбы с вредоносами, например внедрит ИИ для проверки как симметричный шаг. #offtop

Hashtags

Резултати

Пронајдени 1 слични објави

Пребарај: #cmaaiprinciples

当前筛选 #cmaaiprinciples清除筛选
AI & Law

@ai_and_law · Post #124 · 27.09.2023 г., 07:04

UK: CMA Releases Principles for Responsible AI Development Hello, everyone! The Competition and Markets Authority (CMA) has unveiled a set of principles to ensure the responsible development and use of foundation models (FMs) in AI. Foundation models, like ChatGPT and Office 365 Copilot, are versatile AI systems poised to revolutionize various sectors. The CMA's report lays out these guiding principles, with a focus on safeguarding consumer protection and fostering healthy competition in the AI industry. As AI rapidly integrates into our daily lives, the CMA recognizes the need for proactive intervention. These principles aim to strike a balance between promoting AI's potential for innovation and ensuring consumer safety. The CMA's proposed guiding principles focus on crucial areas like accountability, access, diversity, choice, flexibility, fairness, and transparency. These principles aim to guide FM developers and deployers toward responsible AI development and use. The CMA plans to engage extensively with stakeholders to refine these principles further. Stay tuned for updates in early 2024 as they continue shaping AI markets for the betterment of all. #ResponsibleAI#AIRegulation#ConsumerProtection#Competition#FoundationModels#CMAAIprinciples