TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #336 · 22 мај

Популярность имеет свои минусы. Чем популярней язык программирования, тем выше его распространённость, а значит найдутся те кто поспешит воспользоваться этим. С ростом популярности Python всё больше на PyPi появляется вредоносных пакетов. Трояны, стиллеры и доставщики более опасных вредоносов. Команда PyPi постоянно мониторит подобные случаи но и их возможности достигли предела. В результате сервис временно закрывает возможность заливки новых пакетов и регистрации юзеров. PyPI new user and new project registrations temporarily suspended Возможно одной из причин большого наплыва вредоносов является резко возросшая доступность их создания. Сегодня любой, даже не программист, может попросить у ChatGPT написать необходимый код и все инструкции для атаки. Основной тип атаки - рассчёт на опечатку в названии пакета. Если невнимательный программист случайно установит pilow или djangoo, считай что вредонос уже в системе. Чтобы избежать подобных факапов я рекомендую: ▫️ Всегда работайте в виртуальном окружении, неизвестные проекты устанавливайте внутри контейнеров. ▫️ Используйте файл requirements.txt вместо ручной установки пакетов ▫️ Очень внимательно пишите названия пакетов, а после написания проверьте еще раз. Сверьте с названием из документации. ▫️ После успешных тестов всегда фиксируйте версию пакета. Бывали случаи когда опасный код добавляли в новые версии. К тому же и без этой опасности не рекомендуется ставить по умолчанию последнюю версию. ▫️ Используйте вспомогательные инструменты для проверки безопасности, например https://pyup.io/safety или https://github.com/PyCQA/bandit. Они помогут не только найти опасный код в чужих пакетах, но и ваш код проверит на уязвимости. Будем надеяться что PyPi переосмыслит методы борьбы с вредоносами, например внедрит ИИ для проверки как симметричный шаг. #offtop

Hashtags

Резултати

Пронајдени 2 слични објави

Пребарај: #aiconvention

当前筛选 #aiconvention清除筛选
AI & Law

@ai_and_law · Post #406 · 27.09.2024 г., 07:04

New Article Highlights Europe's Dual Approach to AI: Human Rights vs. Market Regulation A recent article by Virginia Dignum, Director of the AI Policy Lab at Umeå University, sheds light on the evolving landscape of AI governance in Europe. The piece compares two pivotal frameworks: the newly introduced Council of Europe's Framework Convention on AI, Human Rights, Democracy, and the Rule of Law, and the EU's AI Act. The Council of Europe convention, open for signatures as of September 2024, emphasizes the protection of human rights, transparency, and accountability in all AI sectors. In contrast, the AI Act takes a more business-focused approach, offering clear regulatory guidelines with a risk-based model, particularly for high-impact sectors like healthcare. While the AI Act fosters innovation and compliance, the Council of Europe's broader focus aims to ensure AI upholds democratic values and the rule of law, signaling Europe's comprehensive strategy for ethical AI development. #AIRegulation#AIConvention#AIAct#EthicalAI#Transparency#Innovation

AI & Law

@ai_and_law · Post #46 · 04.07.2023 г., 07:04

UK: Report calls for ethical AI future and robust governance The All-Party Parliamentary Group on Data Analytics in the UK has released a report titled "An Ethical AI Future: Guardrails & Catalysts to make Artificial Intelligence a Force for Good." The report aims to explore how an effective governance and regulatory framework can maximize the benefits of AI while addressing existing risks such as deep fakes and preparing for potential future risks. The report puts forth several key recommendations to shape the future of AI governance: 1️⃣ Strengthen international engagement. 2️⃣ Champion AI ethics convention. 3️⃣ Embedding 'Do No Harm' objective. 4️⃣ Establish independent regulatory authority. #EthicalAI#AIRegulation#Governance#AIConvention#Accountability