TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #336 · 22 мај

Популярность имеет свои минусы. Чем популярней язык программирования, тем выше его распространённость, а значит найдутся те кто поспешит воспользоваться этим. С ростом популярности Python всё больше на PyPi появляется вредоносных пакетов. Трояны, стиллеры и доставщики более опасных вредоносов. Команда PyPi постоянно мониторит подобные случаи но и их возможности достигли предела. В результате сервис временно закрывает возможность заливки новых пакетов и регистрации юзеров. PyPI new user and new project registrations temporarily suspended Возможно одной из причин большого наплыва вредоносов является резко возросшая доступность их создания. Сегодня любой, даже не программист, может попросить у ChatGPT написать необходимый код и все инструкции для атаки. Основной тип атаки - рассчёт на опечатку в названии пакета. Если невнимательный программист случайно установит pilow или djangoo, считай что вредонос уже в системе. Чтобы избежать подобных факапов я рекомендую: ▫️ Всегда работайте в виртуальном окружении, неизвестные проекты устанавливайте внутри контейнеров. ▫️ Используйте файл requirements.txt вместо ручной установки пакетов ▫️ Очень внимательно пишите названия пакетов, а после написания проверьте еще раз. Сверьте с названием из документации. ▫️ После успешных тестов всегда фиксируйте версию пакета. Бывали случаи когда опасный код добавляли в новые версии. К тому же и без этой опасности не рекомендуется ставить по умолчанию последнюю версию. ▫️ Используйте вспомогательные инструменты для проверки безопасности, например https://pyup.io/safety или https://github.com/PyCQA/bandit. Они помогут не только найти опасный код в чужих пакетах, но и ваш код проверит на уязвимости. Будем надеяться что PyPi переосмыслит методы борьбы с вредоносами, например внедрит ИИ для проверки как симметричный шаг. #offtop

Hashtags

Резултати

Пронајдени 1 слични објави

Пребарај: #aitrilogue

当前筛选 #aitrilogue清除筛选
AI & Law

@ai_and_law · Post #74 · 03.08.2023 г., 07:04

Advancing Responsible AI: Insights from the American Chamber of Commerce Hello, AI community! Today, we bring you valuable insights from the American Chamber of Commerce to the European Union's position paper for the AI Act trilogue negotiations. Let's look into the facts and recommendationstons. 🔹 Defining AI: The Chamber encourages EU decision-makers to align the definition of AI with the OECD's definition. A clear and internationally accepted AI definition fosters multilateral coordination in AI policy. 🔹 Streamlining High-Risk Designation: The paper suggests narrowing the scope of high-risk designation to avoid vagueness. This focused approach ensures that AI technologies with genuine high-risk factors receive appropriate attention while minimizing unnecessary burdens on other AI systems. 🔹 Outcome-Oriented Flexibility: Chapter III requirements largely match current responsible AI practices. However, the Chamber emphasizes the importance of remaining flexible and outcome-oriented. 🔹 Obligations for Foundation Models and General Purpose AI: The paper calls for obligations tailored to foundation models and general-purpose AI. 🔹 Transparency in Artificially Generated Content: Transparency is key when it comes to artificially generated content. The Chamber advocates for measures that promote understanding and disclosure of AI-generated content to safeguard users from potential misinformation and manipulation. 🔹 Harmonized Enforcement and Flexible Standards: To create a robust AI landscape, harmonized enforcement and clear yet flexible standards are necessary. #ResponsibleAI#AIRegulation#AIAct#AITrilogue#TechPolicy#AICommunity#GlobalAI#AIStandards