TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #336 · 22 мај

Популярность имеет свои минусы. Чем популярней язык программирования, тем выше его распространённость, а значит найдутся те кто поспешит воспользоваться этим. С ростом популярности Python всё больше на PyPi появляется вредоносных пакетов. Трояны, стиллеры и доставщики более опасных вредоносов. Команда PyPi постоянно мониторит подобные случаи но и их возможности достигли предела. В результате сервис временно закрывает возможность заливки новых пакетов и регистрации юзеров. PyPI new user and new project registrations temporarily suspended Возможно одной из причин большого наплыва вредоносов является резко возросшая доступность их создания. Сегодня любой, даже не программист, может попросить у ChatGPT написать необходимый код и все инструкции для атаки. Основной тип атаки - рассчёт на опечатку в названии пакета. Если невнимательный программист случайно установит pilow или djangoo, считай что вредонос уже в системе. Чтобы избежать подобных факапов я рекомендую: ▫️ Всегда работайте в виртуальном окружении, неизвестные проекты устанавливайте внутри контейнеров. ▫️ Используйте файл requirements.txt вместо ручной установки пакетов ▫️ Очень внимательно пишите названия пакетов, а после написания проверьте еще раз. Сверьте с названием из документации. ▫️ После успешных тестов всегда фиксируйте версию пакета. Бывали случаи когда опасный код добавляли в новые версии. К тому же и без этой опасности не рекомендуется ставить по умолчанию последнюю версию. ▫️ Используйте вспомогательные инструменты для проверки безопасности, например https://pyup.io/safety или https://github.com/PyCQA/bandit. Они помогут не только найти опасный код в чужих пакетах, но и ваш код проверит на уязвимости. Будем надеяться что PyPi переосмыслит методы борьбы с вредоносами, например внедрит ИИ для проверки как симметричный шаг. #offtop

Hashtags

Резултати

Пронајдени 1 слични објави

Пребарај: #prasmichel

当前筛选 #prasmichel清除筛选
AI & Law

@ai_and_law · Post #146 · 24.10.2023 г., 07:04

AI-Generated Defense Fails Rapper in Federal Trial Hello, AI & Law community! Rapper Prakazrel "Pras" Michel, convicted of federal crimes tied to a foreign influence campaign, claims he deserves a new trial because his attorney employed an experimental AI program to construct his closing argument. This move did not go as planned. Michel's new legal team asserts that this AI-generated defense was ineffective, resulting in a frivolous argument. Michel's trial counsel, David Kenner, stands accused of not delivering a solid defense. Beyond the use of AI, he was criticized for failing to understand the facts and allegations surrounding the case. Kenner used an experimental AI program, possibly with financial interests involved, to create his closing argument. The use of this AI technology in a federal trial marks a first, but it resulted in a closing argument that made frivolous claims and overlooked critical aspects of the government's case, severely damaging the defense. This AI-related incident echoes a prior case where an attorney admitted to using AI to draft court filings that cited six non-existent cases, generating concerns about AI's role in legal proceedings. The AI program in question was developed by EyeLevel.AI and was praised for its ability to offer insights faster than conventional means. However, it appears that its use led to unintended consequences in Michel's case. The revelations from this trial might shape the conversation around AI's role in legal defense. Stay tuned for more on this intriguing development! #AI#AIinLaw#LegalAI#PrasMichel