TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #396 · 22.06

Попробовал Github Copilot. Это проект, в рамках которого Гитхаб обучил нейросеть на миллионах строк программного кода, загруженного людьми, и теперь она вроде как способна предлагать автоматическое дополнение к тому, что вы пишете. В теории, если вы напишете название функции, например public int Fibonacci(int n), то она сразу предложит вам автоматически подставить всё остальное. Конкретно с этим примером система действительно справляется, но в целом впечатления у меня от неё смешанные, и на мой взгляд она пока что не стоит тех $10 в месяц, которые за неё просят после тестового двухмесячного периода. Я уже писал ранее о своём отношении к нейросетям. В задачах дополнения данных они работают средненько: значимый процент решений будет с ошибками. Вот и здесь — сначала я подумал, что Copilot сможет за меня копипастить популярные однотипные куски кода из интернета. Например, я не помню алгоритм Вагнера-Фишера, постоянно его копирую из своих других проектов, часть из которых выложена на Github и наверняка была передана в обучение Copilot. Я предложил нейросетям мне этот алгоритм написать, они написали что-то отдалённо похожее. Внешне выглядело убедительно и даже компилировалось, но работало неправильно, и при ближайшем рассмотрении оказалось, что там просто случайно надёрганные строчки из настоящего алгоритма. Некоторые проверки по 2 раза, а часть нужной логики упущено совсем. Об оформлении кода вообще говорить не стоит: пока всё, что мне выдавалось, оформлено плохо, и на ревью я бы написал разработчику несколько замечаний. Однако, в других местах работает, как задумано. Если у вас есть дуальные функции, оно умеет предлагать дописать остаток (пример на скриншоте ниже). Но из того, что я попробовал, только процентов 20 случаев реально были полезны. Остальные 80% или вообще неверный код, или правильный, но такой неаккуратный, что лучше самому написать. Есть ещё проблема: массовый копипаст довольно опасен, потому что легко пропустить какую-то мелочь. В идеале нужно весь вставленный код проверять построчно, но по когнитивной нагрузке это близко к тому, чтобы создать его самостоятельно. И человеческое внимание совершенно точно будет расслабляться и размываться при работе с такими средствами автодополнения, а, значит, неизбежны ошибки. На месте чувствительной к багам энтерпрайз-разработки я бы вообще запрещал бы своим сотрудникам применять Copilot. С другой стороны, возможно, подобная утилита хорошо зайдёт для прототипирования, на хакатонах, на стримах с демонстрацией разработки чего-нибудь. У меня будет возможность проверить на соревновании через месяц, но в работе скорее всего отключу. #dev

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #chinesetech

当前筛选 #chinesetech清除筛选
AI & Law

@ai_and_law · Post #147 · 25.10.2023 г., 07:04

Proposed Chinese AI Safety Standards: A Closer Look Hey there, AI & Law community! On October 11, the National Information Security Standardization Technical Committee in China released a draft document outlining precise regulations for evaluating generative AI models. Unlike the often vague AI regulations, this document provides a clear blueprint for compliance. This standards proposal sets forth rigorous criteria for assessing AI data sources and their content. The document covers topics like training data diversity, moderation, and prohibited content. It emphasizes the need for diversified training corpora and the assessment of data quality. If more than 5% of data is "illegal and negative information," the corpus is flagged for future training. The proposal also suggests that AI companies employ moderators to enhance generated content quality, aligning with national policies and third-party complaints. This implies a potential expansion of the human-driven moderation and censorship workforce in the AI era. Companies are tasked with identifying hundreds of keywords for flagging unsafe or banned content, with separate categories for political and discriminative content. They must also generate more than 2,000 prompts, ensuring fewer than 10% of responses breach the rules. Interestingly, the document encourages subtler censorship measures, such as not refusing to answer sensitive prompts but allowing AI models to respond to specific, non-sensitive inquiries. It's crucial to clarify that these standards are not laws, and non-compliance doesn't result in penalties. However, proposals like these can significantly influence future regulations or work alongside them. The standards receive input from tech experts hired by companies, giving corporations like Huawei, Alibaba, and Tencent a say in shaping these regulations. Their influence could have far-reaching implications for the global AI industry and how AI technologies are regulated worldwide. #AISafety#AIRegulations#GenerativeAI#ContentModeration#ChineseTech#AIInfluence#GlobalAI