TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #884 · 5.10

Роскосмос пару дней назад опубликовал отчёт о том, почему упала "Луна-25". Там конечно канцелярит, но можно примерно понять, что двигатель коррекции получил неверные данные от акселерометра: из-за возможного попадания в один массив данных команд с различными приоритетами их исполнения прибором Это очень похоже на программную ошибку, а это моя сфера, и я решил над ситуацией поразмыслить. Хейтеры сразу стали строчить комментарии в стиле "Ололо, наняли каких-то идиотов, которые простейшие тесты не провели". Тут обычно справедливо вспоминают аварию с европейской ракетой Ариан-5 в 1996 году. Там буквально из-за пары строчек кода в результате неправильного приведения числовых типов ракета за 7 млрд баксов развалилась на куски в воздухе. Бывает. Что касается Роскосмоса, при всей его сомнительной репутации, объяснение "Дураки не провели тесты" звучит лично для меня неправдоподобно. На мой личный взгляд возможны два варианта: 1. Если в описании ошибки слово "приоритет" обозначает какой-то признак внутри объекта команды, значит, на входе в приёмный модуль эти команды не были отфильтрованы. Выглядит как грубая ошибка, целый логический блок упущен. Вряд ли этот блок вообще не написан, скорее всего он не выполнился. Такое бывает, если в тестовой среде есть какое-то условие, которого нет в рабочей, и именно это условие отвечает за выполнение участка кода. Сталкивался с таким миллион раз. Самое дикое из последнего: код парсит эксель-таблицу с числами. Разработчик написал, запустил проверил, прогнал тесты, всё ок. Отправляем в прод — все числа будто бы рандомно меняются на другие. Запускаем снова — у всех разработчиков функционирует нормально, а в проде на сервере нет. Таблица одна и та же. Можете подумать, почему так. Ответ: у разработчиков стоит русская локаль и десятичный разделитесь это запятая, а на проде в докере точка. При парсинге на проде запятая уже интерпретируется как разделитель тысячных разрядов. 2. Куда вероятнее, что слово "приоритет" в описании ошибки обозначает время, а, значит, список команд просто не был отсортирован, и в обработчик уже после актуальных значений попали какие-нибудь начальные нулевые данные, сбившие логику. По косвенному описанию проблемы очень похоже именно на это. Значит, на тестах всегда порядок возникновения команд соответствовал порядку их прихода, а в реальности перестал соответствовать. Вообще, работать с железом очень сложно. Какую-нибудь схемку заглючило от холода, она задержала ответ от датчика на миллисекунду, и всё. Никто не знал, что такая проблема возможна, пока она не возникла. Мне рассказывали о таком случае: юзер логинится на сайт и иногда логин проходит, а иногда нет. Логин и пароль те же самые. Просто в случайные моменты времени ему возвращают токен авторизации, а в другие моменты времени ошибку 403. Никакой закономерности нет вообще. Нет зависимости от времени суток и даты. Сервер точно работает стабильно и не падает все 100% времени. Почему так может быть? Ответ: у сервиса авторизации два инстанса, перед которыми балансировщик нагрузки. В одном инстансе данные для авторизации есть, в другом нет. Балансировщик при примерно одинаковой нагрузке включает просто случайный выбор между ними. В общем, программисты иногда допускают такие косяки, что какая-то мелочь может привести к серьёзной аварии. Это я вам говорю как программист, который пишет для атомных станций :) #dev

Hashtags

Резултати

Намерени 5 подобни публикации

Търсене: #aichallenges

当前筛选 #aichallenges清除筛选
AI & Law

@ai_and_law · Post #205 · 02.01.2024 г., 08:04

U.S. Supreme Court Chief Justice Urges 'Caution' Amidst AI Impact on Legal Landscape In a year-end report, U.S. Supreme Court Chief Justice John Roberts highlighted the transformative influence of artificial intelligence on the legal field. While acknowledging AI's potential to enhance access to justice, revolutionize legal research, and expedite case resolutions, Roberts underscored the importance of "caution and humility" in navigating the evolving landscape. Roberts expressed a nuanced perspective, foreseeing a significant impact of AI on judicial work, particularly at the trial level. Despite the potential benefits, he emphasized the need for prudence due to privacy concerns and AI's current inability to replicate human discretion. The chief justice noted recent incidents where AI-generated content, known as "hallucinations," led to lawyers citing non-existent cases in court papers, stressing the imperative of avoiding such inaccuracies. Chief Justice Roberts advocates a measured approach, recognizing its potential while urging the legal community to navigate the changes with care and attention to ethical considerations. #AIlaw#LegalTech#LegalAI#AIChallenges

AI & Law

@ai_and_law · Post #201 · 27.12.2023 г., 08:04

SFWA Advocates for Author Rights Amidst Copyright Challenges in AI Era The Science Fiction Writers Association (SFWA) is taking a stand for authors' rights in the digital age. In a recent submission to the US Copyright Office on December 7, the SFWA emphasized its role in representing authors who have generously shared their work on the open internet. This move comes as technology, particularly AI, exploits content in ways that challenge the rights and compensation of creators. Over the past two decades, many science fiction and fantasy authors have embraced the open internet to share their work freely, believing in the societal and cultural benefits of accessible art. However, the SFWA argues that making a work freely available doesn't imply abandoning authors' moral and legal rights. It stresses the importance of authors' rights, including the obligation to enter into legal contracts that ensure fair compensation and define how their work should be used. The SFWA's submission coincides with the US Copyright Office's inquiry into copyright and artificial intelligence launched in August 2023. This inquiry, designed to gather public comments, has seen a significant response, with over 10,000 comments received. #SFWA#AIChallenges#DigitalCulture#IntellectualProperty#AIandCopyright

AI & Law

@ai_and_law · Post #105 · 06.09.2023 г., 07:04

UK House of Commons Committee Issues Interim AI Governance Report Hello everyone! The UK House of Commons Committee on Science, Innovation, and Technology has released an interim report on AI governance. In a consultation involving over 100 AI experts, including researchers, businesses, and civil society representatives, the Committee explored AI applications in education, healthcare, and medicine, assessing their benefits and potential risks. While the UK government currently adopts a light-touch approach to AI regulation, the Committee warns that without an AI bill introduced before the next general election, the UK may lag behind the EU and US, both of which are making significant legislative progress in AI regulation. The report identifies 12 pivotal challenges for policymakers in shaping AI frameworks: 1. Bias 2. Privacy 3. Misrepresentation 4. Access to Data 5. Access to Compute 6. Black Box Algorithms 7. Open-Source Code 8. Intellectual Property and Copyright 9. Liability 10. Employment Disruption 11. International Coordination 12. Existential Threats The report emphasizes the need for mechanisms to prevent bias, protect privacy, and ensure transparency in AI systems, urging the introduction of an AI bill to maintain the UK's leadership in AI governance. #AIGovernance#UKAI#AIRegulation#AIChallenges#AIReport#TechnologyLaw#AIInnovation

AI & Law

@ai_and_law · Post #73 · 02.08.2023 г., 07:04

Leading the Way in Responsible AI: The EU's Vital Opportunity Hello, AI enthusiasts! Today, we share a policy brief by Pegah Maham and Sabrina Küspert from the Stiftung Neue Verantwortung. They highlight the EU's significant chance to take the lead in responsible AI development through the AI Act and beyond. But to seize this opportunity, understanding the risks associated with general-purpose AI models is essential. 🔹 Risks from Unreliability: One major concern is the lack of control over AI models' behavior. This unreliability could lead to serious issues like discrimination and stereotype reproduction, spreading misinformation, and violating individual privacy. 🔹 Misuse and Dual-Use AI Models: The dual-use nature of some AI models poses another challenge. While they offer immense benefits, they can also be misused by malicious actors for cybercrime, biosecurity threats, and politically motivated purposes. 🔹 Systemic Risks: As AI rapidly integrates into our society, systemic risks emerge. These risks include economic power concentration and inequality, ideological homogenization, and disruptions from the lagging adaptation of society. By comprehending and addressing these risks, the EU can establish itself as a global leader in responsible AI development. #ResponsibleAI#AIRegulation#AIAct#AIChallenges#EUAI#TechPolicy#DigitalFuture#AICommunity

AI & Law

@ai_and_law · Post #153 · 31.10.2023 г., 08:04

UK Government Unveils Report on Frontier AI Risks Hello AI & Law community! UK Prime Minister Rishi Sunak has issued a report to address AI's potential risks and harness its benefits. The report focuses on the rapid advancements in frontier AI and comprises three key sections: 1️⃣Capabilities and Risks from Frontier AI: This section discusses the current state of AI capabilities, potential improvements, and associated risks, including societal harms, misuse, and loss of control. 2️⃣Safety and Security Risks of Generative AI to 2025: It outlines global benefits of generative AI while emphasizing increased safety and security risks, particularly in enhancing threat actor capabilities and the effectiveness of attacks. 3️⃣Future Risks of Frontier AI: This section explores uncertainties in AI development, future system risks, and potential scenarios for AI up to 2030. The report, based on declassified information, raises concerns about generative AI being exploited by terrorists to plan biological or chemical attacks, posing a serious global security threat. Although some experts have questioned the UK Government's approach, the report highlights the need for collaborative measures to manage AI risks. An upcoming AI Safety Summit aims to foster discussions around these challenges, including misuse for cyberattacks or bioweapon design, AI systems acting autonomously, and broader societal impacts. #UKGovernmentAI#FrontierAI#AIRisks#AISafety#AIChallenges#UKAIReport#AIandLaw#AIPolicy#AIRegulation