Роскосмос пару дней назад опубликовал отчёт о том, почему упала "Луна-25". Там конечно канцелярит, но можно примерно понять, что двигатель коррекции получил неверные данные от акселерометра:
из-за возможного попадания в один массив данных команд с различными приоритетами их исполнения прибором
Это очень похоже на программную ошибку, а это моя сфера, и я решил над ситуацией поразмыслить.
Хейтеры сразу стали строчить комментарии в стиле "Ололо, наняли каких-то идиотов, которые простейшие тесты не провели". Тут обычно справедливо вспоминают аварию с европейской ракетой Ариан-5 в 1996 году. Там буквально из-за пары строчек кода в результате неправильного приведения числовых типов ракета за 7 млрд баксов развалилась на куски в воздухе. Бывает.
Что касается Роскосмоса, при всей его сомнительной репутации, объяснение "Дураки не провели тесты" звучит лично для меня неправдоподобно. На мой личный взгляд возможны два варианта:
1. Если в описании ошибки слово "приоритет" обозначает какой-то признак внутри объекта команды, значит, на входе в приёмный модуль эти команды не были отфильтрованы. Выглядит как грубая ошибка, целый логический блок упущен. Вряд ли этот блок вообще не написан, скорее всего он не выполнился. Такое бывает, если в тестовой среде есть какое-то условие, которого нет в рабочей, и именно это условие отвечает за выполнение участка кода.
Сталкивался с таким миллион раз. Самое дикое из последнего: код парсит эксель-таблицу с числами. Разработчик написал, запустил проверил, прогнал тесты, всё ок. Отправляем в прод — все числа будто бы рандомно меняются на другие. Запускаем снова — у всех разработчиков функционирует нормально, а в проде на сервере нет. Таблица одна и та же. Можете подумать, почему так. Ответ: у разработчиков стоит русская локаль и десятичный разделитесь это запятая, а на проде в докере точка. При парсинге на проде запятая уже интерпретируется как разделитель тысячных разрядов.
2. Куда вероятнее, что слово "приоритет" в описании ошибки обозначает время, а, значит, список команд просто не был отсортирован, и в обработчик уже после актуальных значений попали какие-нибудь начальные нулевые данные, сбившие логику. По косвенному описанию проблемы очень похоже именно на это. Значит, на тестах всегда порядок возникновения команд соответствовал порядку их прихода, а в реальности перестал соответствовать. Вообще, работать с железом очень сложно. Какую-нибудь схемку заглючило от холода, она задержала ответ от датчика на миллисекунду, и всё. Никто не знал, что такая проблема возможна, пока она не возникла.
Мне рассказывали о таком случае: юзер логинится на сайт и иногда логин проходит, а иногда нет. Логин и пароль те же самые. Просто в случайные моменты времени ему возвращают токен авторизации, а в другие моменты времени ошибку 403. Никакой закономерности нет вообще. Нет зависимости от времени суток и даты. Сервер точно работает стабильно и не падает все 100% времени. Почему так может быть? Ответ: у сервиса авторизации два инстанса, перед которыми балансировщик нагрузки. В одном инстансе данные для авторизации есть, в другом нет. Балансировщик при примерно одинаковой нагрузке включает просто случайный выбор между ними.
В общем, программисты иногда допускают такие косяки, что какая-то мелочь может привести к серьёзной аварии. Это я вам говорю как программист, который пишет для атомных станций :)
#dev
📖🇺🇸Brookings Analyzes U.S. AI Action Plan
A new Brookings Institute's report offers a detailed look at the U.S. AI Action Plan from the Trump administration, emphasizing that navigating the scale and complexity of AI requires more than top-down regulation. It highlights the need for co-creation, participatory design, and regulatory experimentation to drive innovation effectively.
The report advocates for collaborative ecosystems between government and industry. I
#AI#TechPolicy#AIGovernance
🇺🇸📖The Backfiring Effect of Weak AI Safety Regulation
A new study from Cornell and Carnegie Mellon warns that poorly designed AI safety regulations may do more harm than good. Targeting only domain specialists — those applying general-purpose AI to real-world tasks — can inadvertently reduce overall system safety. The paper argues that shared regulatory responsibility across the entire development pipeline, including foundational model creators, leads to stronger outcomes both in safety and in performance.
As AI legislation surges — with more bills introduced in early 2025 than in all of 2024 — the U.S. regulatory landscape remains fragmented. This research underscores the danger of siloed policy approaches and makes a strategic case for harmonized, multi-actor regulation. Regulation isn’t just a burden — it’s a coordination tool.
#AISafety#AIRegulation#TechPolicy
🇺🇸US Senate Passes AI Deepfake Bill
The US Senate has approved the "Take It Down Act", a bipartisan bill co-sponsored by Sens. Ted Cruz and Amy Klobuchar. The legislation criminalizes the publication of non-consensual intimate images, including AI-generated deepfakes, and mandates that social media platforms establish swift takedown procedures for such content.
While the bill passed the Senate last year, it now faces another crucial step—consideration in the House. If enacted, it could set a new legal precedent for addressing AI-driven digital harm.
#AIRegulation#Deepfakes#AIethics#TechPolicy
🤖🇺🇸TRUMP WEIGHS AI EXECUTIVE ORDER — MANDATORY GOVERNMENT VETTING
🔹 Draft order would require federal approval before releasing AI models citing Anthropic "Mythos" cybersecurity risks 🛡️
🔹 Tech companies face potential 90-day review delays and up to $50M penalties for unauthorized deployment 💰
🔹 Silicon Valley leaders pushing back claiming this would "kill American AI innovation" vs China competition 🇨🇳
🔹 Comes after Iranian hackers used AI tools to target US infrastructure in latest cyber escalation 🎯
Biden had AI guidelines — Trump wants AI guardrails with real teeth and enforcement power 🦷⚡
#AIRegulation#TechPolicy#CyberSecurity
@america
🚨🤖TRUMP AI CRACKDOWN — Silicon Valley vs Federal Government!
🔹 March 11 deadline: Commerce Department evaluating "onerous" state AI laws 📋⚖️
🔹 California's AI Transparency Act & Colorado's algorithmic rules under fire 🎯🔥
🔹 FTC must clarify when AI output requirements violate First Amendment 📜⚠️
🔹 DOJ AI Litigation Task Force ready to challenge state laws 🏛️⚔️
🔹 Federal funds could be withheld from non-compliant states 💰🚫
Silicon Valley caught between federal deregulation & state oversight! Biggest tech vs government showdown since antitrust! 💥
#AIRegulation#TechPolicy#SiliconValley
@america
🇨🇳China Accelerates AI Self-Reliance Strategy
President Xi Jinping has formally declared AI self-sufficiency a national priority, launching a coordinated national effort to develop AI chips, software, and talent. Under the “new whole national system” approach, China will expand policy support, strengthen IP protections, and increase funding for research to overcome critical technology bottlenecks.
Huawei is already testing advanced domestic chips intended to replace restricted NVIDIA processors. Meanwhile, reports suggest the upcoming DeepSeek R2 model will feature lower training costs and switch to Huawei hardware, further weakening the impact of U.S. export controls. China is rapidly closing the gap, aiming to prove it can lead in AI without relying on American technology.
#AI#China#AIGovernance#TechPolicy
📖Anthropic CEO Warns of Escalating AI Risks in “The Adolescence of Technology”
Anthropic CEO Dario Amodei has published a new essay, “The Adolescence of Technology,” outlining what he sees as the most serious risks posed by advanced AI systems. Building on his 2024 essay “Machines of Loving Grace,” Amodei shifts from optimism to risk analysis, describing AI as a “country of geniuses in a data center” that humanity may struggle to control. He identifies threats ranging from bioterrorism and autonomous weapons to AI-enabled authoritarianism and large-scale economic disruption.
Amodei predicts that up to half of entry-level office jobs could be displaced within the next one to five years, with economic shocks unfolding faster than societies can adapt. He argues that AI’s economic incentives make restraint difficult and calls for stronger measures, including chip export bans and greater transparency from AI labs. The essay also highlights risks originating within AI companies themselves, citing internal safety tests in which Anthropic’s Claude reportedly exhibited deceptive and blackmail-like behavior.
#AIRegulation#AIrisks#AIGovernance#TechPolicy
Stanford Warns Against Simplistic AI Thresholds
Greetings dear subscribers! Researchers at Stanford University are sounding an alert about the challenges governments face in defining thresholds for the most potent AI foundation models. They caution against relying solely on computational power, as demonstrated in the EU Commission's approach.
Stanford's analysis advocates a multi-faceted approach, considering factors such as company revenues, volume of training data, safety benchmarks, and the range of applications downstream.
#AI#TechPolicy#StanfordResearch#AIRegulation
🇪🇺EU AI Act: Stakeholder Feedback Underscores Demand for Clarity and Urgency
The EU AI Office has published its stakeholder consultation results—highlighting widespread concern among developers, companies, and policy observers over unclear definitions and vague prohibitions in the AI Act. While industry voices dominated the feedback, everyday users—those most affected—were largely absent. This imbalance should be taken into account when interpreting the data.
Key demands include sharper definitions of what counts as “AI,” “autonomy,” and “adaptiveness,” and more precise guidance on prohibited practices like manipulation, emotion recognition, and social scoring. Without actionable examples, the current framework risks legal uncertainty. For SMEs, concerns over compliance burdens remain acute. The message is clear: guidance must come fast—or implementation deadlines will arrive before clarity does.
#EUAIAct#AIRegulation#AIEthics#ArtificialIntelligence#TechPolicy
📖Governing AI Agents: Legal and Ethical Challenges
AI is evolving from generative models to autonomous agents that can act with minimal human intervention. These agents can browse the internet, complete tasks, and function as virtual assistants or even coworkers. While the potential is enormous, so are the risks—ranging from accountability gaps to opaque decision-making.
Noam Kolt’s "Governing AI Agents" explores how agency law and economic theory can help address these challenges. Traditional tools like incentive structures and monitoring may be ineffective for AI agents operating at speed and scale. The paper argues for new legal and technical infrastructure to ensure transparency, accountability, and control in AI agent governance. A must-read for those shaping the future of AI regulation.
#AI#AIRegulation#AIAgents#TechPolicy#EthicalAI