TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #884 · 5.10

Роскосмос пару дней назад опубликовал отчёт о том, почему упала "Луна-25". Там конечно канцелярит, но можно примерно понять, что двигатель коррекции получил неверные данные от акселерометра: из-за возможного попадания в один массив данных команд с различными приоритетами их исполнения прибором Это очень похоже на программную ошибку, а это моя сфера, и я решил над ситуацией поразмыслить. Хейтеры сразу стали строчить комментарии в стиле "Ололо, наняли каких-то идиотов, которые простейшие тесты не провели". Тут обычно справедливо вспоминают аварию с европейской ракетой Ариан-5 в 1996 году. Там буквально из-за пары строчек кода в результате неправильного приведения числовых типов ракета за 7 млрд баксов развалилась на куски в воздухе. Бывает. Что касается Роскосмоса, при всей его сомнительной репутации, объяснение "Дураки не провели тесты" звучит лично для меня неправдоподобно. На мой личный взгляд возможны два варианта: 1. Если в описании ошибки слово "приоритет" обозначает какой-то признак внутри объекта команды, значит, на входе в приёмный модуль эти команды не были отфильтрованы. Выглядит как грубая ошибка, целый логический блок упущен. Вряд ли этот блок вообще не написан, скорее всего он не выполнился. Такое бывает, если в тестовой среде есть какое-то условие, которого нет в рабочей, и именно это условие отвечает за выполнение участка кода. Сталкивался с таким миллион раз. Самое дикое из последнего: код парсит эксель-таблицу с числами. Разработчик написал, запустил проверил, прогнал тесты, всё ок. Отправляем в прод — все числа будто бы рандомно меняются на другие. Запускаем снова — у всех разработчиков функционирует нормально, а в проде на сервере нет. Таблица одна и та же. Можете подумать, почему так. Ответ: у разработчиков стоит русская локаль и десятичный разделитесь это запятая, а на проде в докере точка. При парсинге на проде запятая уже интерпретируется как разделитель тысячных разрядов. 2. Куда вероятнее, что слово "приоритет" в описании ошибки обозначает время, а, значит, список команд просто не был отсортирован, и в обработчик уже после актуальных значений попали какие-нибудь начальные нулевые данные, сбившие логику. По косвенному описанию проблемы очень похоже именно на это. Значит, на тестах всегда порядок возникновения команд соответствовал порядку их прихода, а в реальности перестал соответствовать. Вообще, работать с железом очень сложно. Какую-нибудь схемку заглючило от холода, она задержала ответ от датчика на миллисекунду, и всё. Никто не знал, что такая проблема возможна, пока она не возникла. Мне рассказывали о таком случае: юзер логинится на сайт и иногда логин проходит, а иногда нет. Логин и пароль те же самые. Просто в случайные моменты времени ему возвращают токен авторизации, а в другие моменты времени ошибку 403. Никакой закономерности нет вообще. Нет зависимости от времени суток и даты. Сервер точно работает стабильно и не падает все 100% времени. Почему так может быть? Ответ: у сервиса авторизации два инстанса, перед которыми балансировщик нагрузки. В одном инстансе данные для авторизации есть, в другом нет. Балансировщик при примерно одинаковой нагрузке включает просто случайный выбор между ними. В общем, программисты иногда допускают такие косяки, что какая-то мелочь может привести к серьёзной аварии. Это я вам говорю как программист, который пишет для атомных станций :) #dev

Hashtags

Резултати

Намерени 4 подобни публикации

Търсене: #liability

当前筛选 #liability清除筛选
Robocounsel

@robocounsel · Post #4 · 19.07.2019 г., 14:37

Периодически сталкиваюсь с такой постановкой проблемы не-юристами. Якобы непонятно, кто должен отвечать за последствия действий искусственного интеллектуального агента*, которому делегирована некая задача. А когда задачу выполнял человек, всё было понятно. У меня вопрос: почему непонятно? Кто делегировал задачу, тот и отвечает. Почему, когда кто-то делегирует задачи калькулятору или бухгалтерской программе, вопрос об ответственности делегирующего перед теми, с кем он взаимодействует, не ставится под сомнение? И будь калькулятор или пограмма хоть сто раз дефектными, перед посторонними отвечает всё равно их пользователь. Независимо от вины. Дальше он может разбираться с производителем калькулятора или программы, если есть на то основания. Но принцип не меняется. Есть основания считать иначе? #liability#delegation

AI & Law

@ai_and_law · Post #497 · 03.02.2025 г., 08:04

🇪🇺New Insights on AI Liability from Cambridge Forum on AI The inaugural issue of the "Cambridge Forum on AI: Law and Governance" is out, focusing on the legal landscape of Generative AI in the EU. One key question: Do current and upcoming regulations fully address liability for AI-caused harm? 📥 The paper "Mapping Generative AI rules and liability scenarios in the AI Act, and in the proposed EU liability rules for AI liability" examines the AI Act’s approach to Generative AI, tracing accountability along the value chain. It also tests how well the proposed EU AI Liability Directive and EU Revised Product Liability Directive handle real-world risks. As regulatory frameworks evolve, businesses deploying GenAI must stay ahead of legal developments. #AIRegulation#GenAI#Liability#AIAct#CambridgeForum

AI & Law

@ai_and_law · Post #746 · 20.01.2026 г., 08:04

🇨🇦AI Defamation Risk: Canadian Artist Prepares Lawsuit After Google Error Canadian musician Ashley MacIsaac says a Google AI-generated summary falsely labeled him a convicted sex offender, leading a concert venue to cancel his show. MacIsaac told the Canadian Press he believes the system confused him with another individual in Canada who has similar charges, but the error directly cost him income and harmed his reputation. MacIsaac is now preparing to sue Google, arguing that the misinformation amounts to defamation and created real-world risks, including potential issues at border controls. He stated that AI companies must be held accountable for what their systems publish and what harms they can reasonably prevent, noting that he is unlikely to be the last person affected by such errors. The incident underscores how AI-generated summaries can produce high-impact false statements about individuals, with immediate legal, economic, and personal consequences, even when no human editorial judgment is involved. #AI#AIDefamation#Liability#GenerativeAI#ReputationRisk

Venture Village Wall 🦄

@venturevillagewall · Post #3462 · 19.12.2024 г., 13:56

CTGT Raises $500K for AI Governance CTGT secures $500K in funding on December 4, 2024, aimed at enhancing enterprise governance for AI. The platform promises to mitigate AI hallucinations and liabilities, enabling rapid deployment for Fortune 500 companies, ensuring secure and compliant AI solutions at scale. Learn more at CTGT. #CTGT#AI#Funding#Governance#Liability#Enterprise#Fortune500#Compliance