Я всегда был уверен, что системы рекомендаций работают так плохо, потому что это слишком сложная задача. Владельцы площадок бьются с алгоритмами, машинным обучением, деревьями решений и взвешенными суммами, но получается всё равно херня, и человеку могут рекомендовать нерелевантный бред (и, что ещё хуже — не рекомендовать интересный для него контент).
Кажется, хорошо работают только рекомендации на Ютубе, но этому есть объяснение: контент на Ютубе более длительный и дорогой. Его сложнее производить, он выходит реже. Качественный ролик на Ютубе не будет говном практически независимо от темы, на которую он снят. А ещё меньшее число объёмных роликов проще кластеризовать и можно предлагать пользователю в небольших количествах.
Но если мы откроем YouTube Shorts (это очередной аналог тиктока с короткими вертикальными видео), то заметим, что качество рекомендаций упало сразу на два порядка: какие-то тупые попсовые шутки, "удивительные" факты из жизни, завлекающие отрывки из фильмов "код смотри в телеграм-канале", озвучка анекдотов и прочий мусор. Алгоритмы уже совсем не справляются с тем, чтобы предложить что-то годное, не говоря уже о релевантности конкретно мне, хотя история моих просмотров и вкусов Ютубу, очевидно, известна.
Тем не менее, иногда разработчики могут не только не уметь, но и не хотеть писать нормальные рекомендации. Вот ВК предложил мне BadComedian в блоке "Интересные авторы". Оставим в стороне, что Бэдкомендиан это ютубер, и у него в ВК в лучшем случае будут репосты ссылок на Ютуб. Но мне предлагают не паблик, а личную страницу.... на которой не было записей с сентября 2021 года. Нет совершенно никакого смысла быть подписанным на личную страницу Бэдкомедиана сейчас. Кажется, единственный критерий, на котором основывались эти рекомендации: общее число подписчиков.
Как должны работать рекомендации на самом деле? Алгоритмически я бы оценивал частоту постов (кстати, чрезмерно частые это тоже плохо, должно работать в минус), оценивал бы, является пост просто публикацией внешней ссылки на другой ресурс, является ли репостом паблика, и смотрел бы, сколько прошло времени с последней записи на странице автора. Наверное, в качестве коэффициента с небольшим весом можно добавить ещё объём контента в посте и активность людей (лайки + комментарии). Причём, делается это достаточно просто, никакой ML не нужен. Даже такая оценка, не берущая в расчёт тематику страницы, всё равно лучше, чем "Просто покажем людей, на которых когда-то подписалось куча народу, и им до сих пор лень отписаться после прекращения активности автора".
По крайней мере теперь меня не удивляет, что хвалёные Клипы постоянно подсовывают мне какой-то подростковый шлак вместо крутых видео с полётами на FPV-квадрокоптерах. YouTube Shorts по крайней мере пару раз такие вещи предлагал, а вот Клипы вообще ни разу (станицу Клипов я не открываю, разумеется, но в ленте новостей встречаются блоки с автовоспроизведением).
Кстати, на скрине есть второй автор — Стас "Ай как просто". Его банят на Ютубе за критику западной модели текущих событий, и он пишет: "Буду создавать каналы-однодневки, куда деваться". То есть у него даже мысли не возникает, что какая-то ещё площадка может служить его целям. Ну с таким отношением других площадок к рекомендациям — понятно.
#web
US: FTC Takes Action Against Misleading AI Bias Claims
The Federal Trade Commission (FTC) has issued a proposed order targeting IntelliVision Technologies for allegedly misleading claims about its AI facial recognition technology. The California-based company promoted its software as having "zero gender or racial bias" and claimed accuracy rates of over 99%. However, FTC investigations revealed significant gaps in these claims, including insufficient testing data and evidence that its algorithms fell far behind competitors, failing to rank in the top 100 tested by the National Institute of Standards and Technology (NIST) as of December 2023.
IntelliVision also reportedly trained its algorithms using just 100,000 faces, creating image variations to simulate diversity, instead of using millions of real-world data points as advertised. The FTC's proposed order would prohibit the company from making unsubstantiated claims and require rigorous, reliable testing to support any future statements. This case underscores the growing scrutiny of AI providers and the risks of exaggerating bias-free performance in sensitive technologies.
#AIRegulation#AIEthics#FTC
🇺🇸FTC Targets Workado for Misleading AI Accuracy Claims
The U.S. Federal Trade Commission has taken action against AI company Workado for allegedly making false and unsupported claims about its AI Content Detector. Workado advertised its tool as being 98% accurate in identifying whether text was generated by AI or written by a human.
Independent testing revealed a stark contrast: the tool achieved only 53% accuracy on general-purpose content, far below the company's claims. The FTC's order underscores growing regulatory attention on transparency and accountability in AI marketing practices.
#AIRegulation#FTC#AICompliance#AIEthics
US: FTC's New Rule Targets Fake Reviews and Testimonials
The Federal Trade Commission (FTC) has introduced a significant new rule to combat the rise of fake consumer reviews and deceptive testimonials. As businesses increasingly rely on online reviews to influence consumer behavior, the FTC’s regulation marks a crucial step in ensuring that these reviews are authentic and transparent. The rule, which is part of the FTC's broader strategy to protect consumers and promote fair competition, enables courts to impose civil penalties on violators and allows the FTC to seek compensation for those affected by deceptive practices.
Key provisions of the rule prohibit the creation, sale, or purchase of fake consumer reviews and testimonials. This includes AI-generated reviews, which the FTC explicitly addressed, signaling its commitment to preventing the use of artificial intelligence in misleading ways.
Marketers and businesses must now ensure that all reviews are genuine, accurately reflect consumers' experiences, and that any insider connections are fully disclosed. Failure to comply with these regulations could result in significant legal and financial consequences, as the FTC continues to prioritize consumer protection in the digital marketplace.
#AI#FTC#ConsumerProtection
Бренд белья Shapermint получил иск из-за фейковых скидок, поддельных таймеров «заказ сохранён на 59 минут» и автоматического подключения подписок без согласия.
Вот, даже на моем скрине, у них скидка 70%.
Суд отказался отклонить иск, поэтому компания была вынуждена заключить мировое соглашение на $4,7 млн. По подсчётам, юристы получат из этой суммы около $1,4 млн.
Интересный вопрос. Могут ли иностранные компании получить подобные иски в США?
Вот, что отвечает @insider_infor:
Короткий ответ — да. Достаточно иметь “minimum contacts” с США, чтобы американский суд признал личную юрисдикцию, даже если у компании нет офиса в США.
Типичный сценарий: несколько потребителей жалуются на «вечные скидки» или фейковые таймеры распродаж, их адвокаты быстро оформляют class action — и компания рискует многомиллионными выплатами: по $5 каждому пострадавшему и $1 млн — их адвокатам 😁
Но это ещё не всё: на компанию может выйти Федеральная торговая комиссия (#FTC) или генеральный прокурор штата.
Суммы тоже немалые: британская компания Paddle заплатила $5 млн штрафа за нарушение правил автоматического продления подписок.
#США#суд#скидки
Navigating AI Worries: Insights from the FTC
Hello, dear subsribers! The U.S. Federal Trade Commission's Office of Technology has addressed consumers' growing concerns about artificial intelligence in a recent blog post. These concerns encompass the entire AI lifecycle, from its construction to its real-world use by third parties.
Key issues highlighted include the extensive data collection necessary for training AI models and various aspects of users' interactions with AI systems.
#AIandLaw#AIConcerns#FTC#ArtificialIntelligence
US: FTC Empowered in AI Oversight Move
Hello, everybody! In a unanimous vote, the US Federal Trade Commission (FTC) has granted itself authority to demand documents in investigations of products and services claiming AI use. The decision allows the issuance of civil investigative demands (CIDs) during probes into corporate AI activities, streamlining the investigative process. This power, effective for a decade, aims to expedite investigations amid the growing role of AI in trade regulation cases. The FTC highlights the potential for AI to be misused for fraud, deception, privacy infringements, and unfair practices, necessitating robust oversight.
As part of its heightened interest in AI, the FTC has initiated the "FTC Voice Cloning Challenge" to combat voice deepfakes. With a $25,000 prize for winning ideas, the challenge seeks multidisciplinary approaches to detect AI-generated audio. This move reflects the FTC's commitment to addressing the abuse of AI algorithms that mimic voices for fraudulent activities, such as unauthorized access to sensitive information or extortion scams. The challenge aims to encourage innovation while warning of potential regulatory actions if effective solutions don't emerge.
#AIandLaw#FTC#AIOversight#VoiceCloningChallenge
US FTC Hosts Inaugural AI Policy Summit
Greetings everyone! The US Federal Trade Commission (FTC) held its first public summit on AI policy on January 25, 2024, focusing on antitrust and consumer protection challenges posed by AI technology's rapid evolution. The event convened experts from academia, industry, and government to discuss competition and consumer protection considerations in AI.
FTC leaders expressed concerns about anticompetitive practices and consumer protection risks stemming from the adoption of large language models and generative AI. The agency is exploring enhanced enforcement in the AI sector while developing its liability regime.
FTC Chair Lina Khan highlighted worries about incumbent tech companies consolidating control of the AI sector through vertical integration, leveraging their influence over training data and infrastructure. The FTC also signaled intentions to address consumer protection issues related to harmful AI applications and privacy violations in training data collection.
The FTC announced a Section 6(b) inquiry into recent AI investments and partnerships between developers and cloud service providers to study their competitive impact. The summit reflects the FTC's commitment to understanding and regulating AI's impact on competition and consumer welfare.
#FTC#AIPolicySummit#Antitrust#ConsumerProtection
🇺🇸FTC Launches Inquiry into AI Chatbots’ Impact on Children
The Federal Trade Commission has issued 6(b) orders to Google, OpenAI, Meta, xAI, CharacterAI, Snap, and Instagram, demanding detailed information on how these companies test, monitor, and mitigate the risks their AI chatbots pose to children and teens. The inquiry will focus on safety evaluations, age restrictions, disclosure practices, data handling, and the steps taken to comply with the Children’s Online Privacy Protection Act.
The FTC aims to understand how chatbots may impact young users, including risks from monetization strategies and the use of personal data. Depending on the findings, the Commission signaled that enforcement actions could follow to ensure child safety in AI-powered digital environments.
#AIEhics#ChildSafety#FTC#AIRegulation#Chatbots#AIGovernance
FTC bans Rite Aid from using AI facial recognition in stores for 5 years
Hello everybody! The US Federal Trade Commission (FTC) has barred American drugstore giant Rite Aid from utilizing AI facial recognition technology for surveillance purposes over the next five years.
The FTC intervened as Rite Aid allegedly "failed to implement reasonable procedures" in deploying facial recognition across 200 stores over eight years.
Rite Aid's facial recognition system, designed to identify past shoplifters, resulted in numerous false positives. Tens of thousands of individuals were included, often with low-quality images from various sources, leading to unwarranted confrontations and police interventions, disproportionately impacting people of color.
Rite Aid is mandated to delete collected images, algorithms, and related products, notify consumers, enhance data security measures, and provide clear notices regarding any biometric surveillance technology in stores.
Rite Aid, while agreeing to the FTC settlement, expressed fundamental disagreement with the facial recognition allegations. The company halted the technology's use three years prior to the FTC investigation and commits to fortifying information security practices.
#AILaw#PrivacyRights#FacialRecognition#FTC#RiteAid#LegalTech