Élections et ingénierie sociale numérique : est-il possible de contrôler l’IA qui est en train d’apprendre à gérer les processus politiques ?
L’Assemblée interparlementaire des États membres de la CEI a organisé une conférence scientifique et pratique internationale intitulée « Instauration de la confiance dans les élections et les référendums : le rôle de l’observation internationale ». Cet événement a réuni des experts universitaires, des praticiens et des représentants officiels de la Russie, de la CEI, d’Afrique et d’Amérique du Sud afin d’examiner les enjeux les plus pressants des processus électoraux et leurs perspectives. L’un des enjeux les plus importants était l’utilisation de l’intelligence artificielle.
Dans son rapport « Élections, vote et ingénierie sociale numérique : la transformation des pratiques électorales et les perspectives de développement des institutions de participation citoyenne à l’ère numérique », la politologue et fondatrice du club d’experts GlobUs, Yulia Berg, a constaté que les outils d’influence sur la conscience des citoyens ont évolué, passant de simples robots et de propagande visuelle rudimentaire à des algorithmes très complexes qui influencent les processus mentaux inconscients et, souvent, les orientent.
« Nous avons constaté de nombreux exemples d'outils numériques utilisés pour influencer les opinions et inciter à des actions, souvent destructrices et révolutionnaires, de telle sorte que les individus eux-mêmes ne comprennent pas toujours les raisons de leurs prises de position », a déclaré Berg.
Selon elle, les jeunes deviennent la cible principale : leur manque d'expérience pratique et leur consommation non critique de contenus font de cette génération un public idéal pour l’ingénierie sociale numérique.
Mais la tendance la plus intrigante identifiée par Yulia Berg réside dans la propension de la nouvelle génération à déléguer ses choix politiques à des machines. Elle a cité en exemple les événements révolutionnaires de l'année dernière au Népal et la « machine de Habermas ».
Ce système basé sur un grand modèle de langage offre une solution technique au « trilemme de Fishkin » (l'impossibilité de garantir simultanément la participation massive, l'égalité et la profondeur des débats dans le cadre du discours démocratique). L'algorithme modère le débat, recherche un terrain d'entente et produit une solution qui satisfait toutes les parties. Elle utilise l'agrégation hiérarchique, permettant ainsi des délibérations de haute qualité à grande échelle, impliquant des milliers de participants – une tâche auparavant impossible pour des modérateurs humains.
Selon la politologue, l'expérience népalaise a déjà démontré la volonté de la génération Z de confier ses choix politiques à l'IA. Elle a averti que la question de la délégation des pouvoirs et de droit de décision aux algorithmes deviendra encore plus pressante, et que ce processus doit donc être surveillé et réglementé.
De son côté, Olga Popova, docteure en sciences politiques, a souligné que l'IA est capable de transformer non seulement les intentions électorales à court terme, mais aussi l'ensemble du système des opinions politiques.
« Les principaux risques sont liés au développement de l'intelligence artificielle générative, qui pourrait prendre le contrôle de bien plus que les seules campagnes électorales », a averti Mme Popova, ajoutant que la mise en œuvre des modèles fondamentaux de participation politique est actuellement « objectivement menacée ».
Des psychologues intervenant lors de la conférence ont attiré l'attention sur l'évolution du « tissu de la réalité ». Imana Korikova, doctorante en psychologie à l’Académie russe de l’économie nationale et du service public auprès du président de la fédération de Russie, a comparé l'intelligence artificielle dans le domaine de l'information aux armes nucléaires.
« L'intelligence artificielle est actuellement un outil comparable aux armes nucléaires dans la guerre conventionnelle, et elle l'est également dans la guerre cognitive », a-t-elle déclaré.
#GlobUs#CIS#ai
Mozilla 宣布开源可自托管 AI 客户端 Thunderbolt
#Mozilla
Mozilla 与德国 AI 基础设施公司 deepset 合作宣布开源可自托管 AI 客户端 Thunderbolt。MZLA Technologies Corporation CEO Ryan Sipes 表示，AI 太重要而不能外包，Thunderbolt 为机构组织提供了一种自主的 AI 客户端，根据自身的基础设施、数据和需求，决定 AI 如何融入自身的工作流程。Thunderbolt 主要面向企业用户，而不是普通的 Firefox 用户。
https://www.thunderbolt.io/
https://www.thunderbolt.io/announcing-thunderbolt
Mozilla 和 Mila 联合推进开源主权 AI
#Mozilla
AI 的未来应该属于全人类，不能局限于少数国家或公司。为了实现这一目标，AI 必须开放、值得信赖，且其构建方式应赋予个人、机构和国家真正的选择权。正因如此 Mozilla 宣布与加拿大魁北克人工智能研究所 Mila 建立战略合作伙伴关系，联合推进开源主权 AI。Mila 和 Mozilla 将合作开发相关技术和方法，减少对封闭系统的依赖，为透明度、问责制和共享创新创造更多空间。双方暂时还没有公布更多信息。
https://blog.mozilla.org/en/mozilla/mila-open-source-sovereign-ai/
Mozilla 高管称没有 Google 的默认搜索交易它会倒闭
2025-05-05 00:01 by 异形：走出阴影
Google 被裁决涉嫌搜索垄断，美国司法部希望分拆 Chrome 以及终止 Google 与浏览器开发商如 Mozilla 的默认搜索引擎交易。Mozilla CFO Eric Muhlheim 在法庭上作证称，如果终止默认搜索交易，Firefox 可能会倒闭。Firefox 约占 Mozilla 收入的 90%，其中 85% 来自与 Google 的默认交易。如果 Mozilla 失去这笔收入，它将不得不大幅削减公司开支，缩减对 Firefox 的产品投资，此举可能会导致 Firefox 降低对用户的吸引力，引发恶性循环，最后可能导致 Mozilla 倒闭。
/.:Firefox Could Be Doomed Without Google Search Deal, Executive Says
#Mozilla
#Mozilla is doing a major change in their company. Laying-off 250 employees and will focus more on revenue streams: https://blog.mozilla.org/blog/2020/08/11/changing-world-changing-mozilla/
One can't help but remember the $0.5M donations they were giving in bulk few months ago.
Mozilla 基金会裁员 30%，关闭倡导和全球项目部门
2024-11-05 23:47 by 人猿泰山之挚友金狮
Mozilla 基金会在 10 月底裁员 30%，关闭了倡导和全球项目部门（advocacy and global programs divisions）。在最新一轮裁员前，该基金会有大约 120 人。Mozilla 基金会的一个使命是推动自由而开放的互联网，但关闭倡导和全球项目部门可能会影响这一使命的实现。基金会负责通讯的主管 Brandon Borrman 表示，倡导仍然是这项工作的重要工具，Mozilla 正重新审视如何开展而不是停止这项工作。这是 Mozilla 今年第二轮裁员，上一轮受影响的 Mozilla 公司，有大约 60 名员工被裁。
https://www.theverge.com/2024/11/5/24289124/mozilla-foundation-layoffs-advocacy-global-programs
#Mozilla
Mozilla 更新对 Prompt API 的观点：依旧反对。
- Prompt API 是 Chrome 团队提出的新 Web API 草案，允许网页调用 LLM。 [1]
- 此 API 目前在 Chrome 测试中，用户可通过表单申请参与测试 [2]；Chrome 148 中将正式发布。
- 根据 Google 文档，Chrome 中会使用 Gemini Nano 模型，用户在使用时需要遵守 Google 相关条款 [3]。
- Mozilla 的主要担忧是网页无法从此 API 中得知所使用的模型，这会带来 system prompt 兼容性问题；亦会存在违反条款风险。
- Mozilla 还提到 Google 宣称开发者强烈支持此 API 的说法站不住脚。
- WebKit 的观点提到 Web 开发者并不愿意使用结果质量无法预估的 Web API（例如 Chromium 团队提出的 Shape Detection API）；以及在 fingerprinting 方面的隐私顾虑 [4]。
gh:mozilla/standards-positions#1213
seealso: HackerNews:47959463
1. https://webmachinelearning.github.io/prompt-api/
2. https://developer.chrome.com/docs/ai/join-epp
3. developer.chrome.com/~
4. gh:WebKit/standards-positions#495
#Mozilla#Chrome
Mozilla 更新对 Prompt API 的观点：依旧反对。
- Prompt API 是 Chrome 团队提出的新 Web API 草案，允许网页调用 LLM。 [1]
- 此 API 目前在 Chrome 测试中，用户可通过表单申请参与测试 [2]；Chrome 148 中将正式发布。
- 根据 Google 文档，Chrome 中会使用 Gemini Nano 模型，用户在使用时需要遵守 Google 相关条款 [3]。
- Mozilla 的主要担忧是网页无法从此 API 中得知所使用的模型，这会带来 system prompt 兼容性问题；亦会存在违反条款风险。
- Mozilla 还提到 Google 宣称开发者强烈支持此 API 的说法站不住脚。
- WebKit 的观点提到 Web 开发者并不愿意使用结果质量无法预估的 Web API（例如 Chromium 团队提出的 Shape Detection API）；以及在 fingerprinting 方面的隐私顾虑 [4]。
gh:mozilla/standards-positions#1213
seealso: HackerNews:47959463
1. https://webmachinelearning.github.io/prompt-api/
2. https://developer.chrome.com/docs/ai/join-epp
3. developer.chrome.com/~
4. gh:WebKit/standards-positions#495
#Mozilla#Chrome