志愿者想要保护维基百科免遭 AI 生成内容的入侵
2024-10-12 12:48 by 隐身人
一群志愿者编辑成立了 WikiProject AI Cleanup 项目,旨在保护世界最大的在线百科全书维基百科免遭低质量 AI 生成内容的入侵。自 2022 年以来,ChatGPT 之类的大模型成为写作的方便工具,但大模型不能正确引用来源,会经常捏造来源。该项目通过识别 AI 生成内容,验证内容是否遵循维基百科的政策,删除不符合要求的内容;通过识别 AI 生成图像,确保使用恰当。WikiProject AI Cleanup 通过搜索 ChatGPT 常用短语去寻找 AI 生成内容,比如“As of my last knowledge update in January 2022”——即大模型训练数据库最近更新的时间。
https://news.slashdot.org/story/24/10/11/1554202/the-editors-protecting-wikipedia-from-ai-hoaxes
https://en.wikipedia.org/wiki/Wikipedia:WikiProject_AI_Cleanup
#维基百科
维基百科禁止使用生成式 AI 撰写或改写文章
#维基百科
维基百科禁止使用生成式 AI 撰写或改写文章,但用 AI 翻译或润色仍然可以,前提是需要人工仔细检查内容的准确性,因为基于大模型的 AI 工具可能会以出人意料的方式改变文本含义,与内容引用来源牛头不对马嘴。而使用 AI 工具翻译的志愿编辑需要对翻译的两种语言都有所精通以发现可能的翻译错误。最新的政策如何执行仍然是一大难题。
https://news.slashdot.org/story/26/03/26/1818215/wikipedia-bans-use-of-generative-ai
https://en.wikipedia.org/wiki/Wikipedia:Core_content_policies
AI 翻译工具会将“幻觉”加入到维基百科文章
#维基百科
维基百科编辑实施了新政策,限制使用 AI 翻译工具将英文条目翻译到其它语言的贡献者,原因是他们发现 AI 工具会在译文中加入“幻觉”——即原文不存在的内容。问题与非营利组织 Open Knowledge Association (OKA)有关,该组织主要依赖来自“全球南方(Global South)”的廉价劳工充当翻译合同工,将英文维基百科文章翻译到其他语言。部分译者开始使用 Google Gemini 和 ChatGPT 等工具加快翻译,但编辑在审阅译文时发现了大量错误,包括事实错误、缺少引用以及引用不相关来源。
https://news.slashdot.org/story/26/03/06/020239/ai-translations-are-adding-hallucinations-to-wikipedia-articles
维基百科和生成式 AI
#维基百科
Wiki Education 是一个致力于招募维基百科新编辑的组织,贡献了英文维基百科约 19% 的新活跃编辑,该组织分享了 ChatGPT 自 2022 年 11 月发布以来生成式 AI 对内容编辑的影响。Wiki Education 支持的大部分新编辑没有使用生成式 AI,以 2025 年秋季为例,6357 位新编辑中只有 217 位(占 3%)收到了多次使用 AI 编辑内容的警告。Wiki Education 表示它的原则是“维基百科编辑绝不应将 ChatGPT 等生成式 AI 聊天机器人的输出复制粘贴到维基百科条目中”。在 ChatGPT 发布前它没有观察到使用 AI 编辑的迹象,自 ChatGPT 发布后 AI 使用率开始逐年增加。它使用 Pangram 检测 AI 生成内容,对标记为 AI 生成的文章的分析显示,只有 7% 的文章包含有虚假的引用来源,但信息源存在并不意味着 AI 的引用是正确的,大模型的统计逻辑经常会导致张冠李戴似是而非,这种错误更难识别出来,分析显示逾三分之二的 AI 文章包含此类错误。
https://wikiedu.org/blog/2026/01/29/generative-ai-and-wikipedia-editing-what-we-learned-in-2025/
维基百科与 AI 公司签署数据授权协议
#维基百科
维基百科迎来了 25 周年纪念,这家最大的在线百科全书网站宣布与亚马逊、微软、Meta、Perplexity 和 Mistral AI 等 AI 公司签署了使用其数据训练 AI 的授权协议。维基媒体基金会未透露相关财务细节。它早在 2022 年就与 Google 签署了授权协议。虽然维基百科也受到了生成式 AI 的冲击,它仍然是访问量第九大的网站,拥有逾 6500 万篇文章,涵盖 300 种语言,由 25 万名志愿者编辑维护。
https://en.wikipedia.org/wiki/Wikipedia:About
https://news.slashdot.org/story/26/01/15/1516207/wikipedia-signs-ai-licensing-deals-on-its-25th-birthday
志愿者想要保护维基百科免遭 AI 生成内容的入侵
2024-10-12 12:48 by 隐身人
一群志愿者编辑成立了 WikiProject AI Cleanup 项目,旨在保护世界最大的在线百科全书维基百科免遭低质量 AI 生成内容的入侵。自 2022 年以来,ChatGPT 之类的大模型成为写作的方便工具,但大模型不能正确引用来源,会经常捏造来源。该项目通过识别 AI 生成内容,验证内容是否遵循维基百科的政策,删除不符合要求的内容;通过识别 AI 生成图像,确保使用恰当。WikiProject AI Cleanup 通过搜索 ChatGPT 常用短语去寻找 AI 生成内容,比如“As of my last knowledge update in January 2022”——即大模型训练数据库最近更新的时间。
https://news.slashdot.org/story/24/10/11/1554202/the-editors-protecting-wikipedia-from-ai-hoaxes
https://en.wikipedia.org/wiki/Wikipedia:WikiProject_AI_Cleanup
#维基百科