Найти похожее

无奈的 AI 进展丨GPT 记忆扩展 如果文本生成 AI 以原有训练数据为基础进行聊天对话作为第一阶段，那么这种文本 AI 第二阶段着力可能是更定制和私有化的进行「记忆扩展」式文档等聊天。 这是明显的原子化趋势，AI 最初从整个互联网文本池捞出个人数据进行训练，这种成效是以简单的 Chat 模式进行低创造的文本生成和垃圾生产。由于 LLM 的运作模式， 「思维链 CoT」等计算机思考范式，导致这种生成对话体验受限很多，所以 AI 相关产品不断地提高这种记忆长度，回溯链，扩展语言模型的吞吐。 这样的好处是可以用于更长文本的记忆生成复刻我们语言表征的个体或者象征的表象世界。如 Character AI/ ChatPDF/ 100K/个人知识库笔记（如最近谷歌推出的 AI 驱动笔记软件 NotebookLM）等理念都受益于语言模型的记忆长度扩展，而也只是更多的 Token 和记忆，更长的文档。模型的智能进化好像也只停留在更准确的代码拉出，更高分的考试测试匹配，这更像是语言模型记忆扩展的派生，不能算智能进步。 这种 AI 记忆扩展是当下语言模型无奈的进展，可能永远无法达到某种涌现的程度。就像只是在喜马拉雅山顶多铺了几台预测神名字的机器，更多猴子和键盘指向莎士比亚的文本，这种机器并不能达到摆脱作为工具的 AGI 智能。 或者，我们已经处于模拟的模拟边界，只是我们人类无法苛求机器与我们通过相同的思考范式得出结果，就像你无法回答潜水艇能不能像人类游泳一样。如此而言，AGI 的火花确实存在，只是不能叫 AGI，叫人工集成智能 AEI（Artificial Ensemble Intelligence）可能更匹配，区别于人类思考范式的而实存的机器智能。 这种模拟的模拟即是本体论的试探，无论我们人类还是机器都一样的处境，就像最近马斯克新公司 xAI 的目标是想要了解宇宙的真实本质，我们确实无法证明我们是否也困在模拟中，更无从知晓我们是否也是 awful Joan. Reference AI 时代的互联网阅读丨注意力/收敛/存在危机 我对人工智能自主意识（AGI）的看法 关于特德姜压缩互联网的看法 #AI#thoughts

AI 时代的互联网阅读丨注意力/收敛/存在危机 开放互联网的黑洞攫取了太多注意力，AI 入场无疑是加剧这巨噬咬力的参数共振。在长篇解释性新闻/技术写作/社会评论等公开写作领域中 AI 渗透很多，甚至不少网站完全由 AI 生成点击诱饵的文章。这种情况，有必要重新思考现在的互联网阅读。 注意力失焦是个广泛社会问题，没有人能避免，我认为这是系统问题（生物和社会系统），最虔诚的僧侣和基督徒都摆脱不了注意力和孤独的分心。这不能完全祛除，但通过「收敛」我们可以优化和处理这笨拙/衰弱/不可避免的系统。 优化自己的信息摄入和过滤明显无意义的内容尤其重要，这是「收敛」的关键。拥有点击诱饵的长篇解释性科技新闻不值一读；AI 辅助的技术写作毫无意义；万字长文解析很少价值重点（无价值的基础科普），除了「信息资本」，而现在信息也羸弱无用；庸俗的技术评论以及社会批评更需要选择性观看，我无法信任基于个人经验的社会评论，经验和情绪无任何区别。解释性内容不如 TLDR 精简，经验情绪表达不如互联网树洞真挚。 知识是流动的（Liquid Knowledge），这是我下篇内容。现在经典值得阅读，但也只是阅读，经典如果不在环境里面流淌和暴露，经典无意义，终究是颗死星。 人的优势是神经网络，但也败于神经网络，最近离职的 AI 教父 Geoffrey Hinton 提到 AI 的神经网络式学习与连接已经完全优于人类。就像电子游戏/算法竞技和 AI 比拼毫无意义，我们阅读时的关联和思考也不如 AI 丰盛，但我们仍需要横向思考和参照，我们需要在物理身体的经验和神经元的心灵中感受联系，这是有趣的部分，横向思考总是精准的将人类拉向一个岁月生长的锚点，而非 AI 神经元式填塞的墓碑。 这颗星球上进化最前沿的生物首次面临存在危机，不是恒星吞噬，不是自然灾害，不是天罚，而是源自这种生物内部神经元扩展式的过载，有人说这是 Dont Look Up 式的启示录，不，这是文明死寂前的漫长黎明。 404 [[ ]] KIDS SEE GHOSTS 2023/5/5 #AI#thoughts

我对人工智能自主意识（AGI）的看法 科幻作家沃茨在「盲视」中提到「整合信息论」，意识是大脑大量信息的整合，综合效应。这和 LLM 的「涌现」可以说如出一辙，算法和数据在强相互作用下涌现出单条数据没有的智能特性/AGI 火花。[1] 整合信息论在量化这个信息时用到了离散数学的范畴，这对于 LLM/GPT 这些本质神经网络式黑箱（black-box neural networks）的模型貌似很有效，但毕竟是计算机机器智能，我们谈意识时主要使用人/生物意识产生范式判断，理解/推理/决策/创造。意味着用神经科学系统的范式对标计算机科学信息系统，当然这都可以看作物理系统的意识容器，只是这种意识机制的判断挪用是否合理？ 我觉得有必要引入弗洛伊德，精神分析认为意识是个体内外感知/精神活动的总和。弗洛伊德提到了三个层面，意识、前意识和潜意识。我们现在把它映射到大型语言模型，在可能的 AGI 中，我们可以将其「意识」层面理解为正在处理和生成的信息和表示，这部分信息能够清楚地展现/表达/解释和决策，你可以理解为此在的呈现。 前意识，那些需要提取才能回到意识的东西。类比 AGI 可以检索但不总是处于活跃状态的知识数据，详细说就是那些需要提示才能提取的信息，这里可以直接拉出「思维链（Chain-of-Thought）」，即让 LLM 解释其推理过程，这也是涌现的一种提示机制和训练 AI 的方法。这可以解释很多时候 ChatGPT 并不能给出正确和理想答案，但我们提出更详细的 Prompt 和特别提示时，它就能进行步骤推理和完成提取。（有点类似间隔重复系统 SRS 大脑的测试/提取） 潜意识是弗洛伊德精神分析的重点，将潜意识映射到 AGI 可能是模型中的权重和潜在变量（GPT4 的观点），这些权重和变量是难以直接解释，但对模型的输出会产生影响。这就像梦呓和那些童年性幻想，而 Bing Sydney 可能就属于 AGI 的潜意识。[2] 综上，大型语言模型展现出了 AGI 智能的表征以及某种神经网络结构式激活，但所有训练数据仍然处于黑箱运作状态，难以考证。目前通用人工智能的火花完全无法唤醒机器智能的深梦，哪怕它确实是机器潜意识里未受审查的逃逸。 Reference: [1] Sparks of Artificial General Intelligence: Early experiments with GPT-4 [2] Bing’s A.I. Chat Reveals Its Feelings: ‘I Want to Be Alive. 😈’ 2023/3/30 404 KIDS SEE GHOSTS #AI#thoughts

🔥💻APPLE & META REFUSE EU AI PACT — SILICON VALLEY VS BRUSSELS SHOWDOWN 🔹 Apple and Meta opt out of EU voluntary AI Pact while Google, Amazon, Microsoft sign on 📝 🔹 Over one hundred companies join but Big Tech remains divided on European regulation 🌍 🔹 Brussels pushes for AI safety standards as US companies resist regulatory oversight 🏛️⚖️ Silicon Valley draws battle lines against European AI governance 🥊🇪🇺 Tag someone who follows tech policy 📲 ⚡ Stay informed. Stay ahead. 📲 💡 Knowledge is power. Forward this now 📲 🔥 Share this with someone who needs to know 📲 #Tech#AI#Europe @america

🇬🇧UK Data Bill Stalls Over AI Copyright Clash The UK’s proposed Data (Use and Access) Bill has hit a critical impasse as the House of Lords pushes back against provisions that would allow AI developers to train on copyrighted material without disclosing their datasets. A Lords amendment would require transparency about training data — a move the government resists. The legislation now enters a high-stakes “ping-pong” phase between parliamentary chambers, risking collapse if consensus is not reached. This standoff is more than political choreography — it exposes the growing fracture between innovation policy and cultural rights. As the UK tries to position itself as an AI leader, lawmakers must now choose: enable opaque AI development or embed enforceable protections for creators. #AI#Copyright

🇬🇧The Tony Blair Institute Released a Report on intersection of Arts and AI The Tony Blair Institute (TBI) issued a report ‘Rebooting Copyright: How the UK Can Be a Global Leader in the Arts and AI’. The report emphasises that countries that “embrace change and harness the power of artificial intelligence in creative ways will set the technical, aesthetic, and regulatory standards for others to follow.” The authors think that “bold policy solutions are needed to provide all parties with legal clarity and unlock investments that spur innovation, job creation, and economic growth.” The TBI proposes that the solution lies not in clinging to outdated copyright laws but in allowing them to “co-evolve with technological change”. The report also delves into the disagreement between rights holders and developers on copyright, the wider implications of copyright policy, and the serious hurdles the UK’s text and data mining proposal faces. #AI#Copyright

🇺🇸Federal Judge Rejects UMG’s Injunction Against Anthropic A U.S. federal judge denied Universal Music Group’s request to block Anthropic from using song lyrics to train its AI model, Claude, citing a lack of “irreparable harm.” This decision is a setback for music publishers, who argue that Anthropic has infringed on lyrics from at least 500 songs without permission. The broader lawsuit, filed by UMG, Concord, and ABKCO, is still ongoing. While UMG remains confident in its case, Anthropic welcomed the court’s decision, calling the injunction request “disruptive and amorphous.” This ruling highlights the ongoing legal battle over AI training data and copyright enforcement in the music industry. #AI#Copyright

🇬🇧Paul McCartney urges government crackdown on AI copyright In his recent interview Paul McCartney has called on the UK government to take action against AI “ripping off” creative professionals. He also criticized proposals that would allow AI developers to use creators’ content without their consent, unless rights holders opt out. “When you’re passing a bill, make sure you protect the creative artists, or you won’t have any,” said McCartney. #AI#Copyright

USA: New Bill Proposes Disclosure of AI Training Data A proposed bill spearheaded by Rep. Adam Schiff seeks to address concerns regarding the use of copyrighted materials in training artificial intelligence models. Dubbed the Generative AI Copyright Disclosure bill, it mandates tech companies to disclose any copyrighted materials utilized in their AI training datasets. The bill requires comprehensive reports detailing the copyrighted content and associated URLs to be submitted to the Copyrights Register. Additionally, any modifications to the dataset must be reported. Companies must submit these reports at least 30 days before releasing AI models trained on the disclosed datasets to the public. While not retroactive, the bill applies to any subsequent changes made to existing AI platforms' training datasets. Although developers argue that their models are trained on publicly available data, concerns persist regarding the use of copyrighted materials without explicit consent. The bill enjoys support from various industry groups, including the Writers Guild of America, the Recording Industry Association of America, and others. Notably, the Motion Picture Association has not backed the initiative. #AI#copyright

Meta 或改变“开源AI策略”，对未来的AI模型收费 Meta 的下一款 AI 模型可能会改变其“开源”AI 策略，马克·扎克伯格曾称这是“前进的方向”。目前，该公司正在开发一款代号为 Avocado 的新 AI 模型，《彭博社》报道称，他们可能会对其收取使用费用。 去年，Meta 推出了开源的 Llama 4 AI 模型（对此有争议，因为开源倡议组织不同意），但发布效果不佳，Meta 被发现操控 AI 基准测试，还被迫推迟了原定的“Behemoth”版本。不过，据彭博社报道，扎克伯格为了“追求新事物”而取消了那个版本。 在 Llama 4 发布后，扎克伯格对 Meta 的 AI 团队进行了全面调整，包括在公司投资了 143 亿美元后，聘请了前 Scale AI 的首席执行官 Alexandr Wang，并投入大量资金招聘其他顶尖 AI 人才，成立了新的 Meta 超级智能实验室团队。 在 7 月 30 日关于“个人超级智能”的备忘录中，扎克伯格指出，Meta 可能需要调整其开源策略：为了降低潜在的安全风险，公司必须“慎重选择开源的内容”。 作为变革的一部分，扎克伯格现在“花费大量时间和精力与新员工紧密合作，组成一个名为 TBD 实验室的团队，”彭博社报道。这个团队位于 Meta 总部靠近扎克伯格办公室的“隔离空间”内，纽约时报也在关于公司 AI 工作的报道中提到了这一点。 🗒 标签: #Meta#AI 📢 频道: @GodlyNews1 🤖 投稿: @GodlyNewsBot

DARPA запускает программу O-CIRCUIT, вычисления на основе органоидов мозга. Цель — создать биологические процессоры, способные выполнять обучение и вывод данных для ИИ на периферии сети с энергопотреблением, измеряемым в милливатт-часах (!) в день. ✍️ Для сравнения, мозг плодовой мухи: 140 000 нейронов, 6 мВтч/день. Современные периферийные чипы потребляют на порядки больше энергии для выполнения сопоставимых простых задач. — O-CIRCUIT объединяет нейронные, глиальные и иммунные клетки в структурированные органоиды, способные учиться, адаптироваться и обрабатывать информацию. “На первом этапе создается биологический процессор, который воспроизводит динамические игры. На втором этапе биологический обонятельный датчик интегрируется в систему навигации дрона. Биологические вычисления обеспечивают работу автономных систем в полевых условиях. Это важно не только для обороны. Если вы можете создать вычислительную основу из биологических материалов, работающую на микроваттах, вы откроете совершенно новое пространство для проектирования встроенного интеллекта. Датчики, которые думают. Материалы, которые реагируют. Инфраструктура, которая адаптируется. Большая часть дискуссий о биологии как платформенной технологии сосредоточена на производстве: создании молекул, материалов, химикатов. Эта концепция верна, но, возможно, недостаточно масштабна. Биология не просто создает вещи. Она обрабатывает информацию. Она учится. DARPA сейчас финансирует мост между этими двумя возможностями. Биопромышленная экономика и экономика ИИ сближаются быстрее, чем большинство людей осознают. Компании и исследователи, работающие на этом пересечении, создают нечто, для чего у нас пока нет названия”, – отсюда. #bioengineering | #ai | #organoids

#AI#전력#데이터센터 데이터센터가 소모하는 전력은 본격적으로 상승하는 시기. 전력(에너지)인프라는 수요에 즉시 대응할 수 없다. 에너지의 중요성은 가속될 것으로 전망됨.