---
title: YX Nexus 周报 005：构建直觉、记忆与学习、系统的构建认知
publishDate: 2025-06-15 22:32:00
excerpt: 本周主题主要聚焦在 AI 领域的顶尖洞察分享、智能的记忆与学习、现实挑战与系统构建认知。
featuredImage: /uploads/chatgpt-image-2025年6月16日-15_21_00.png
tags:
  - 周报
---
本周主题主要聚焦在 AI 领域的顶尖洞察分享、智能的记忆与学习、现实挑战与系统构建认知。

- - -

1.围绕 Ilya Suskever （开启深度学习新时代与 Chatbot 范式的重要人物）的演讲有许多可以展开的内容，恰巧本周的不少探索都与其有关：

> 我认为，要应对未来，最好的方式就是亲自使用和观察当下最先进的人工智能，从而建立一种`直觉`。
>
> 随着AI在未来一两年、三年内的持续进步，这种直觉会愈发敏锐，我们今天谈论的许多概念也会变得`更加真实、不再虚幻`。
>
> 毕竟，再多的文章与解说，也无法替代亲眼所见、亲身所感的体验。

我们过去谈论的许多虚幻的概念，“记忆”“自主学习”等等已经近在眼前。

* #### 关于“记忆”：

2年前，对于“记忆”的探讨可能只是神经学、认知科学、哲学等去探讨的内容；而当下，这一概念成为下一代 Agent 无法绕过的难题。设计什么样的`记忆架构`？**上下文短期记忆+中长期可学习性记忆+长期动态参数化记忆+外部知识库**？我们对于人类的记忆机制也不了解，只能通过工程手段验证迭代。

当下我愈发觉得只要获取到**足够的上下文**、进行**合理的记忆管理**，那么智能将会极度个性化，不管是日常任务处理、问题解答，还是个性化教育、情感陪伴等等。这是一个“人生操作系统”。

* #### 关于“学习”：

“自主学习”已经成为当下研究前沿最热门的话题之一，这又涉及到我们对于“人类”学习机制的认识。

半个月前有DGM（[Darwin Gödel Machine](https://sakana.ai/dgm/)），**迭代地修改自身代码**（由此也提升了其修改自身代码库的能力），并通过编码基准任务对每次修改进行经验验证。在实证上，DGM能自动改进其编码能力（更好的代码编辑工具、更长的上下文窗口管理等），使SWE-bench基准性能从20.0%提升到50.0%

在我探讨张祥雨访谈的这一篇文章（[张祥雨六问AI：从视觉困境到Agent自进化](https://yxnexus.com/posts/20250612231400/)）中，祥雨老师也认为`自主学习的 GPT-4 时刻`将在2年内到来。 ”一个能够**自我驱动、自我进化、自我定义价值**的AI，才是在OpenAI语境下，那个真正的、能被称为“Agent”的存在。“

> 未来，我们将面对超级智能所带来的`深刻问题`，例如如何确保它们表达的是真实所想，而非伪装。
>
> 总而言之，主动观察人工智能的能力而非忽视它，才能在我们直面挑战时，激发出克服困难所必需的能量。

* #### 深刻问题：

关于第一句话涉及人工智能的安全，[AI的“不可控”风险：我们真正该担心的什么？](https://yxnexus.com/posts/20250613223000-ai/)我在这篇文章中提到了三个可能的“失控“——`对抗样本`（对输入数据进行`微小`、通常对人类无感的改动，却能导致 AI 模型做出`完全错误`的判断）、`偏见`（源于训练数据本身包含了人类社会的偏见）、`幻觉`（基于目标是可能性选择所造成的”一本正经的胡说八道“）。

偏见是训练层现阶段不可避免的。幻觉与对抗样本则是机制层级上的，前者造成的影响更大程度上来源于模型本身，而后者可能会被某些人利用，来“破解”模型。

在看完诺兰的[《记忆碎片》](https://yxnexus.com/posts/20250615220900/)后，我意识到`“记忆”`可能也会导致另一个失控（和对抗样本属于同一层级的，“被利用”）。这部电影抛出一个核心质问”失去了记忆，我们是谁？我们的理性真的是客观？而不是基于记忆导致的我们认为的主观是客观？“

如果足够强大的 AI 被他人通过提示注入（一种针对LLM的网络攻击方式）来篡改其“记忆”，简单说这里的记忆偏向于 System prompt，甚至可以绕过系统预设 System prompt 来达到破解目的。

* #### 克服困难：

> 人工智能带来的挑战，可以说是人类有史以来最大的挑战，而克服它也将带来最大的回报。无论你是否愿意，你的人生都将深受人工智能的影响。

非常赞同、感触以及有所期待的一句话。

- - -

2.Cursor CEO Michael Truell，一位深入研究AI长达十年、并对技术和商业史有深刻洞见的思考者：

* `后代码时代、逻辑设计师`：

  > 我们创建 Cursor 的目标是发明一种新型的编程方式，一种非常不同的软件构建方式。
  >
  > 在我看来，这是一个某种程度上代码之后的世界，越来越多的工程师会开始觉得自己像是**逻辑设计师**。实际上，这将是关于明确你对于一切如何运作的意图。……它看起来像一个你拥有软件逻辑的表达的世界，这个表达更像英语，对吧？你已经写下来了，你可以想象成文档形式，你可以想象成编程语言朝着伪代码演进。
* 品味-`富有品味地创造`：

  > 我认为品味将变得越来越有价值。……成为一名工程师会开始感觉像是成为一名逻辑设计师。而且实际上它将是关于详细说明你希望一切如何运作的意图。...它将更多关于`“是什么”`，而较少关于你将如何在底层具体地“如何”做事情。

模型写代码再出色、再漂亮，也需要人的引导与需求。

* 到底有没有“护城河”？**反直觉的混合模型**：

  > 事实上，我们确实做了大量的模型开发工作。……在目前，Cursor中的每一个精彩瞬间都以某种方式涉及到一个定制模型。……不要试图重新发明轮子……而是关注它们的弱点以及你如何能够补充它们。

tab 自动补全模型、apply 快速应用修改模型、codebase 基于代码库语义搜索的模型…

* 使用 Cursor：

  > 成功使用 Cursor 很大程度上取决于你对模型能力的了解，包括它们能处理的任务的复杂程度，以及你需要向模型具体说明多少细节。要`了解模型的质量`，以及它的缺陷在哪里，它能做什么，不能做什么。目前，我们在产品中在这方面做得不好。

> `把事情分解成小块`。你可以花费基本相同的时间来总体上指定事情，但要分解得更细。你再进行一些细化，获得一些工作成果，进行一些细化，获得一些工作成果。

这里分享一个工具，[Task-Master](https://github.com/eyaltoledano/claude-task-master)，专门为 Cursor 等 coding agent 准备的任务管理系统，GitHub上15k star，我还没开始用，不过不少好评。

- - -

3.Lex Fridman 对陶哲轩的播客访谈：

* 对`理论本质`的精辟概括：

  > 一个好的理论，就是对现实世界的一种极致高效的“压缩”——用最少的参数，解释最多的观测。
* 问题解决模型：

  > 将一个复杂问题分解为两种情况：如果对象是随机的，就用概率论的工具；如果对象是有结构的，就用代数或傅里叶分析等工具。
* AI for Science：

  > 他预测，到2026年，我们将看到由AI与人类合作完成的、达到真正研究级别的数学成果。更长远看，AI或许能通过分析海量数据，在两个看似无关的领域之间发现全新的、优美的猜想——这被他认为是AI在短期内最可能实现的、真正震撼人心的突破。

- - -

4.一段关于某种系统设计的意识流形而上发散思考：

* “知错就改”的参数调整性规则会使得系统鲁棒性太差。“一朝被蛇咬，十年怕井绳”的机制保护系统可存在性。多维度调整。是否需要先确立基于 memory 的“大参数”？从这些再确立不同维度的优先级？
* 到底是“错误”让系统调参并进化，还是记忆？是记忆让系统认识到了某种可变性？为了什么？情绪、记忆是否都是为了调参？我为什么会这样思考？这样做？做这些事而不是那些？我的反馈来源不同又是什么？我的奖励函数？不同系统的奖励函数？
* 到底是底层逻辑极简，一个规则指引系统内的特性涌现；还是说设计之初就这么复杂？我倾向于前者。那么，设计什么样的底层规则？配备什么样的“软硬件”？系统进化又如何调整？为什么要调整？是底层规则驱动，还是涌现出的因素？底层逻辑极简是否代表系统复杂性低？并不一定。复杂性可能也很重要。甚至复杂性足够高的软硬件结合的系统，尽管规则仍然简单，才能涌现智能。
* 构建那个系统，是否需要从本体论、价值观出发，获得方法论，这个方法论是构建系统的指导？有大脑（推理、规划、反思）、有记忆（是什么、为什么、怎么做）、有工具（与外部、能够做到）就足够 了。
* 自主学习与迭代？如何设计？参数调整？如何自主迭代？

- - -

5.关于`人机协作系统`设计的可行性探索：

“错误”与“记忆”构成系统进化双反馈回路：基于“错误”的快速调参作为短期战术层、基于“记忆”的深刻进化作为长期战略层。

一核心：目标驱动、价值创造、意义构建的底层规则（无论“好坏"），由特定奖励函数反馈进化的；同时需要“违背”的核心某一函数。注意权重分配。

三系统：

* 大脑——LLM，规划、反思、执行、回复，通过语言与系统内外交互
* 记忆——短期上下文记忆、从中提取的有助于核心的中期记忆（无论正负）、既固化又能调整的参数记忆、外部知识库
* 工具——与外部世界、系统内外进行交互

- - -

6.一句话：

`质疑记忆、承担时间、迭代目标、追求本质、构建系统、穿越当下、未来涌现`


YX Nexus 周报 005：构建直觉、记忆与学习、系统的构建认知

---
title: YX Nexus 周报 004：前沿访谈、世界模型、认知整合
publishDate: 2025-06-08 22:51:00
excerpt: 本周主题主要聚焦在AI领域的高质量内容输入、前沿思想访谈、个人认知反思等
featuredImage: /uploads/chatgpt-image-2025年6月9日-16_20_39.png
tags:
  - 周报
---
本周主题主要聚焦在AI领域的**高质量内容输入、前沿思想访谈、个人认知反思等**

- - -

### 01 分享

1.这周首推[对阶跃星辰首席科学家张祥雨的访谈](https://www.xiaoyuzhoufm.com/episode/683d2ceb38dcc57c641a7d0f)，其同时也被很多人认为是华人AI科学家最厉害一批。

虽说是访谈，更多的是祥雨老师对于**个人研究、团队探索、行业前沿的认知陈述与探索回顾**。涵盖了计算机视觉（CV）方面的探索、o1类推理模型的认识与自我团队反思、多模态领域的进展与未来即将到来的“GPT-4"时刻、关于下一代agent的”在线学习”与“自主学习”、对于未来的乐观...

为我带来很多启发，我尤其体会到祥雨老师的**科学精神**。

形而上的抽象思考远不如实际的求真与实践。音质的瑕疵不会遮掩研究前沿的行业洞察与深度探索。

- - -

2.DeepMind 一篇论文：[《通用智能体需要世界模型》](https://arxiv.org/pdf/2506.01622)

* 从理论上雄辩地证明，没有通向通用智能的“无模型（Model-Free）”捷径。 任何想要在复杂世界中灵活行事的AI，都无法回避学习和构建一个“**世界模型**”的根本性挑战。这里的世界模型是一个预测性的、动态的“物理引擎”。这个引擎的本质，是论文中反复提及的环境转移函数的近似。
* 论文对于“涌现”的一些探讨，给出了一个强有力的解释：这并非魔法，而是模型在海量训练任务中，为了“做得更好”（**最小化遗憾**），被“强迫”着在内部学习了一个越来越准确的、关于世界运行规律的“隐性世界模型”。“涌现”是“内在建模”的必然结果。
* 从理论上保证了，任何有能力的AI，其“内心世界”在原则上都是可以被“**反向工程**”出来的。 我们可以通过分析其行为策略。
* 创造AGI的难度，至少与学习一个近乎完美的“世界模型”一样巨大，甚至可能更高。

进一步探讨：[通用智能体需要世界模型——DeepMind论文问答](/posts/20250608214700-deepmind)

- - -

3.我对于一些模型的使用体验分享，[AI 模型使用的思考与分享：智能与体验](/posts/20250606231400)

> 当我需要一个高效的执行者，或需要极致的个性化体验时，我会选择`4o`；
> 当我想进行广度探索，或需要系统的知识学习时，我会求助于`Gemini`；
> 而当我想进行严肃的思辨，或需要深层次的灵感碰撞时，我会去找`o3`。
>
> 我们真正需要的，不是一个万能的“伙伴”或“工具”，而是提升我们自己——成为那个能够洞察不同AI特质，能够定义问题、拆解任务、评估结果，并最终为所有决策负责的“指挥家”和“架构师”。

### 02 访谈

4.红杉对 Paid.ai CEO Manny Media 的对谈:

* 关于 paid.ai 以及可能的未来 agent 的商业模式

  > Paid 是 AI 公司的商业引擎。我们帮助 AI 公司搭建完整的后端运营系统：从定价、计费、开票、营收确认，到收入管理、毛利管理、供应商管理等全流程。我们的目标是帮你**理解单位经济**（unit economics）模型，并能持续运行你的业务。
  >
  > Agent 的总成本包括云计算、LLM 调用费用，以及各种插件、接口、数据处理和语音合成等服务的成本。这些外围支出正在显著推高整体运营成本。
  >
  > paid.ai 以 Agent 的**实际产出**为基础计价，重构 Agent 的收益模型与交易结算网络，为 Agent 经济体打下底层商业引擎。
* 看待**AI应用**以及存在的机会：

  > 现在 AI 应用的趋势，考虑“垂直 vs 通用”，我们正处于“垂直”阶段。也就是说，如果你专注于一个非常具体的问题深挖进去，成为那个领域最顶尖的解决方案，那么你就是在创造巨大价值。
  >
  > 凡是你看到 BPO （业务流程外包）占据很大角色的地方，就是 AI Agents 最适合落地的领域。
  >
  > 真正能让 AI 落地的，是那些没人愿意做的工作。
* 对创业者的**建议**：

  > 回想我在上一家公司时，总想着“我的市场边界在哪”。如果能重来，我会更聚焦，带着明确意图去构建公司，专注打造一个十亿美元规模的解决方案，从那里开始扩展。
  >
  > 如今很多新一代创始人正是这样做：从最小阻力的客户群起步，再逐步放大。唯一风险是，可能过度聚焦于某个小 ICP（理想客户画像），缺乏扩展思维。但聚焦的好处也显而易见——产品路线更清晰，需求更统一，系统更好扩展，增长更自然。早知道这些，我一定会更坚定地只做好一件事。
  >
  > 专注服务一小群用户，别管 TAM（市场总量）有多大，忽略 VC 关于“大市场”的建议。一个“小市场”也能成为“大机会”，前提是你提供卓越体验。
* 推荐的一本书：

  > 改变我对 AI 看法的是一本关于统计自然语言处理的老书，作者是 Rich Manning，斯坦福计算机科学课程的必读书目。书中讲了 Markov 链是怎么预测词的，讲了语言建模的早期方法。虽然现在技术已经有了巨大进步，但很多底层思想还是基于那些老理论的。
  >
  > 《Foundations of Statistical Natural Language Processing》
* 对AI的乐观未来：

  > 我觉得其实AGI已经存在了，只是我们还没充分利用它。我们只是还没意识到它已到来。
  >
  > **AI 成为人类想象力的支架**。它会像“把你扛在肩上”的人，让你看得更远、走得更远。我们将能实现以前根本无法想象的事。

- - -

5.Cursor团队的对谈：

* 对于**强化学习在编码方面**工程应用的独到认识：

  > 编码的动作空间要大得多。推理有助于提供大量的行动以得出答案。编码，某种程度上，推理已经包含在答案中，而且为了得到答案，你必须调用多个工具。因此，它不是像生成推理token、生成答案、获得奖励这样，而是看起来像生成一些token、调用一些工具、从这些工具获得响应，并且你可能会迭代多次。所以强化学习（RL），强化学习的形式看起来有点不同，因为现在你必须经历这种多步骤的工具调用过程，并在此之上进行优化。
* 更有趣的是涉及到**写作方面应用RL**：

  > 在模型上进行的后训练往往使它们以一种非常生硬和正式的方式写作。但我不认为那是模型的固有局限。我认为那只是它们被训练成要做的。
  >
  > 为什么不能训练模型来预测下一章节呢？当然可以，你可以改变学习动态，让它开始预测整个序列，而不是预测下一个token。给定书的当前章节，模型应该尝试预测书的整个下一章节，有点像故事的走向。然后你就可以使用某种相似度度量来衡量下一章节与真实章节的相似程度。

很有趣。RL在目标明确的领域适用，我突然想到网文属于高重复、高商业指标、高交互数据的垂直场景，这天然适合 RL。

- - -

6.谢扬，Fellou（AI浏览器） 的创始人：

* 什么是 Agentic System？

  > Agentic System 是由多个模块动态协同构成的“系统智能”，强调结构性架构与组件联动。
* 我们现在训练的所有 Agentic AI 最大的问题是什么？

  > Agentic AI 的参数是固化的，不能动态实时地修改参数，因此每次修改的成本都很高。但 System 允许动态修改，这也是为什么有了模型之后我们还需要做提示词工程，做很多上层封装工作的原因。在我看来，现在大模型只是一个控制单元（Control Unit），我们做的 Agentic System 是除开 Control Unit 外所有的链接工作。
* 浏览器中的 Agentic System 如何做得更好？

  > 知识可视化和图形化是未来解决复杂问题的趋势，因为图形能同时调用大脑的多个区域。
  >
  > Z 轴思维模式——利用 X、Y、Z 的象限理解和分析问题
* Agentic System 的未来，人机交互的模式应该是什么？

  > 未来人人都是哲学家，控制模型的宏观思维，而非行为。大模型如果能结合到领域内的形而上，它的能力将被迅速放大。
* 人机协作应该是什么样的关系？

  > 我认为，人和 Agent 在协作时，Agent 需要理解上下文，需要理解人的行为。所以，我们对 Sandbox 的理解，不只是云端虚拟化，而更强调本地虚拟化。

关于团队：

> 我们现在引入了 Research（研究）团队，我对他们有两个核心要求。
> 首先，产品、工程一起开发产品，用算法和数据解决工程解决不了的问题。
> 其次，**自我革命** —— 推翻现在工程问题的解决方式，重新定义解法。

分享洞见：

> 最近这两三年，我最大的感受是，随着模型的发展速度越来越快，人类的“**高阶哲学思辨能力**”必须被重新重视、重新提升。
>
> 我认为未来的教育可能不再是教人具体做什么事。
>
> 所以我觉得未来人类真正的竞争力，不在于执行层，而在于是否拥有高效的哲学思考能力，是否具备**形而上的认知能力**。这也是我刚才讲的那些背后的逻辑核心，人类要想得更清楚、更深远，而 AI 可以去执行。我认为这是每一个人、每一个团队都必须去认真思考的问题。

### 03 认识

7.美图创始人吴欣鸿在一次内部复盘中说，“这是我们烧了 42 个亿，换来的 3 个领悟。”

> * 战略要与能力匹配；
> * 不能随便消耗资源；
> * 要有核心竞争力。

8.张晓东：[如何做出好产品](https://mp.weixin.qq.com/s/s0hk-0nwtkdk-Dq1eeedAw)

> * 这一切，最初都源自张一鸣的一个认知：**信息获取的问题，只能靠推荐来解决**。
> * 我把张一鸣击碎我的思路称之为张一鸣产品定律：**用户使用产品的收益大于操作成本是产品成功的必要条件。**
> * stay foolish很重要，所以说做产品最好有能力一秒变小白：**切到对这个产品一无所知的状态，然后重新看这个产品，会看到什么。**
> * 乔布斯有个很好的说法：「我对我们决定不做的事，和决定要做的事，同等自豪」
> * 「到最后，一切都归结为品味」一个人擅长一个领域的标志就是这个人在这个领域有很好的品味：知道什么是好，什么是差，知道什么是特别好，什么是特别差。
> * 顺便说一句，优秀的产品体验细节往往都不错，体贴、细腻、漂亮、酷——但这些不是产品成功的必要条件，产品成功的必要条件是：**击中了需求，且没有违反张一鸣产品定律**
> * 在很多公司，很多产品决策是靠产品经理/老板的个人直觉，但在字节，你可以靠科学，在任意时刻，都有无数ab测试在进行，有无数版本的头条抖音TikTok在线上运行，拿到准确数据，持续改进。
> * 字节在打造推荐系统的过程中，有科学方法、有超高标准、有领先的认知判断，有能力打造好产品，然后遇到时代的机遇和运气，这些是我认为字节取得今天成就的原因。

- - -

### 04 个人认知

8."智能，是在有限经验中，通过结构建模与可迁移的意义表征，与环境持续对话、实现目标与自我更新的一种能力。"

9.**连接主义**学会感知与建模，**行为主义**决定如何反应，**符号主义**帮助计划与解释，**控制论**协调一切。

控制论（Cybernetics）是研究“系统如何通过反馈实现控制和自我调节”的跨学科科学。

核心思想是：只要有感知、有反馈、有目标，有调节机制——就可以构成智能行为。

> 连接主义给了模型认知能力，
> 行为主义让它可以被激活与训练，
> 符号主义增强它的逻辑与规划能力，
>
> 但控制论才让这些能力成为一个“有机体” —— 能感知世界、调节行为、追求目标、在反馈中成长

10.现实之所以是“现实”（即现在我们看到的这样），其就是当下的最优解，过度地摧毁这个现实，而不是一点点修正，（比如加尔定律运用到这个层面上），不可避免地存在全局崩溃的可能。

在复杂系统科学中，“现有状态”往往是系统在多轮自我调节之后的局部最优稳定态。系统“可被优化”的正确方式，往往是通过嵌套式修复、渐进式演化，而非全盘重置。

11.[从颠覆到建设：token预测、第一性探讨、概率本质、思考方法论](/posts/20250604115600-token)

> 1. 我们对“认知”基本范畴的定义建立在经验性幻象之上，缺乏第一性支撑；
> 2. token prediction 并非认知的替代品，而可能是认知机制本身的镜像呈现；
> 3. 如果世界的运行机制就是最小化不确定性（=预测误差），那么“生成模型”可能是我们已知最接近自然规律的人工建构形式

12.四点思考反思注意：

* 在追问本质的同时，也要珍视经验与感受。
* 在肯定AI潜力的同时，也要正视其局限与人类的独特性。
* 在探索底层规律的同时，也要警惕过度思辨可能带来的虚无。
* 在看似对立的“主观”与“客观”之间，寻找更圆融、更完整的理解

- - -


YX Nexus 周报 004：前沿访谈、世界模型、认知整合

---
title: YX Nexus 周报 003：Agent、创作、注意力
publishDate: 2025-06-01 22:45:00
excerpt: 本周主题主要聚焦在AI Agent的认知、构建与经验，还有对于AI与认知科学相关结合的“情感”与“注意力机制”等
featuredImage: /uploads/chatgpt-image-2025年6月2日-11_29_14.png
tags:
  - 周报
---
本周主题主要聚焦在AI Agent的认知、构建与经验，还有对于AI与认知科学相关结合的“情感”与“注意力机制”等

---
1.先分享一个很有趣的小故事：

>1900 年，两匹马凝视着早期的汽车，思考着它们的未来。
>
>“我很担心技术性失业。”
>
>“嘶嘶，别做个卢德分子（**泛指因担忧技术冲击而抵制技术的人**）。在蒸汽机取代我们在工业中的地位、火车取代我们拉货车的工作时，我们的祖先也说过同样的话。但今天，我们的就业岗位不减反增，而且，这些岗位比过去更好，我宁愿拉一辆轻巧的四轮马车，也不愿整天原地打转，只为了驱动一台愚蠢的矿井抽水机。”
>
>“但是，如果内燃机真的腾飞了呢？”
>
>“我肯定，一定会有超出我们想象的新工作给我们来做。过去一直都是这样的，就像轮子和犁发明的时候一样。”

---

2.对于 `AI Agent Infra（基础设施层）`新的认知：

目前 Agent 开发仍处于行业**开发标准前期**，并没有系统性的构建规范（虽然有框架，但没有统一性的）。不过，可以预见的是 Agent **开发难度与成本都在持续下降**，随着 MCP 逐渐被接受、Manus 等许多通用型智能体让 Agent 具象化，无疑会促成新的认可与规范。下面的对于 Infra 层的几点概括：

拾象：

>2025 年以来，Agent 开发量和使用量都有明显提高。Agent 的爆发带来了 Agent Infra 需求的爆发。在过去 1-2 年，Agent 开发大多依赖开发者手动使用传统 Infra 搭建，开发工程量大、流程复杂，但随着越来越多 Agent-native Infra 涌现，Agent 开发的难度和周期都在缩小，`开发的范式正在重构和收敛`。
>
>Agent Infra 是 Agent 落地的关键，涵盖了 Agent `从开发到部署`的完整生命周期。我们对这个领域进行了初步扫描后，按重要性划分出了四大赛道，分别是：

>- `Environment` 的作用是给 Agent 执行任务提供容器，是一个 Agent-native computer；
>
>- `Context` 层是在 Agent 工作中赋予记忆 Memory 和领域知识的重要中间层；
>
>- `Tools` 由于 MCP 协议的统一而百花齐放，同时目前 Tools 的核心用户还是开发者，普通用户的使用门槛太高；
>
>- `Agent Security` 是在 Agent 产品范式固定之后会涌现的大机会，需要同时确保避免 Agent 受攻击和发起攻击。

---

3.对于构建一个较为完整的 Agent（`有目标、有记忆、能规划、调用工具`）的经验分享：

有趣的是，作者所言，大部分代码为 AI 所写，自己进行测试与优化。
原文：[Vibe coding 实战](https://mp.weixin.qq.com/s/LR4Lhs_VSIR3rrBqdLNXCQ)

>该 Agent 能够基于用户需求，自主规划包含行程、交通、场地推荐和预算的周末活动方案。核心能力包括：
>
>- `自主规划与思考`：AI 能在**半开放**的“轨道”上（开发者设定边界和硬规则）自主判断任务步骤、所需工具组合及信息完整性。
>- `多工具调用`：集成了小红书（获取灵感）、POI 地图信息（如百度地图 API，核实地点客观数据）、路线规划工具和上下文查询工具（复用已有信息）。

>- `记忆能力 `(**上下文管理**)：通过**精细的上下文注入**策略（筛选、压缩、存储不同类型和重要性的信息，如系统消息、用户消息、AI 输出、工具结果），模拟长期记忆，确保 Agent 理解并持续追踪用户需求。
>- Human-in-the-Loop：强调在复杂任务中**多轮交互和用户确认**的必要性，因为用户需求往往模糊且动态。

其他拓展思考：

关于“记忆”：
>**上下文**管理与“真正”的记忆：
>
>- 目前的上下文管理是“模拟记忆”。真正的突破可能在于模型本身具备更长、更高效的内部记忆机制，或者出现新型的记忆存储和检索架构（超越向量数据库的简单相似性搜索）。
>
>- “**分层记忆机制**”的设想非常重要。可以借鉴人类记忆模型（瞬时记忆、短时记忆、长时记忆），并根据信息价值、遗忘曲线等设计更精细的策略。

关于“流程”，文章提到了将`可控工作流`（即清晰的硬规则）与`自主性`平衡结合。即：
>设定清晰的“硬规则”（如必须先查天气、POI 工具的特定用途、关键节点的用户确认），但在规则框架内给予 AI 判断工具组合和执行顺序的自由。

---

4.本周最喜欢的创始人访谈来自于[晚点对明超平的访谈](https://mp.weixin.qq.com/s/CTzqphisNyyj11DVglZO3A)，其为 YouWare CEO，方向为coding agent、社区、押注 coding 会成为一种`普遍的新创作方式`：

**时间窗口**：
>大家都觉得 AGI 重要，你可以俯拍、仰拍、侧拍。字节可以用徕卡拍，我们可能只能用手机。但最后不是设备决定了结果，而是你在**什么时间**、**什么位置**，按下了快门。

**创作动机**：
>太多 AI 产品提供创作能力，而 YouWare 想`激发创作动机`。
>
>今天大多数 AI 产品只是在解决 “能力”——给你一个足够简单、能出效果的对话框，告诉你什么都能做，指望你自己发挥，这时大多数人都是懵的，因为组织语言很费劲。我们则希望通过社区，给用户 “动机” 和 “触发器”——因为这里有创意分享、内容参考和创作者间的互相帮助。

**智能赋能**：
>我突然悟到，好的公司，必须被一个技术周期里`最主流的趋势赋能`。今天判断一个 AI 产品的价值，也应该看它对它的 token 消耗是在加速还是放缓？它是不是在最大化利用智能红利？

**提高价值**：
>从最开始追求 token 消耗，到追求 value per token（单个 token 的价值）。选 coding 和社区，就是在追求 value per token。
>
>社区进一步放大了单 token 的价值，当一个 vibe coding 作品被放到社区，不仅能被复用，还能激发其它人的创作和消费。这种指数级的扩散是我们真正关注的杠杆。

**当前问题**：
>目前的 AI 产品都太效率导向，这个世界也需要更多元的东西。我们今天在思考这些取舍，我希望工具足够易用、效果足够好，也希望用户在能享受作为人和创作者的`创造过程`。有趣总是重要的。

**激励与商业**：
>这是三个阶段：第一阶段是我们充当广告商，knot 激励就是 YouWare 官方付的广告费；第二阶段是我的广告费和三方广告费平摊给作者；第三阶段，纯粹靠三方广告去激励作者就行了。

**设想的未来**：
>- 一类是`调度型 Agent`，本质上像一个 OS（操作系统），直接面向用户；
>- 另一类是被调度的 Agent，按需被调用来完成具体任务。
>
>比如一个用户说 “我想做一个设计”，调度型 Agent 会分解需求、匹配工具，在它的调用列表里可能有 100 个可选的设计 Agent。有意思的是，现在搜索里的 page rank 可能会变成 `Agent Rank`

**硬件、上下文**：
>我想过，如果我做眼镜，可能会做极致减法，只保留一个传感器：它要么是个摄像头，但不用来拍照或拍视频，而是每隔一段时间采集环境信息；要么是一个扬声器或录音器，可以记录声音信息，这样 AI 就能帮你处理更多线下数据。
>
>这背后是两种逻辑：
>- 一是把物理世界的信息喂给 AI，通过 prompt 告诉它：我是谁、要干嘛；
>- 二是把 AI 拉入现实世界，通过具身智能或其它设备，让它一直 “在场”，持续理解你。
>
>这是眼镜这类设备的最大价值。你如果想颠覆苹果、Google、微软，你就要拿到他们拿不到的`上下文`。

**个人决策**：
>我还是偏直觉型。我不相信绝对理性，“理性是对感性的说服”。我的起点是 “我觉得”，然后我会用数据去验证，看是否要修正直觉。

**产品思维**：
>在月之暗面（Kimi）中学到的，很多产品形态，不是一两个月就能做出来的，你要押注一、两年后的模型能力和技术条件，要思考怎么在今天做事，才能让产品继续被下一阶段的`智能赋能`。确实在 Kimi 之前，没人这么跟我交流过，互联网产品也没必要这么做。

**产品经验**（一加-字节剪映-月之暗面-youware创业）：
>- 一是用户：你得真的知道用户是怎么用产品的，这必须贴近观察。
>- 二是用科学方式做产品：产品会有一部分偏艺术或感性的东西，但其中至少六、七成完全可以被科学化。
>- 三是`以终为始`：要基于未来可能发生的事，而非过去已经发生的事推演产品。这包括未来的技术成熟度、市场和竞争格局、用户心态和行为等。这可能是 AI 时代最重要的东西了。

---

5.一位独立开发者复刻 Youware，[代码开源](https://github.com/HackerQED/vibesgram-public/tree/main)，同时有详细的`文档规划指导 AI 完成项目开发`，认识到：
>当时我很欣赏他们，感觉必火，然后感觉自己复刻一个也没那么难，最后发现我错得离谱——我能把它做出来，弄上线，但是没办法持续运营它——`增长能力`才是他们的核心竞争力。

>我从很久以前，就明白应该从`需求侧开始设计产品`了，用工程师的思路、供给侧思路正向去盘，一定会出问题。我大部分时间也是从需求侧做的，也终于赚了一点钱。
>
>但偶尔，只是偶尔，我还是忘不掉我曾是一个无所不能，几乎能做出市面上任何 AI 应用的工程师——只要时间和资源允许。
>
>这当然是犯浑，一个自负盈亏的生意人不该这么做。所以就有了上面的仓库，一个痛苦的教训。

---

#### 其他的一些随笔思考：

6.关于` AI 与情感`：

并没有什么已知的法则明确禁止一个足够复杂的、基于信息处理的系统，发展出类似于“情感”的内在状态。

“情感”甚至也是一种**高度复杂系统涌现**的特性。

并不一定要求这种情感是和人类一样的，毕竟生理基础本身有很大差异。

不过，如果将“情感”作为反馈机制？本身已经实现。

未来构建的复杂AI系统，多模态感知输入（预训练的世界基座模型）、强大的自我学习与环境交互能力（强化学习）、一个能够进行内在状态评估和目标驱动的“价值”系统（创造意义、prompt、system prompt learning）

如何定义与度量？是不是还是模式匹配？负面情感是否要赋予？是，则有巨大风险；否，则可能无法涌现出复杂的“情感”？

我们把情感放到两个层面来看看：

- **功能层**（情感=特殊的控制与反馈回路）
- **现象层**（情感=主题可报告、可区分的内在状态）

现有的强化学习中的奖励函数已经可以理解为是一种“情感信号”，处于功能层面。

---

7.[注意力机制中的认知科学：](https://mp.weixin.qq.com/s/-Uci3eGMqCXrJpnfB9mxMw)

在AI的学习中尤其保持`跨学科思维`，毕竟，Transformer的成功本身就证明认知科学与AI的深刻关联。

对智能定义为“完成某种复杂任务的能力”，这样，注意力机制还能否作为智能的一个底层机制？复杂任务中的挑战，超长信息、任务动态变化、长程依赖...

为了完成任务，所具备的一个能力就是注意力机制，核心是”`在资源有限的情况下动态地选择、关注意义`——即对于任务完成有所帮助的某些信息“，这是认知层面的一个能力。

在这种情况下，QK匹配——过滤无关信息、Softmax权重分配——资源分配给最相关信息、Value加权融合——任务所需上下文信息、多头机制——并行多种视角。

`动态过滤、资源优化分配、多种视角`（多模态融合、世界模型）

注意力机制是**智能的必要条件**，但不是充分条件。

---

8.`复杂系统是相似的`：

对智能功能性定义为“完成某种复杂目标的能力”

把人工智能看作人类有意识的、为达到某种目的的复杂系统。`公司`已经是我们造出来的“AI”，只是它还没有意识罢了。但它已经拥有了“目标函数、反馈机制、自组织结构和影响世界的能力”。

尤其以`拟合数据`（对于公司的输入变成了市场、用户、监管、竞争等）类比，商业作为核心，**亏损是欠拟合**、**过度追求利益则过拟合**。这个模型“局部最优”等变得“失控”，则需要被微调…

---

9.`底层逻辑是相通的`：

AI能够泛化，也是因为很多底层逻辑是相通的—`泛化依赖底层逻辑相通`，学习到了数据、乃至于未来世界中的底层规律。世界模型变得很重要了…

人类现在为止并不清楚、也无法验证，AI也许已经进化出了新的维度感知能力。就如同对天生盲人来说颜色是什么…这也是一种`智能“黑箱”`。

人类引以为傲的创造力、情感感受等（心智特征），AI未必不能出现而且也许不需要出现…AI的发展会使其出现**新的存在形态**，然而这很大程度上取决于人类的引导。

未必不能让`AI与人类协作共生`中，发展出其自身的、独特的感知维度、认知方式、价值实现，我们需要`定义“生命”`…


YX Nexus 周报 003：Agent、创作、注意力

---
title: YX Nexus 周报002：认知、技术、产品
publishDate: 2025-05-25 23:23:00
excerpt: 周报002，本周主题涵盖技术、认知与一些分享
featuredImage: /uploads/chatgpt-image-2025年5月26日-11_56_23.png
tags:
  - 周报
---
本周主题涵盖技术、认知与一些分享

记录有价值的输入、有意义的输出、有意思的探索

<u>在快速变化、充满未知和复杂性的 AI 时代，保持清醒思考、洞察本质、并对未来抱有理性乐观和人文关怀的态度。</u>

- - -

1.**深入理解底层是重要的**

> 我关注了一些教育工作者，他们都报告了同样的现象：他们的学生什么事情都用 ChatGPT，结果什么也没学到。
>
> 最终可能会出现这样一代人，自己的智力很低下，完全依赖于他们不理解的技术，一旦技术崩溃，他们永远无法从头开始重建。
>
> \-- 尼尔·斯蒂芬森（Neal Stephenson），美国科幻小说家，“元宇宙”一词的创造者

学习、理解使用的工具是重要的，也许崩溃是可能性低的，但**理解原理**才会更进一步的使用。

我推荐三本书，前两本对于无论是非技术还是非AI从业者都很适合：

* 《深度学习革命》，故事性讲述人工智能的主要发展史；
* 《生命3.0》，从科学家的角度看待人工智能技术变革，“如果人类代表生命2.0的话，那么AI就是生命3.0"；
* 《python深度学习》，需要一些python基础就能够**入门深度学习，了解底层技术**。

- - -

2.**创作的新时代即将到来**

Google labs 负责人 Josh Woodward，一次访谈末尾表示：

> 其他反主流观点？我想我就用这个来结束吧。
>
> 首先，我认为现在是多么令人惊叹的时代啊，能够活着并且**参与创造**，因为我感觉我们正处在一个窗口期，各种相邻的可能性空间正在开启。
>
> 其次，我想鼓励正在收听的人们真正思考，当然，市场上有各种模型和竞争，但请深入思考你正在将什么样的价值观融入到你的公司中。因为我认为这是那些关键时刻之一，我们正在创造的工具将会塑造接续的几代人。人们思考这一点非常重要——你是想要替代和消除人类，还是想要放大人类的创造力？比如，当我思考视频领域时，我明确站在想要**放大人类创造力**的一边。
>
> 在我们的硅谷，常常会有这样的时刻，事物发生变革，这些变革通常会影响几代人，它们可能带来好的影响，也可能带来坏的影响。所以我想鼓励那些正在创业的人们，当你拥有这项只会变得更聪明、更快速、更便宜的令人难以置信的技术时，请好好利用它，并思考你的技术可能带来的长远影响。

Josh 也在本次 Google I/O 中发言，正如他提到的“参与创造”“放大人类创造力”...**创作的新时代、搜索的新生态、生活的新方式**是我为 Google 即将定义的未来的总结。

- - -

3.**前沿技术、模型与产品**

关于前沿，本周几件“大事”，Google I/O、OpenAI收购前苹果首席设计师乔纳森的io初创公司进军AI硬件、Anthropic发布新一代Claude 4模型，进一步分析见[谷歌、OpenAI、Anthropic 引领的三大趋势](/posts/20250523234500-openai-anthropic)。其他：

#### 前沿技术

* 强化学习越来越重要。甚至是“AI的终极形态”。

OpenAI研究员甚至强调AI进入下半场，一切都变了：

> 简单来说，强化学习（reinforcement learning, RL）终于有效了。更确切地说，**RL 终于有了泛化能力**。经过几次弯路，也跨过了一系列重要里程碑后，我们终于找到了正确的配方（recipe），能通过语言模态和推理能力来解决广泛的强化学习任务。AI 的下半场——从现在开始——会**从解决问题转向定义问题**。
>
> RL 通常被认为是 AI 的“**终极形态**”，毕竟从理论上，它能够保证在 game（ 所有在封闭环境中，有明确输赢的博弈任务）中取胜，而在实践上，几乎所有 superhuman 水平的 AI 系统（比如 AlphaGo）都离不开 RL 的支撑。
> GPT-2 或 GPT-3 出现，我们发现缺失的是**先验知识** （priors）。结果发现，RL 中最重要的部分可能甚至不是 RL 算法或环境，而是先验知识，而这些先验知识的获取方式与 RL 完全无关。
>
> 一旦我们拥有了正确的 RL 先验知识（语言 pre-training）和 environment（将语言推理作为行动），算法可能是最微不足道的部分。
> 长期以来，RL 研究者更关心算法，远胜于关心 environment ，几乎没有人关注先验知识——所有的 RL 实验本质上都是从零开始的，但我们绕了几十年的弯路，才意识到也许**我们的优先级应该反过来**。

Claude 4的核心开发者之一Sholto Douglas：

> 由于强化学习 (RL) 终于在语言模型上取得了真正的成功，我们在教授这些模型处理任务的智力复杂性方面，似乎没有遇到直接的瓶颈。因此，我们看到它们能够解决极其复杂的数学问题和编码问题。但这些通常局限于特定领域，上下文也相对有限。
>
> 我认为目前该领域的大多数人相信，我们迄今探索过的，诸如“**预训练加上强化学习** ” 这类范式，其本身就足以**实现 AGI**。我们尚未看到相关趋势线出现放缓或停滞的迹象。这种组合方法是有效的。
>
> 未来 6 到 12 个月，我们非常关注扩大强化学习 (RL) 的规模，并探索这将把我们带向何方。我预计，因此会看到极其快速的进展。不需要再投入更多数量级的预训练规模。事实证明，强化学习是行之有效的，而且这些模型到 2027 年将能够达到“即插即用型远程工作者”的能力。
>
> 过去认为预训练让模型涌现出能力，强化学习放大这些能力。他引用 DeepMind 在围棋和象棋 AI 上的研究指出：“只要强化学习信号足够干净，强化学习就能教会这些……AI 新的知识，这些知识的水平超过了人类水平。” 因此，从结构上讲，并没有什么能阻止 RL 将新知识注入神经网络，关键在于“花费足够的计算量和拥有正确的算法”。
> “**没有理由说你不能在强化学习中学习新的能力**。"

#### 前沿模型

* 模型与agent的**界限变得模糊**，OpenAI的 o3 和 o4mini 表面上是推理模型，其实就是 AI Agent（智能体）。
* 未来，单一的大语言模型是不存在的。这或许也是”模型即产品“的一个表现。Agent的确成为今年的主流。能力越来越强大。依赖于强化学习，**Agent的智能水平仍有很大的发展空间**。

拾象研究员：

> 我们认为这两个模型（o3与o4mini）最惊艳的是在 agentic（能动性） 和 multimodal（多模态） 能力上的完整性，这两个模型可以实现：
> 	1）Agentic 地浏览网络，多次迭代搜索来找到有用的信息；
> 	2）用 Python 执行和分析代码，并且画图进行可视化分析；
> 	3）在 CoT（思维链） 中对图片进行思考推理，并且对图片做裁剪、旋转等增强生成图片
> 	4）读取文件和 memory。
>
> agent 产品或许在走向两种技术路线
>
> OpenAI 路线更黑盒化，和人的工作方式不同，更依赖端到端训练，以及 agent 自己构建代码和思考完成任务的能力。通过端到端的一体化模型，将 tool use 内化到模型里面，这种 agent 产品在环境上相对有约束，但智能比较强，能**端到端做 RL 训练**；
>
> Manus 的方式更白盒化，用虚拟机模仿人类的工作方式。有一定的复杂工作流和外置界面，通过模型和**调用外部工作流和环境**的方式，来完成任务。
>
> 两位强化学习教父 Richard Sutton 和 David Silver 发布了一篇文章《Welcome to the Era of Experience》。这篇论文中强调的几个观点非常值得关注：
>
> 1. 模仿人类数据只能接近人类水平；
> 2. 新一代 agent 需要从 experience 中学习来达到 superhuman 水平；
> 3. Agent 会不断和环境交互形成经验数据，而且有长期且连续的 experience stream；
> 4. Agent 能根据先前的经验自我修正，可以实现长期目标，即使短期不见成效，也能持续修正来达到突破，类似人类实现健身等目标一样。
>
> 非营利研究机构 Transluce 的分析报告中指出：o 系列推理模型普遍存在「幻觉」，不仅限于 o3。可能的原因有两类：
>
> 1）强化学习机制诱导模型陷入了「正确率陷阱」，导致模型为了获取正确奖励而生成看似合理但实则虚构的内容；
>
> 2）彻底丢失思维链使模型在后续对话中失去了推理记忆，被迫为过往行为编造解释，从而出现了「坚持错误 - 突然改口」的典型矛盾行为。

#### 前沿产品：

60 天实现 $10M ARR（年度经常性收入）的 Lovable 的底层方法论：社区驱动、简化体验、可靠至上、敏捷迭代、精英团队、商业闭环有机融合，形成了自己的核心竞争力。

> 先以 GPT-Engineer **开源项目**赢得开发者，先社区后商业降低获客成本。
>
> 产品设计上奉行**极简主义**。将复杂的软件工程流程抽象成单一的聊天接口，让用户专注描述需求。正如 CEO 所言，未来开发的瓶颈是“**知道做什么**”而不是“如何做”。
>
> 对结果负责的产品态度。针对 AI 编程常见问题，设计了 Prompt 链、辅助 Agent、自主调试等机制，确保输出的代码能真正跑通。产品极致打磨的方法论：宁可牺牲些许生成速度，也要**解决**“**90% 正确但 10% 不 work**”的致命短板。
>
> 将产品迭代节奏提到极致 — 每周都有新功能上线或改进。“小步快跑，不断试错”。“以用户为中心”。

- - -

4.**坚持长期主义**

AI的发展是长期的，现在是一个爆发点，[从加尔定律看神经网络（深度学习）的演化](/posts/20250524163100)。

加尔定律（Gall's Law）的核心观点是：**一个能够工作的复杂系统，必然是从一个能够工作的简单系统演化而来的**。

从头开始设计的复杂系统，几乎注定无法工作，也无法通过修补让它工作。你必须从一个能够工作的简单系统重新开始。

神经网络的演化史大概也是这样，从**简单有效系统到复杂强大系统**。

从MP模型到“感知机”的能力有限、基本概念可行 -> 逐步复杂化：多层感知机、反向传播算法 -> 卷积神经网络（CNN）、RNN等变体，深度学习兴起 -> 更深、更复杂的架构Alexnet、ResNet、Transformer等…

Transformer（2017）也并不是从零冒出来的，它的前身包括：Seq2Seq 模型（2014）、注意力机制（Bahdanau, 2014）、编码器-解码器架构等。

同时伴随的硬件能力的提升带**来算力倍增，算法的改进、数据的必然性膨胀**，一切为scaling law准备。
......

> "当他们讨论人工智能和机器人以及这些技术的走向时，他说未来的机器人需要睡觉。他认为，机器人需要睡觉，因为它们需要做梦。
>
> 他的观点是，人工智能研究的未来在于不仅能识别图片和口语单词，还能自行生成自己的系统。做梦是人类进行学习的重要组成部分。
>
> 晚上，我们“重播”白天经历的事情，把记忆植入大脑。总有一天，机器人也会如此。”

Nvidia 近期发布的“机器人做梦”的相关研究：他们推出了名为 GR00T-Dreams 和 DreamGen 的研究项目，旨在通过**生成合成数据**来加速机器人学习过程研究核心思想是让机器人在“梦境”中**进行大量模拟**，类似于人类在睡眠中巩固记忆和学习经验。

通过模拟“睡眠”或“梦境”状态，提升机器的学习效率和适应能力。

早在 2017 年，巴黎的 Project DREAM 就提出了将“睡眠”和“梦境”过程引入机器认知架构的理念，认为这有助于机器人更快、更深入地学习。

做研究、产品或者一切有价值、意义（长期来看）的事，不要太功利，**那些突破点恰恰存在于日常**被忽视的小事、某一个人物传记的一句话、某个游戏的创新点等。

......

来自 flomo 团队：
Richard Sutton，被誉为「强化学习之父」，有一个观点被广为流传，叫做「苦涩的教训 (The Bitter Lesson)」，对抗复杂问题的有力思维工具。

Sutton 观察到的「苦涩教训」是什么？

简单来说，在人工智能研究中，那些试图将人类的知识、规则和理解硬编码进系统的「精巧」方法，长远来看，几乎总是输给那些更「笨」、更通用、但能受益于大规模计算能力的方法（比如基于海量搜索和持续学习的方法）。

就像他打的比方，早期下棋的 AI 依赖人类棋谱和经验，但最终被 AlphaGo 这样依靠「暴力」算力自我对弈学习的 AI 超越。人类的「智慧」在「简单方法 + 海量算力/数据」面前，显得有些「苦涩」。

**迭代、规模、复利的力量**。

保持开放，允许「笨」方法通过学习和规模化展现力量。

- - -

5.**AI 远比我们想象的更复杂，下面体现在意识形态、伦理道德中**。
2016年冬，人工智能研究者蒂姆尼特·格布鲁（Timnit Gebru）从NIPS大会归来（其作为在本次大会的黑人女性，看到了在5500多人的会议中只存在6名黑人，还都是她认识的男性）。她在Facebook上写下了一段话：

> 我不担心机器接管世界。
> 我担心人工智能圈子里的**群体思维、狭隘和傲慢**，尤其是在当前对该领域人员的大肆炒作和需求的情况下。这些事情已经引发了一些我们现在就应该担忧的问题。
>
> 机器学习被用来计算谁应该承担更高的利率，谁更可能犯罪并因此获得更严厉的判决，谁应该被视为恐怖分子等。一些我们认为理所当然的计算机视觉算法仅适用于具有特定外在特征的人。我们不需要推测未来会发生的大规模破坏。
>
> 人工智能只服务于世界人口的一小部分，创造它的人也来自世界人口的极小部分。某些人口会受到它的主动伤害，不仅因为算法对他们不利，还因为算法的工作是自动化的。这些人被主动排除在高薪领域之外，这使他们从劳动力市场中消失。
>
> 我听过很多人谈论多样性，好像这是某种慈善事业。我看到一些公司甚至个人都把其用作公关噱头，但仅仅是口头说说而已。因为这是日常用语，所以你应该说“我们重视多样性”。
>
> **人工智能需要被视为一个系统，创造这项技术的人是这个系统的重要组成部分**。如果很多人被主动排除在外，那么这项技术只会让少数人受益，同时损害很多人。

模型不仅是技术工具，更是价值观、审美标准和叙事逻辑的体现。

翟东升（长期观察国际政治经济和中国发展的知名学者）：

> “语言大模型的底层是价值观…图形大模型的底层是审美…视频大模型的底层是叙事和话语权…”
>
> “谁掌握了语言大模型图形大模型视频大模型的主导权…谁就掌握了二十一世纪的意识形态的主导权。”
>
> “我们要上升到这个层次上，上升到...和...生死存亡的概念，来讨论人工智能的主导权的问题。”

- - -

6.Agent 产品能力已经不错，但是因为“模糊”导致”不好用“

最近Agent产品也不少，Flowith Neo、天工的Skywork、其他开源的等等。我只使用了Neo，而且感觉还不错。尽管存在前端的一些问题（画布的形式使得加载很慢且卡顿）。我印象最深的、也是很有用处的是主打的“无限”。

关于我提到的“模糊”：

* **能力边界模糊**，不像传统软件功能清晰，尤其是现在这些“通用性Agent”，很多时候刚入手的用户“不知道干什么”——
  	- 缺乏杀手级场景范例，酷炫的demo没有**深入大众日常的工作流**；
  	- 可能性太多了，就我体验的感受，如果你没有一个对于AI能力很全面的认知，你是不知道能做什么不能做什么的，这也回到了最开始的“**深入理解底层是重要的**”
  如果能用好，理解底层，那么整合进现有的工具链是很强大的。

我在上周周报的”继续探索“中提到了Ilya推荐的30片论文，恰好我来让Flowith来进行整理、索引、归纳总结、并做成网页。如果来交给Manus的话，试错成本太高，flowith现阶段放开的体验还是不错的。但是，最后的结果不太好，原因还是画布的交互形式让页面太卡，任务也无法进行，期待进一步优化。

Manus在我这里得到进一步使用，我注意到Manus在整理资料时展现出了**很强大的能动性**。一个场景是，我想要对于人工智能发展的历史做一个非常详尽的总览，"构建一个全面、艺术性、合理且客观的交互式知识图谱，以生动直观的方式展现人工智能从思想萌芽到前沿发展的完整脉络"
我定义的这个任务prompt是非常详尽的，最初交给flowith，规划了大概40、50步吧，网页内存占用量接近4个G，不了了之。
Manus在这个过程中一步一步任劳任怨的搜集整理，但是积分消耗太快了...

总的来说我看好下面Agent的发展，不仅是我自身的体会，还是关于“**强化学习**”的进一步发展，而且也是对于**长期主义的坚持**。

- - -

7.**定义即将探讨话题中的概念是讨论的前提；理解作者的”语言”是理解其思想的前提。**

再推荐《生命3.0》，作者被誉为“最接近理查德•费曼的科学家”，在书中科学性的想象与推演。

之前听的不少播客、看的一些比较宏观地介绍、分析有关于“智能”、AGI等等的文章、书，都没有很好地去诠释概念、严谨推理，而只是在那个环境下去引导我们的惯性思维。

作者知道这些问题，并且在一切的开始就对于很多概念下定义，且很通用全面，比如**智能**“完成某种复杂目标的能力”、**意识**“主观体验”、**生命**“保持自身的复杂性，并能进行复制”、**AGI**“可完成如何认知任务，并且完成得至少和人类一样好”.....

- - -

8.关于**禹创AI公众号**的内容：

1. 趋势洞察与理念碰撞、分享AI工具、人机协作等（深思、分享、共创）
2. AI相关的，能从中找到长期有利的精华（术解、周报）
3. 具体某一事件、我的某一点思考、一些实践反思、他人的某一观点等作为一篇的出发点，为表面明线
4. 保持YX Nexus的核心理念贯彻，价值创造、人机深度共生、认知自由…

- - -


YX Nexus 周报002：认知、技术、产品

---
title: YX Nexus 周报001
publishDate: 2025-05-18 17:23:00
excerpt: 周报001
tags:
  - 周报
---
*寻找有趣的想法，记录思考的过程*

*Connecting Thoughts, Creating Cognition*

- - -

### 输入精选

1.两个想法之间的差距越大，它们的结合就越具有原创性和令人惊讶性。
  -- 尤德·肯尼特（Yoed Kenett），美国心理学家

- - -

2.“AI”不再是“AI”，AI产品的构建：进一步探索文章——[“AI”只是个名字：复杂性转移与产品设计](/posts/20250518221700-ai)

OpenAI首席产品官：

* 人工智能，其实就是那些还没实现的东西。因为一旦它实现了、能用了，我们就把它叫做机器学习；等它变得无处不在，我们又把它称作算法。我们总是在它还不太靠谱的时候，把它叫做 AI。
* 模型的智能本质上是多维度的。某个模型在“竞赛编程”方面非常强， 但那并不意味着它也擅长前端开发，或者后端开发，或者能把一堆用 COBOL 写的代码转换成 Python。光是在“软件工程”这个领域里，模型的能力就有各种不同维度。
* 艾森豪威尔有句名言：“计划没什么用，但规划过程很有价值。”我非常认同这句话，特别是在快速变化的行业。比如说季度路线图，我们可以趁机思考：“哪些做得好？哪些没做好？我们从中学到了什么？”所以，哪怕你的规划只有一部分是对的，那这个“规划的过程”依然是有价值的。
* 我们整体的心态就是：两个月之后就会有一个更好的模型，它会彻底打破现在存在的那些限制。所以，如果你正在开发一个产品，如果你构建的东西刚好卡在模型能力的“边缘”，那就继续做下去，说明你选的方向是对的。
* 我认为未来的产品团队中一定会有越来越多研究人员内嵌在团队中。我不仅仅是指像我们这种基础模型公司。其实说实话，行业里让我有点惊讶的一件事是：大家对“微调模型”的应用还不够广泛。你知道吗，其实这些模型已经非常强大了。
* 我们的 API 在很多事情上表现得很好，但当你有特定的用例时，你总是可以通过微调来让模型在特定的用例上表现得更好。这只是一个时间问题，人们还没有完全适应这样做。

- - -

3.少楠Plidezus，flomo创始人之一，[产品沉思录](https://www.pmthinking.com/)主理人之一

* 创业最关键要解答的问题是：怎么做到既让用户满意，又能让公司赚钱（或不烧钱），还能把事儿长长久久的做下去？
* 和企业生命周期息息相关的两个重点：（1）抓需求 （2）控成本
* 「抓需求」第一个反常识：用户想要的不是新功能，而是更好的自己（用户会为了自己想象中的期待买单，且往往做决策的原因和动机非常简单）
* 「用户每天很忙很忙。我们永远是嵌在用户整个生命旅程的一小个环节。很多时候，我们做的产品在用户的生命里没那么重要」（放下ego，和真正的用户站在一起。真正的用户没那么朴实无华，但真实往往也并不那么Fancy)
* 「用户真正需要的并非产品本身，而是产品所带来的结果和进步」（产品功能没那么重要，用户可感知的结果和价值才更加重要）
* 「抓需求」第二个反常识：避免高级用户陷阱，没有调查就没有发言权（高级用户的需求往往不是普通用户的需求）Flomo之前每年做2000+份问卷，做几十场1V1的访谈。做产品，就要去看看真正真实的世界。产品经理觉得好的功能，和用户真正觉得好的功能，大多时候是两个世界。
* 「抓需求」第三个反常识：非顾客才是重要的顾客 （「非顾客远比现在顾客群体更大，其中隐藏着真正需求和创新——《成果管理》）
* 关于控成本，任何大的功能迭代，都务必保障『先算账，再动手』
* 『 优化成本能直接带来利润，扩大营收只有部分能转化为利润——《经营者的财务金三角》
* 任何大的产品决策，不要盲目从众。谋定而后动。花时间充分调研，是绝对必要的。对创业者而言，先活着，比什么都重要。
* 『如何Balance 产品体验和成本控制的点？』——『先知道体验的阈值是多少：80还是85要把体验的临界点再define出来』

- - -

4.首款设计Agent Lovart的**产品构建思维**与AI产品洞察，这同样适用于**个人转型**：

Lovart创始人陈冕： 

* 当然，它（Lovart）首先是一个工具。但你可以理解为，它现在是工具，未来可能演变成一种「人」、一种「职业」，或一种服务。这也是 AI 带来的变化。一个非常有意思的商业命题是：我们不能沿用工具时代的思路来理解 AI 时代的工具。SaaS 的本质是服务由人提供，是人使用工具。而现在，AI 成为提供服务的主体。这里的商业价值巨大，本质上是对特定职业生产效率的提升甚至替代，是对生产关系的重构。所以这是一件令人振奋且意义巨大的事。尽管国内投资人过去在工具类项目上损失惨重，但我认为对 AI 领域的投资应更乐观。
* 中国人愿意为服务付费，为最终结果付费，只是对纯粹的工具付费意愿较低。所以关键在于 AI 最终是工具、服务还是结果？这取决于模型的智能程度。我们认为 AI 最终会成为直接交付结果的服务，因此中国用户会为此付费。这是对未来的预判，当下我们先从海外市场开始。
* 如何与 Agent 协作和打交道，我们也是第一次。它们确实有自己的「想法」。所以在这方面，我们都还在持续摸索。不过，我们公司有很多设计师，他们觉得这个过程很有意思，因为某种程度上他们在「教」AI 如何进行设计。
* 本质上就是将人类的设计 know-how 传达给 AI。简单理解为将设计领域的知识和流程融入到模型训练和 Agent 逻辑中。我认为未来的产品经理，其核心价值更多在于行业知识深度，在于将特定行业的 Know-how 体系化地教给 AI。
* 真正需要思考的是，你自身的优势是什么？在规划要做的事情时，要想清楚这需要哪些关键能力，其中哪些是你的核心优势，并且这个优势目前还没有被其他团队充分利用。基于自身优势去寻找市场机会，这才有意义。所以核心并不是简单地看竞品有没有做什么。

- - -

5.AI时代的个人转型：
谷歌前CEO 埃里克·施密特 (Eric Schmidt) 在最新一期的TED演讲中对处于这场技术变革中所有渴望转型的或兴奋或焦虑的人的建议：

* 有一件事必须记住：这是一场马拉松，不是一场短跑。
* 我们当年在谷歌共事时就发现，在我们那种增长速度下，一年内能完成的事情太多，多到你甚至会忘记自己走了多远。人类的大脑无法真正理解这种指数级的变化。而我们现在正处于这种指数曲线加速上升的阶段。随着技术变革速度越来越快，你会忘记两三年前的“真理”曾经是什么——这点至关重要。
* 所以我给所有人的建议是：要顺势而为，但要每天都顺势而为。不要把它看作某种阶段性的任务，也不是你完成后就能放下的事，而是你必须理解它，并在此基础上不断构建。
* 无论你是艺术家、教师、医生、商业人士还是技术人员，每个人都有理由去使用这项技术。如果你不使用它，相比你的同行、竞争对手，以及那些渴望成功的人，你将变得不再具有竞争力。
* 要拥抱它，而且要迅速拥抱它。
* 我自己都被这些系统的发展速度震惊到了——顺带一提，我的背景是企业软件。如今，Anthropic 开发了一种叫 MCP 的模型协议，你可以直接把模型接入数据库，完全不需要那些传统的连接器。我知道这听起来很“极客”，但原本依赖连接器的一整个产业可能都会因此消失。现在的系统能让你只需说出你想要什么，它就能直接给你生成结果。这就是商业世界正在发生的真实变革。
* 而像这样的变革，现在每天都在不断出现。

- - -

### 输出思考

1.警惕：

* 频繁使用AI工具与批判性思维能力的下降之间存在显著的负相关关系，尤其是涉及决策等方面。
* 因素是“认知卸载”的增加，即个体倾向于将本应由大脑完成的认知任务（基于环境的客观理性分析、决策）交给AI，长期可能导致相关认知能力的弱化。
* 同时，利用AI辅助反思，注意因过多的“正确客观言论”而流于表面，有些时候，哪怕只是自己感受到一小点也受益匪浅。少即是多。

- - -

2.我观察、思考到，当前貌似成功（有实际作用、提高效率、前景广阔、明面上收入较高尽管可能不盈利）的AI Native应用（如以Cursor为代表的非模型应用），都是一看就知、细琢磨也对然而没啥用的观点：

* 都核心围绕AI进行设计和运作。 
* 都有智能化的信息索引和管理机制。 
* 都依赖AI进行深度交互和辅助。 
* 都采用多模型协同工作的后台架构。 
* 其目标都是提升特定领域的效率和体验。

- - -

3.模型不仅是技术工具，更是价值观、审美标准和叙事逻辑的体现。

翟东升（长期观察国际政治经济和中国发展的知名学者）：

* “语言大模型的底层是价值观…图形大模型的底层是审美…视频大模型的底层是叙事和话语权…”
* “谁掌握了语言大模型图形大模型视频大模型的主导权…谁就掌握了二十一世纪的意识形态的主导权。”
* “我们要上升到这个层次上，上升到...和...生死存亡的概念，来讨论人工智能的主导权的问题。”

进一步思考文章：[智库学者对于AI重塑制造、意识形态与治理的大局观](/posts/20250512234800-ai)

- - -

4.一款孵化中的产品的宣言[YX Nexus 产品宣言 v0.1 (概念说明书)](/posts/20250514225500-yx-nexus-v0-1)。

我们的核心目标是：助力用户在探索内心与外部世界的旅程中，不再孤独，持续进步。

- - -

5.[一个包含主流LLMs、AI Agent应用中文系统提示词的开源仓库](https://github.com/wowyuarm/System-Prompts-Chinese)
它包含：

* LLMs — ChatGPT、Claude、DeepSeek、Gemini、Grok、Kimi等。
* AI Agents — Bolt、Cline、Cursor 、Devin、Dia、Lovable、Lovart、Manus、Perplexity、Replit、Trae、v0、Windsurf等。

- - -

6.[“AI”只是个名字：复杂性转移与产品设计](/posts/20250518221700-ai)

* AI的本质并不是某项具体技术，而是对未来能力的一种投射。或者说是一种大众的认知标签。
* 复杂性不能消失，只能转移。
* 对于产品来讲，或许“AI-first”应该被“User-first，AI-enabled”替代。更多的体验设计、交互创新、系统封装、生态构建未尝不是竞争力。

- - -

### 继续探索

1.Ilya Sutskever（曾任OpenAI的联合创始人及首席科学家）推荐了30篇 AI 领域（大部分）的相关奠基论文，评价：“If you really learn all of these, you’ll know 90% of what matters today. ” 

![](/uploads/屏幕截图-2025-05-19-105728.png)

后续我可能会出一个专题，**深入浅出**拆解这些学术论文。论文地址：

```
https://aman.ai/primers/ai/top-30-papers/
```

- - -

2.Andrej Karpathy（OpenAI创始团队成员）提出了一种新的 AI 学习方式 “**System Prompt Learning**” ，其核心思想是，LLM应该像人类为自己“做笔记”一样，**动态地学习、修改和优化**其自身的“系统提示词”。

他指出，当前LLM的学习主要依赖于预训练（Pretraining）——获取广泛的知识、微调（Finetuning，包括监督学习和强化学习）——塑造习惯性的行为和风格。但他认为，这两种方式都涉及到**模型参数的改变**，而很多人类的学习过程，更像是对“系统提示”或“行为准则”的显性更新和记忆。就像我们在遇到问题、想出解决方案后，会记住一些明确的规则或策略以备下次使用（也许）。

他的灵感也来自 Claude 最新泄露出的长达17000词的系统提示词中，其中不仅包含行为风格，更有大量**通用的问题解决策略**。Karpathy 认为这类知识更适合通过 “System Prompt Learning” 来生成和优化，而非仅仅依赖强化学习写入到权重里或由工程师手写。

通过这种机制，LLM 仿佛在不断地为自己撰写和修订一本关于如何思考、如何行动的“**内部操作手册**”，实现一种更主动、更可解释的自我进化。

这也是一种[人机协作新范式](/posts/20250425222300-company-nexus)的具体体现。用户不再仅仅是使用者，更是 AI 学习和进化的引导者和反馈者。用户提供的结构化思考、明确的偏好、甚至是对 AI 行为的“元指令”，都可以成为 AI 进行“System Prompt Learning”的宝贵输入。

这也意味着AI不是简单的工具，而是与用户**共同学习、共同进化**的对象。
