A软件范式革命：从代码、权重到自然语言

今晚花了一小时时间观看Andrej Karpathy: Software Is Changing (Again)，我觉得非常值得看。为了方便你判断，我把我的笔记贴出来供你参考。

笔记

Andrej Karpathy的演讲深入剖析了软件从传统代码（Software 1.0 = Code）到神经网络权重（Software 2.0 = Weights），再到自然语言编程的大语言模型（Software 3.0 = Prompt）的演进。他将LLMs类比为1960年代的操作系统，具备公用事业、晶圆厂和操作系统的多重属性。

尽管LLMs拥有百科全书般的知识，但存在幻觉、智能不平衡和无法原生学习新知识等认知缺陷。因此，开发LLM应用需强调人机协作，通过GUI加速验证，并以“自洽”提示词限制AI自主性。

Karpathy还提出了“Vibe Coding”概念，预示着自然语言编程将使人人成为开发者，但底层数字基础设施需为AI Agent优化，未来十年将是Agent时代，产品应具备“自主性滑块”，在增强人类能力和实现部分自主性之间取得平衡。

Hey，注意到了吗，software 3.0底下的配图是著名论文《Attention is all you need》。

论文简述：Transformer模型是序列转导领域的革新，它完全摒弃了循环和卷积结构，仅依赖注意力机制。该模型在机器翻译和句法分析任务中均实现了最先进的性能，其并行化能力显著提高了训练效率。

Andrej特别强调 —— Prompt ==》 英语。

我也特别希望看到中国的LLMs的崛起，让中文也成为最好的Software 3.0编程语言。

Andrej Karpathy认为，操作系统 LLM is OS，这是看待模型的一种视角。

还有一个关键词：working memory。

实际上就是：上下文的管理。

关于 Vibe Coding

2025年Vibe Coding爆火，Vibe Coding的重点不在Coding本身，而在Devops, clicking stuff上。

robot.txt vs llms.txt

• •robots.txt: 告诉爬虫how to behave on your website的指令或建议。
• •llms.txt: 告诉LLMs这个域名是关于什么的markdown。或许这个对于SEO和GEO从业者有启发。

Inspired by Andrej

1. 2025-2035是属于人工智能的10年。

2. HI、AI循环非常快，如何交互可以把握好？

3. 语言即一切 。

4. LLMs可读性的关键词：actions for LLMs

Andrej推荐电影

• •《rainman》 https://en.wikipedia.org/wiki/Rain_Man
• •《Momehto》https://en.wikipedia.org/wiki/Memento_(film)
• •《51st dates》https://en.wikipedia.org/wiki/51st_Dates

Andrej推荐文章

《AI-assisted coding for teams that can't get away with vibes》

精要：AI 辅助编码并非“靠感觉”，而是严肃工程团队提升效率、打造精品的核心策略。其效能倍增的关键在于工程师自身的卓越技能与精准沟通。高质量的软件工程，在于构建和维护精良的心智模型，而非单纯编写代码；AI 在其中扮演加速器，尤其在良好测试覆盖、自动化流程、清晰文档的代码库中表现更佳。

策略上，应优先采用顶尖 AI 模型，并精通上下文的提供，利用“元提示”分解问题、规范生成。在实际操作中，AI 可辅助新功能开发、重构、调试、知识学习、文档生成、消除微摩擦点、代码审查及性能优化。AI 的广泛应用也正重塑软件开发理念，例如减少过度抽象，降低重做成本，利用生成-验证差距，并使测试成为不可或缺的环节。

未来，AI 在自主代理、数据分析及安全等领域的深化应用，将进一步推动团队协作与工具采用模式的演进。

视频源

结语

你有什么必看的Youtube视频和大家分享吗？贴出来~~大家一起萃取智慧，共同把握这个时代的浪潮。我主要研究结合知识管理的AI时代人机协作和AI落地应用，感兴趣的可以订阅我的博客。