人工智能（AI）的浪潮正以惊人的速度席卷全球，软件行业无疑首当其冲。 作为一名资深的科技观察者，我亲眼见证了AI如何从一个遥远的概念逐渐渗透到我们日常的软件开发工作中。从最初的自动化代码生成到现在的AI辅助设计和测试，AI技术正在深刻地改变着软件开发的方方面面。 在Y Combinator举办的AI Startup School上，前特斯拉AI总监Andrej Karpathy发表了关于“AI时代的软件”的主题演讲。他以其独到的见解和幽默的语言，剖析了AI对软件行业带来的机遇与挑战。Karpathy的演讲不仅为我们描绘了未来软件工程师的角色蓝图，也为我们指明了在AI时代如何保持竞争力的方向。本文将结合Karpathy的观点，深入探讨AI时代软件工程师面临的机遇与挑战，以及如何通过掌握LLM（大型语言模型）等AI技术来保持竞争力并实现职业发展。 未来属于那些能够与AI协同工作的工程师。掌握AI，拥抱变革，才能在AI时代立于不败之地。
AI时代软件开发的关键要点
软件正在经历根本性变革：AI的崛起正在重塑软件的定义和开发模式。
LLM是新一代操作系统：大型语言模型正在成为新的软件平台，程序员需要掌握与LLM交互的方式。
部分自主应用将成为主流：未来的软件将更多地实现人机协同，AI负责生成，人类负责验证。
人人皆可编程：自然语言编程的兴起降低了编程门槛，使更多人能够参与软件开发。
构建面向Agent的软件：未来的软件需要能够与AI智能体进行高效交互。
保持警惕，让人类始终掌控AI：在拥抱AI的同时，必须确保人类能够有效地控制和监督AI的行为。
软件的进化：从1.0到3.0
软件1.0：代码的时代
在计算机发展的早期，软件的本质是代码。程序员通过编写指令来告诉计算机如何执行特定的任务。这种模式可以被称为软件1.0。在那个时代，软件开发的核心技能是掌握各种编程语言和算法，以及如何将复杂的逻辑转化为计算机可以理解的指令。程序员需要精确地控制每一个细节，确保程序的正确性和效率。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
这种模式在过去的几十年里一直是软件开发的主流。
软件2.0：权重的时代
随着机器学习的兴起，一种新的软件开发模式开始出现，这就是软件2.0。
在这种模式下，软件的本质不再是显式编写的代码，而是神经网络的权重。程序员不再需要手动编写每一行代码，而是通过训练神经网络来让其学习完成特定任务。这种模式特别适用于那些难以用传统方法解决的问题，例如图像识别、语音识别等。软件2.0时代，数据成为关键，数据工程师和机器学习工程师成为炙手可热的人才。
软件3.0：提示词的时代
随着大型语言模型（LLM）的出现，软件开发进入了一个全新的时代——软件3.0。
在这个时代，程序员不再需要直接编写代码或训练神经网络，而是通过编写提示词来引导LLM完成任务。提示词是一种自然语言描述，它可以告诉LLM要做什么，以及如何做。这种模式极大地降低了编程的门槛，使得更多的人能够参与到软件开发中来。
软件3.0时代，程序员的角色正在发生转变。他们不再是代码的生产者，而是提示词的编织者。他们需要具备良好的问题分解能力、沟通能力和创造力，以便能够编写出有效的提示词，引导LLM完成各种复杂的任务。同时，对垂直行业知识的理解也变得至关重要，只有理解业务才能指导AI更好地解决实际问题。这一转变也意味着人人都可以参与到软件开发之中。
软件版本对比：
| 软件版本 | 代码 | 特点 | 主要技术 |
|---|---|---|---|
| 软件 1.0 | 详细指令型代码 | 程序员编写指令代码，精确控制计算机行为。 | 编程语言， 算法 |
| 软件 2.0 | 神经网络权重 | 通过训练模型，让机器自动学习完成任务。 | 机器学习， 神经网络 |
| 软件 3.0 | 自然语言提示词 | 程序员通过自然语言描述任务，引导AI完成任务。 | 大型语言模型，自然语言处理 |
LLM是新的操作系统：重塑软件的未来
LLM：AI时代的操作系统核心
Karpathy将LLM比作新的操作系统。
就像传统的操作系统管理计算机的硬件和软件资源一样，LLM正在成为AI时代软件的核心平台。它们不仅能够处理各种复杂的任务，还能够通过API（应用程序编程接口）向开发者提供各种服务。这种模式使得开发者可以更加专注于应用层的创新，而无需关心底层的技术细节。
传统的软件开发模式中，开发者需要编写大量的代码来实现各种功能。而在LLM时代，开发者只需要编写简单的提示词，就可以利用LLM强大的能力来完成各种复杂的任务。这极大地提高了开发效率，降低了开发成本。
LLM作为操作系统的核心功能：
- 算力中心：类似于CPU，负责处理复杂的计算任务。
- 记忆中枢：类似于RAM，存储上下文信息，支持对话和长期记忆。
- 连接一切：类似于网络接口，连接各种外部设备和服务。
- 软件工具生态：类似于Python解释器，计算器，终端等经典软件。
LLM赋能的UI/UX设计：如何构建更好的人机交互体验
UI/UX的新范式：可审计、可控、易于理解
在AI时代，人机交互界面（UI）和用户体验（UX）的设计也面临着新的挑战。
传统的UI/UX设计主要关注如何让用户更加方便快捷地使用软件。而在LLM时代，UI/UX设计还需要考虑如何让用户更好地理解和信任AI的行为。
具体来说，AI系统做出决策的过程往往是黑盒的，用户很难理解其背后的逻辑。因此，UI/UX设计需要提供一种机制，让用户能够审计AI的行为，了解AI是如何做出决策的。同时，UI/UX设计还需要让用户能够控制AI的行为，例如调整AI的参数、干预AI的决策过程等。此外，UI/UX设计还需要让AI的行为易于理解，避免用户产生困惑或误解。
为了实现这些目标，未来的UI/UX设计可能需要采用以下一些新的技术和方法：
- 可视化解释：将AI的决策过程以可视化的方式呈现给用户，例如使用图表、流程图等。
- 可解释模型：使用可解释性更强的机器学习模型，例如决策树、线性模型等。
- 用户反馈机制：建立完善的用户反馈机制，让用户能够对AI的行为进行评价和纠正。
- 人机协同界面：设计更加智能化的人机协同界面，让用户和AI能够更加高效地合作完成任务。
简而言之，未来的UI/UX设计需要让用户能够更好地理解、信任和控制AI，从而实现人机之间的和谐共处。
LLM价格成本
LLM的高额训练和推理成本
LLM 具有如水电设施一样的特性，需要长期的维护以及保证稳定性。
LLM的训练和推理需要大量的计算资源，这导致了高昂的成本。例如，训练一个大型的LLM可能需要数百万美元的费用，而每次使用LLM进行推理也需要支付一定的费用。这使得LLM的应用受到一定的限制，只有那些能够承担高额成本的企业或机构才能够使用LLM。
降低LLM的成本是当前研究的一个重要方向。一方面，研究人员正在努力提高LLM的效率，减少其对计算资源的需求。另一方面，一些企业正在尝试构建自己的LLM基础设施，以降低使用LLM的成本。 Karpathy以电网为类比，阐述了LLM在成本上的独特属性：
- CAPEX（资本支出）：训练LLM相当于建立电网，需要大量的资金投入。
- OPEX（运营支出）：使用LLM提供服务相当于电网的运营，需要持续的成本投入。
- 按需付费：类似于电费，用户需要根据使用量支付LLM的使用费用。
AI时代软件工程师的常见问题
AI时代，软件工程师会被取代吗？
AI 时代的到来，软件工程师并不会被完全取代，相反，软件工程师的角色会发生转变。
