我是 Java 后端出身,做了两年多政企平台的前后端开发。今年决定往 AI Agent 方向转,开始学习系统性的 AI Agent 课程。
这是这个系列的第一篇。我打算把学到的东西都写下来——不是为了记笔记,而是因为写出来才知道哪里其实没懂。
第一次是入门,两个主题:AI 行业全景,以及机器学习到底是什么。
一、先搞清楚三个词的关系
入门第一个坑就是 AI、ML、DL 这三个词混着用。课上讲的关系很清楚:
AI(人工智能)
└─ ML(机器学习)—— AI 的主流实现方式
└─ DL(深度学习)—— ML 的子集
- AI 是最宽的概念:让机器表现出智能行为的技术统称。专家系统、搜索算法都算 AI
- ML 是从数据中自动学习规律,不用人工写死每条规则
- DL 是 ML 里靠多层神经网络的那一支,CNN、Transformer、GPT 都在这里
为什么现在是深度学习最火?算力、数据、算法三者齐备了——这三样缺一不可,缺了任何一个都会重演历史上的寒冬。
二、两次寒冬的教训
AI 的 70 年不是一路向上的,中间摔过两次:
| 时期 | 发生了什么 | 教训 |
|---|---|---|
| 一次寒冬(70s) | 算力和数据都跟不上,却承诺过头 | 不要画超出技术能力的饼 |
| 二次寒冬(90s) | 专家系统靠硬编码规则,维护成本爆炸 | 数据驱动才是正道 |
分水岭是 2012 年的 AlexNet——ImageNet 错误率从传统方法的 26.2% 降到 15.3%,深度学习第一次被证明真正有效。
之后的节奏就快了:BERT(2018) → GPT-3(2020,1750 亿参数) → ChatGPT(2022) → Claude/Gemini(2023,多模态) → DeepSeek(2025,国产开源崛起)。
趋势很明确:参数越来越大 → 能力越来越强 → 成本越来越低。
三、机器学习到底在做什么
这是我觉得第一周最核心的一张对比:
传统编程: 数据 + 规则(人工写) → 结果
机器学习: 数据 + 答案(标注) → 规则/模型
传统编程的问题是规则永远写不完。判断垃圾邮件,你能写多少条 if-else?
机器学习反过来:给它足够多的「这封是垃圾/这封不是」,让它自己找出规律。
本质上,ML 就是用数据训练出一个函数。 输入特征 → 模型 → 输出预测,训练就是不断调参数让预测更准。
有监督学习的类比
课上用了个我觉得很准的比喻:有监督学习就像老师批改作业。
- 题目 + 答案 = 带标签的训练数据
- 批改 = 训练过程
- 独立解新题 = 预测
两个基本任务:
- 回归:用身高预测体重——拟合一条直线,输出连续数值
- 分类:判断垃圾邮件——输出所属类别
有个容易搞混的点:逻辑回归名字带「回归」,但实际是做分类的。它输出 0~1 的概率,超过阈值判正类。
四、深度学习的三部曲
神经网络的灵感来自生物神经元——树突接收、细胞体处理、轴突传递。人工神经元把这个过程抽象成:
输入 × 权重 → 求和 + 偏置 → 激活函数 → 输出
本质就是加权求和 + 非线性变换。
训练分三步:
- 正向传播:输入逐层加权求和 + 激活,算出预测
- 损失函数:衡量预测与真实的差距(回归用 MSE,分类用交叉熵)
- 反向传播 + 梯度下降:误差反向传递,算出每个权重的梯度,沿梯度反方向更新
课上的比喻是蒙眼下山找最低点——你看不见全局,只能感知脚下的坡度,朝着下坡方向迈一步,步长就是学习率。
五、几个必须搞懂的概念
过拟合 vs 欠拟合
| 训练集 | 测试集 | 问题 | |
|---|---|---|---|
| 过拟合 | 99% | 65% | 把噪声也记住了,泛化不行 |
| 欠拟合 | 差 | 差 | 模型太简单,没学到规律 |
过拟合像死记硬背的学生——原题会做,换个数就懵。
解决过拟合的优先级是:获取更多数据(最有效)→ 数据增强 → 正则化 → Dropout → 早停。注意第一条排在最前面,很多人一上来就调正则化系数,其实加数据的收益大得多。
数据集三件套
训练集 60~70% 用来学习
验证集 10~20% 调超参数,防止「作弊」
测试集 10~20% 最终评估,模型从没见过
一句话记住:数据质量 > 模型复杂度。
参数 vs 超参数
- 参数:训练中自动调整的(权重、偏置)
- 超参数:训练前人工设定的(学习率、层数、批次大小、训练轮数)
调超参数是工程师的核心技能之一——这部分没有公式可套,全靠实验。
六、关于这个行业
课程最后一部分讲行业和职业规划,有几点我记下来了。
AI 会淘汰程序员吗? 课上的说法是:不会,但会用 AI 的程序员会淘汰不会用的。被替代的是重复性高、逻辑简单的代码;被增强的是复杂架构设计、业务理解、调试排错。
成为 AI 工程师需要五种能力:数学基础、编程能力、ML 理论、工程能力、软技能。其中我觉得对我这种转行的人最重要的一句是——
数学基础不用会推导论文,理解模型背后的直觉即可。
几个避坑提醒:
- 别光看课程不动手
- 不用追求 100% 理解再写代码
- 项目经历比竞赛证书更有说服力
第三条对我影响挺大的,后面这 18 周我基本每周都会写一份实验报告,就是这个原因。
这周的收获
第一周没写多少代码(就跑了个 torch.cuda.is_available() 确认环境),但两个概念框架立起来了:
- AI/ML/DL 的层级关系,以及为什么现在是深度学习的时代——算力、数据、算法缺一不可
- 机器学习的本质是用数据反推规则,而不是人工写规则
作为后端转过来的人,最大的思维转变是:以前写代码是「我告诉计算机怎么做」,现在是「我给它数据和答案,让它自己找方法」。这两种思路的调试方式完全不同——前者看日志找逻辑错误,后者看指标找数据问题。
下周开始进正题:深度学习原理,从数学基础一路推到反向传播。