机器学习经典算法必修课：从线性回归到梯度下降的实战指南

1. 为什么经典算法是机器学习绕不过去的地基这几年带过不少想入行机器学习的新人也经常被朋友问同一个问题现在大模型这么火动不动就是Transformer、扩散模型我还有必要从头啃那些经典AI算法吗我的回答从来很直接有必要而且非常有必要。经典算法不是一个可以被跳过的旧章节而是整个机器学习体系的骨架。线性回归、决策树、SVM这些看起来朴素的方法恰恰是把“数据—特征—模型—评估”这条完整链路讲得最清楚的教学载体。你把这套链路吃透了再去碰深度学习只是换个函数的骨架思考问题的框架根本没有变。我最近完整跟完了一门叫《机器学习必修课经典AI算法与编程实战》的课主讲是梗直哥瞿炜。说实话一开始我是抱着补漏的心态去的毕竟工作里天天用scikit-learn和深度学习框架很多底层的经典算法早就还给老师了。但整个跟下来我发现这门课最大的价值不是教你几个模型而是帮你把所有算法按“解决什么问题”重新排了一遍并且每一个算法都配了可以一行一行跟着写的Python代码。这篇文章就是我从这门课里提炼出来的学习笔记和实战复盘希望对你也有用。1.1 先建立算法地图监督、无监督和强化学习到底在解决什么很多人学AI容易陷进细节今天研究这个损失函数收敛不了明天调那个超参数效果不对学了一两个月脑子里还是一团浆糊。我见过太多这样的案例了。问题不是不努力而是没有先建立一张算法地图。经典机器学习算法通常按任务类型分为三大类。监督学习训练数据自带标签模型学习的是从输入特征到输出标签的映射。比如你有一堆房屋的面积、地段、房龄还有对应的成交价你要学的就是“用特征预测价格”的函数。这一类包括线性回归、逻辑回归、决策树、支持向量机、K近邻、朴素贝叶斯以及随机森林和GBDT这些集成学习模型。无监督学习训练数据没有标签模型要从数据本身的结构里找规律。典型任务包括聚类把相似的样本自动归到一组和降维把高维数据压缩成低维表示而不丢失太多信息。K-Means和PCA就是这里的主角。强化学习智能体通过和环境不断交互、试错按照累积奖励最大化的原则学习策略。它的核心概念是状态、动作、奖励。目前在游戏AI、机器人控制这类顺序决策场景里用得比较多经典算法课程里通常会讲Q-Learning作为入门。把这三大类分清楚之后你再看算法清单就顺多了。我特意整理了一张表学任何一个算法之前先看一眼它属于哪一格、解决什么任务算法所属类别核心思想典型应用场景入门难度线性回归监督·回归用一条直线或超平面拟合特征与目标的关系房价预测、销量预测低逻辑回归监督·分类在线性回归基础上套Sigmoid函数输出概率信用评分、点击率预估低决策树监督·分类/回归通过特征划分不断把样本分得更“纯”风控规则、客户流失分析中朴素贝叶斯监督·分类基于贝叶斯定理假设特征相互独立文本分类、垃圾邮件过滤低K近邻KNN监督·分类/回归离谁近就属于谁投票或平均出结果推荐系统、图像分类小样本场景低支持向量机SVM监督·分类/回归找一个间隔最大的分类超平面文本分类、图像识别高K-Means无监督·聚类按距离把样本分成K簇迭代更新簇中心用户分群、图像压缩中PCA无监督·降维把数据投影到方差最大的方向上数据可视化、特征压缩中随机森林集成学习训练多棵决策树投票或平均出结果表格数据建模利器中GBDT/XGBoost集成学习用加法模型串行训练多棵弱决策树每棵拟合残差搜索排序、金融风控高这张表看起来平淡无奇但价值在于它让你每次都先回答“我在解决什么任务”再去想“用什么算法”。大多数人学完之后依然迷茫就是因为把顺序搞反了。1.2 必修清单里的经典算法每学一个要回答三个问题跟完这门课之后我有一个很强烈的感觉经典算法之间不是孤立的而是有一条清晰的递进链条。线性回归是逻辑回归的基础因为逻辑回归就是在线性回归的式子外面套了一个Sigmoid函数决策树是随机森林和GBDT的基础因为后者本质上就是一堆决策树的不同组合方式KNN能帮你建立对距离度量的直觉而距离和相似度又是K-Means聚类的前提。理解这条链条比单独记住每一个算法的公式重要得多。我建议学每一个算法时都强制自己回答三个问题答不上来就回去翻资料。第一个问题这个算法到底在解决什么问题很多人上来就背逻辑回归的损失函数却说不清它解决的是分类问题还是回归问题。逻辑回归名字里带“回归”实际是分类模型输出的是样本属于某一类别的概率。这个问题搞不清楚后面全乱套。第二个问题它的核心假设是什么模型不是万能的每个算法都有隐含前提。线性回归假设特征和目标之间存在线性关系朴素贝叶斯假设特征条件独立虽然真实场景里几乎不成立但文本分类里却很能打KNN假设“相似的样本在特征空间里离得近”。一旦真实的业务数据不满足这些假设再复杂的调参也救不回来。第三个问题它最容易在哪里翻车每个算法都有一个或几个软肋。线性回归对异常值极其敏感一个极端值就能把拟合直线拉偏K-Means需要预先指定簇数K而且对初始中心点敏感SVM在样本量很大的时候训练速度会变得很慢决策树单棵树很容易过拟合所以实战里才需要随机森林和GBDT这样的集成方法把它们“稳住”。提前知道软肋以后遇到实际数据你就知道该在哪个环节多留个心眼。这一章还给我补了一个重要的盲区——SVM里的核函数。以前我总觉得核函数是某种玄学把它理解为“在低维空间计算、在高维空间分类”的数学技巧。课程里用了一个例子一维空间里两类样本交缠在一起无法用阈值分开但把它们映射到二维空间之后一条直线就能完美切分。这个例子让我一下子明白了特征变换的意义后来学神经网络的隐藏层时发现本质上也是在做类似的事情只不过神经网络自己学这个变换不用你手工设计核函数。2. 让数学公式长出可运行的代码从理论到实战的跨越经典算法最大的学习障碍是教材里那一堆求和符号和偏导数。很多人被吓退的原因不是算法本身难而是不知道这些符号怎么变成一行行能跑的代码。这门课做得比较好的地方是每个算法都先讲数学直觉再给出最小可运行的Python实现让你亲眼看着公式变成一个能出结果的对象。我自己在学习和带新人的过程中也摸索出了一套方法下面这三个环节是无论如何都绕不开的。2.1 梯度下降手推一遍比调一千次参都管用如果你问我机器学习里最重要的一行知识是什么我的答案一定是梯度下降。不管是线性回归的闭式解还是深度学习里千亿参数的模型训练过程的底层几乎都可以归约成“定义一个损失函数 用梯度下降做优化”。所以真正吃透机器学习不是学会在sklearn里调用LinearRegression而是能自己实现一遍梯度下降。下面这段代码是最小版本的线性回归训练我不建议你直接复制跑完就完事而是打开一个Jupyter Notebook把每一步的shape变化、梯度公式来源都想清楚。import numpy as np rng np.random.default_rng(42) X rng.random(100) * 10 # 生成100个特征值范围[0, 10) true_w, true_b 2.5, 1.0 # 设定真实的参数 y true_w * X true_b rng.normal(0, 1.0, 100) # 加噪声模拟真实数据 w, b 0.0, 0.0 # 参数初始化 lr 0.01 # 学习率 losses [] for epoch in range(500): y_pred w * X b # 前向传播计算预测值 loss np.mean((y_pred - y) ** 2) # 均方误差 grad_w 2 * np.mean((y_pred - y) * X) # 对w求偏导 grad_b 2 * np.mean(y_pred - y) # 对b求偏导 w - lr * grad_w # 更新参数 b - lr * grad_b losses.append(loss) if epoch % 100 0: print(fepoch {epoch}, loss {loss:.4f}, w {w:.4f}, b {b:.4f}) print(ffinal: w{w:.4f}, b{b:.4f})最终你会发现w收敛到接近2.5b接近1.0说明模型确实从带噪声的数据里把真实规律学回来了。运行这个循环的过程中有几个细节值得再想一遍为什么要对损失取均值而不是求和因为取均值之后梯度的量级不会随样本数量变大而变大后续调整学习率会更稳定。为什么求导之后有个系数2这是二次函数求导自然带出来的通常我们会把它合并进学习率里不用过分纠结。最需要调的是学习率lr。你把lr改成0.1跑一次大概率看到loss直接炸到天文数字这说明步子迈太大在最小值附近反复横跳甚至发散改成0.0001再跑一次loss下降慢得像蜗牛500轮根本不够用。这个过程亲手试一遍比背十遍“学习率太低收敛慢、太高会震荡”都有用。2.2 向量化不是炫技是性能差距的根源第一次写梯度下降用for循环是完全正常的。但如果你跑过真实的数据集就会发现Python的for循环慢到让人崩溃。这时候就该体会一下向量化的威力了。举个最简单的例子计算两个长度100万的向量的点积。import time import numpy as np n 1_000_000 a np.random.rand(n) b np.random.rand(n) t0 time.time() c sum(ai * bi for ai, bi in zip(a, b)) # 纯Python循环 t1 time.time() d np.dot(a, b) # NumPy向量化 t2 time.time() print(fPython loop: {t1 - t0:.4f}s) print(fNumPy dot: {t2 - t1:.4f}s) print(np.allclose(c, d))在我自己的机器上这个差距大概是几十倍甚至上百倍。NumPy之所以快是因为底层调用的是经过高度优化的C/Fortran库并且利用了SIMD指令和连续内存布局而Python原生循环每走一次都要做对象解析和类型检查每一步都背着沉重的解释器开销。真实训练数据动辄几十万条特征几十上百个如果这些计算全部用Python层循环实现一次迭代可能就要等几分钟。所以从第一天写代码开始就要有意识地用向量化思维替代循环思维把对数组的操作看成对“整体”的操作而不是对“每一个元素”的操作。2.3 Python生态下的最小实战闭环编程实战环节离不开Python科学计算生态里的这几件套NumPy负责数值计算Pandas负责数据清洗和变换Scikit-learn负责模型训练和评估Matplotlib负责把结果画出来看。这门课里不断强调的是“先手写、再调库”我特别认同这个顺序。拿线性回归来说你先用2.1节的方式手写梯度下降把这个过程走通了再用一行LinearRegression做同样的事心里就会清楚这个类背后大概发生了什么。这时候再用scikit-learn你就是在“调用工具”而不是“调用魔法”。有太多人上来就from sklearn import xxx模型跑出来一个分数问他分数怎么来的、参数代表什么一概不知。这种学习方式在面试和实际业务里会非常吃亏因为真实场景没有现成答案你要能判断一个模型输出来的是不是合理出了问题要知道去排查哪一环。最小实战闭环一般长这样用Pandas读入数据、做缺失值检查用Matplotlib画几个分布图看看特征然后划分训练集和测试集用Scikit-learn的Pipeline串联标准化和模型训练最后输出评估指标。这套流程无论以后做表格数据还是做深度学习骨架都不会变。把这套闭环练熟了你才算是真正进了机器学习的大门。3. 两个能写进简历的经典项目从零到可部署经典算法光看是不够的一定要落到项目上。我见过太多简历里写“熟悉机器学习算法”问起来却一个完整的建模流程都说不完整。这里分享两个我从课程里得到启发后自己完整跑过的项目都不需要GPU普通笔记本就能跑但该有的步骤一个不少。3.1 项目一用线性回归预测房价把特征工程做扎实房价预测是回归任务里的“Hello World”但不同人做的深度完全不同。我建议不要再用波士顿房价数据集那个数据集因为存在一些伦理争议已经被很多库移除了。用scikit-learn内置的加州房价数据集就很好包含了加州各街区的收入中位数、房龄、房间数等特征目标是预测房价中位数。关键的处理步骤大概是这样的import pandas as pd from sklearn.datasets import fetch_california_housing from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler from sklearn.linear_model import LinearRegression from sklearn.metrics import mean_squared_error, r2_score data fetch_california_housing() df pd.DataFrame(data.data, columnsdata.feature_names) df[MedHouseVal] data.target print(df.isnull().sum()) X df.drop(MedHouseVal, axis1) y df[MedHouseVal] X_train, X_test, y_train, y_test train_test_split( X, y, test_size0.2, random_state42) scaler StandardScaler() X_train_scaled scaler.fit_transform(X_train) X_test_scaled scaler.transform(X_test) # 注意这里只transform不重新fit model LinearRegression() model.fit(X_train_scaled, y_train) y_pred model.predict(X_test_scaled) rmse mean_squared_error(y_test, y_pred, squaredFalse) r2 r2_score(y_test, y_pred) print(fRMSE: {rmse:.4f}) print(fR2: {r2:.4f})这里有个非常关键的细节StandardScaler只能用训练集去fit然后用同一个scaler去transform测试集千万不能在划分数据之前就对全量数据做标准化。为什么因为如果先用全量数据的均值和方差去缩放测试集的分布信息就已经悄悄进入了预处理环节这会让你的评估结果偏乐观。这种情况在机器学习里有个专门的名字叫数据泄露后面第四部分我还会详细展开。做这个项目的时候不要只看RMSE这一个指标。你可以试着把真实值和预测值画在一张散点图里如果点大致分布在对角线上说明模型整体拟合得不错如果明显呈现“预测值偏低时高估、偏高时低估”的喇叭形分布那可能意味着数据存在异方差性或者有些非线性关系没有被线性模型捕捉到。这时候就可以试试给特征加多项式项或者直接上决策树和随机森林对比一下效果。3.2 项目二用KNN和SVM识别手写数字理解分类器的决策边界第二个项目我建议做图像分类的入门题手写数字识别。这里不用上深度学习经典算法在经典数据集上已经能拿到很好的效果而且计算成本低方便你这个阶段理解分类器是怎么工作的。scikit-learn内置的digits数据集尺寸更小、加载更快适合练习想挑战更大数据量的可以用MNIST。用KNN识别手写数字的代码非常直观from sklearn.datasets import load_digits from sklearn.model_selection import train_test_split from sklearn.neighbors import KNeighborsClassifier from sklearn.metrics import classification_report, confusion_matrix digits load_digits() X_train, X_test, y_train, y_test train_test_split( digits.data, digits.target, test_size0.2, random_state42) knn KNeighborsClassifier(n_neighbors3) knn.fit(X_train, y_train) y_pred knn.predict(X_test) print(faccuracy: {knn.score(X_test, y_test):.4f}) print(classification_report(y_test, y_pred))这里建议你动手改两个东西观察效果一是n_neighbors取1、3、5、10、20时准确率怎么变化二是把数据标准化之后再跑一遍准确率有没有提升。KNN依赖距离计算不同特征的量纲如果差异很大距离就会被大数值特征主导所以标准化对KNN、SVM这类基于距离或几何间隔的算法几乎是必须的。跑完KNN之后可以再换SVM试试。用RBF核的SVM在这个任务上往往比KNN有更好的准确率但训练和调参的成本也上来了比如要调C和gamma。这时候你就能直观感受到“不同算法有不同复杂度”这句话的含义。KNN是典型的“懒惰学习”训练时几乎不做事但预测时要计算新样本和所有训练样本的距离样本量一上来预测速度会越来越慢SVM则是训练阶段费劲把决策边界找出来预测阶段只保留支持向量参与计算速度相对快。3.3 模型评估的坑只看准确率会被光鲜的数字骗了我在带新人的时候发现大家特别喜欢用accuracy准确率一个数字衡量所有模型。在数字识别这种类别分布均衡的数据集上准确率确实够用。但真实业务场景里类别不平衡的情况比比皆是信用卡欺诈样本占比可能不到1%广告点击率可能只有0.5%这时候准确率会变成非常具有欺骗性的指标。举一个极端例子10000个样本里有100个是正类你训练一个模型永远输出“负类”它的准确率是9900/1000099%。但你能说这个模型有价值吗显然不能因为真正关心的正类一个都没抓出来。这时候要看的是混淆矩阵、精确率Precision、召回率Recall和F1值。精确率关心“预测为正的里面有多少是真的正”召回率关心“真实正类里有多少被模型找出来了”。两个指标是彼此拉扯的F1是它们的调和平均用来做一个综合判断。指标关心的问题计算方式适用场景准确率 Accuracy整体上我猜对了多少(TPTN)/(TPTNFPFN)类别均衡时精确率 Precision我预测为正的结果里有多少是靠谱的TP/(TPFP)宁缺毋滥如垃圾邮件拦截召回率 Recall真正的正样本里我捞回了多少TP/(TPFN)宁错勿漏如癌症筛查F1值精确率和召回率的均衡2PR/(PR)类别不平衡场景做项目的时候第一步永远是先看正负样本比例再决定评估指标怎么选。这比任何调参技巧都重要。4. 机器学习入门最常见的五个翻车现场接下来这部分我精心挑了五个初学者几乎都会踩的坑。每一个都是我在实际学习和带人过程中亲眼见到过的甚至有些我自己也踩过。列的这些“翻车现场”不是劝退而是让你明白出了问题不要慌关键是要会排查。4.1 数据泄露测试集的信息混进了训练流程数据泄露可以说是最隐蔽也最严重的错误。它的本质是测试集的信息在训练阶段就被模型“看到”了导致训练和评估结果虚高但模型一旦部署到真实环境性能立刻暴跌。最常见的翻车现场有两个。第一个就是我在3.1里提到的对全量数据做标准化或者做缺失值填充然后再划分训练集和测试集。第二个更隐蔽在时间序列预测任务里用随机划分的方式把未来数据混进了训练集。假设你用去年一年的日活数据预测今天的值如果训练集里包含了部分未来日期的数据模型等于提前看到了答案评估结果当然好看但真到了生产环境一点用都没有。正确做法是一切预处理步骤都先在训练集上学习参数再把这套参数应用到测试集。对于时间序列要按时间顺序切分训练集永远在测试集前面。初学者在这个坑上摔几次完全正常关键是摔完之后要养成一个习惯每次建模前先问自己我这条数据管线里有没有哪一环不小心让信息从测试集溜到了训练集4.2 过拟合与欠拟合看训练曲线比看测试分数更有用过拟合是机器学习里最经典的问题大白话说就是“做题家型选手”对训练题答案倒背如流但一换新题型就歇菜。具体表现是训练集上误差很低验证集上误差却很高。欠拟合则相反训练集上都还没学好因为模型容量不够或者特征没有有效提取。判断这两种情况最直接的方法是看训练过程中的loss曲线。跑深度学习和训练复杂模型的时候把训练集loss和验证集loss画在同一张图里两条线都高是欠拟合训练线一路走低、验证线先降后升形成一个V型或U型这是典型的过拟合信号。看到验证loss在某一轮开始回升就该在那一轮附近做早停。解决过拟合的常规操作包括增加训练数据、降低模型复杂度、加正则化项L1/L2、用交叉验证来更稳定地评估。解决欠拟合的方向则反过来增加特征、提高模型复杂度、减少正则化强度。很多初学者一遇到模型效果不好就疯狂调学习率其实先判断一下是过拟合还是欠拟合往往能省下一大半时间。4.3 类别不平衡拿到的模型可能是个“摆设”接下来是类别不平衡问题这个问题在实际业务里比过拟合更常见。金融风控里违约样本很少医疗诊断里得病人群很少电商里购买转化很少。如果你不做任何处理模型学到的最简单策略就是“全部预测为多数类”因为这样整体loss最低但对业务来说毫无价值。处理类别不平衡有几条常规路线。数据层面可以下采样多数类或上采样少数类但要注意上采样不等于简单复制容易让模型对重复样本过拟合更稳的是用SMOTE这类合成少数类样本的方法。算法层面可以给少数类样本更高的权重在很多模型里就是设置class_weightbalancedsklearn里一行代码就能搞定。评估层面则回到3.3节的内容用精确率、召回率和F1去衡量而不是只看准确率。我特别想提醒的是不要一开始就上花哨的采样技巧。先尝试class_weight再考虑调阈值最后才是数据合成每一步都要在验证集上验证效果而不是凭感觉觉得“这样做更高级”。4.4 特征缩放与类别编码最基础的处理最容易出错特征缩放看似简单其实非常容易翻车。比如一个包含“年龄”和“年收入”的数据集年龄范围是0到100收入范围是1万到100万如果不做缩放距离类模型KNN、SVM里年龄特征几乎完全被收入特征淹没起不到任何作用。但在决策树和随机森林里特征缩放又不影响结果因为树模型做的是分裂阈值搜索不依赖距离计算。所以“用不用标准化”不是固定的而是要看算法类型。理解了这一点你就不会拿着同一个处理流程套所有模型了。类别特征的编码也有讲究。最简单的办法是把“红黄蓝”映射成0、1、2但这个做法隐含了一个错误的假设颜色之间有大小关系。更稳妥的做法是用独热编码把每个类别变成一列0/1。但如果类别特别多独热编码又会带来维度爆炸的问题那时候就要考虑用Embedding或者目标编码之类的进阶手段。这些取舍在课程里都有提到核心建议是先搞清楚每种方法的假设是什么再决定用不用。4.5 不设随机种子你的结果永远无法复现最后一个翻车现场技术含量不高但特别消耗时间。很多人在代码里不设置随机种子训练测试集的划分每次都不同模型的初始化每次也不同结果就导致同一个脚本今天跑出来准确率0.85明天变成0.82你根本不知道改动到底有没有效。正确的做法是在所有可能引入随机性的地方固定种子。比如用train_test_split时设置random_state42用NumPy生成随机数时设置np.random.seed(42)。这个习惯从第一天学机器学习就要养成。没有可复现性的实验一切调参都只是玄学。等到你后续做深度学习还要考虑怎么固定Dataloader的随机种子但原理都一样让每一次实验的初始状态可比较你才能真正判断一个改动是好是坏。5. 给自学者的路线与资源建议最后这部分我想把整条学习路线串起来给想系统入门机器学习的朋友一些实在的建议。很多人学了几个月半途而废不是因为笨而是因为路线不对、资源太杂今天看这个明天看那个最后什么都没学透。5.1 按这个顺序推进数学和代码同步补我结合自己的学习经历和带人经验把路线整理成了一个16周左右的计划。每天不用投入太多关键是保持节奏。时间段学习内容配套实践第1-2周Python基础 NumPy/Pandas用Pandas做一次数据清洗练习处理缺失值和重复值第3-4周数学基础线性代数、微积分、概率统计里的必要概念重点复习矩阵乘法、求导、贝叶斯公式不必钻研证明细节第5-8周监督学习经典算法线性回归、逻辑回归、决策树、KNN、SVM、朴素贝叶斯每个算法手写一遍核心步骤再用sklearn验证第9周无监督学习K-Means、PCA做一次用户分群实战画聚类前后对比图第10-11周两个综合项目一个回归项目房价预测 一个分类项目手写数字识别第12-13周集成学习随机森林、GBDT、XGBoost用集成模型重新跑第10-11周的项目对比效果第14周模型评估与调参系统学习交叉验证、网格搜索、学习曲线第15-16周复盘整理把代码整理成项目写好README和总结我特别想强调一点数学不用等学完了再开工也不要把时间全部耗在数学证明上。机器学习真正用得最多的数学知识就那么几个点——矩阵乘法、偏导数、概率分布和贝叶斯思想。边写代码边补数学是完全可行的甚至效率更高因为你看到了实际应用场景才知道某个数学概念到底解决什么问题。5.2 如何判断一门机器学习课值不值得跟现在网上机器学习的课一抓一大把质量参差不齐。我跟了不少课后总结出几个判断标准分享给你做参考。第一看有没有手写代码的环节。一门课如果从头到尾都只是讲概念、放现成的sklearn代码学完大概率还是不会。好的课程一定会带着你从零手写至少一遍核心算法哪怕是简化版的梯度下降这中间的过程就是理解算法的“最后一公里”。第二看有没有讲“为什么”和“踩坑经验”。只讲“这样做可以”的课是工具说明书能讲清楚“为什么这样做、不这样做会怎样、我之前踩过什么坑”的课才是经验分享。第三看有没有完整项目。作业题和项目是有区别的作业是考你知识点项目是考你综合能力包括数据清洗、特征工程、模型选择、评估分析全套流程。按这个标准回头看《机器学习必修课经典AI算法与编程实战》我能给它的定位是它不试图教你几天速成而是老老实实把经典算法这条路走通。每节课的代码都是可以逐行跟练的而且在关键的踩坑点比如数据泄露、特征缩放时机都有明确的提醒。如果要挑毛病它的深度学习部分覆盖得比较浅但这本来也不是这门课的重点——它的名字就把范围说清楚了经典AI算法与编程实战。你把它学完之后再去补深度学习衔接会舒服很多。5.3 学完经典算法再碰深度学习的优势在哪里最后聊一个很多人关心的问题不学经典算法直接上深度学习行不行我的答案是可以但你会缺很多底层直觉。深度学习虽然看上去和经典算法有很大的差异但很多核心思想是一脉相承的。你在经典算法里学到的过拟合和正则化在深度学习里一样存在只不过变成了weight decay和Dropout你学到的损失函数和梯度下降在深度学习里依然是小批量随机梯度下降的理论基础你学到的数据预处理和评估指标在深度学习里完全是同一套操作你学到的特征工程思维在深度学习里很大程度上被表示学习替代了但那种“先看看数据长什么样”的习惯依然不可或缺。我个人在实际项目里的体验是经典算法练出来的“手感”会让你在调深度学习模型时更有方向感。遇到问题了你知道大概率的可能原因在哪里模型不收敛了你能顺着数据、学习率、初始化、归一化这些方向去排查而不是像个无头苍蝇一样乱试参数。地基打不牢高楼盖得再高也心里发虚。先花一两个月把经典AI算法和编程实战这条路走扎实后面不管学什么方向你的学习速度都会快很多。