09 · 第 9 讲：非参数模型——决策树与支持向量机
北京大学《机器学习概论》（2026 秋）的课程笔记。本篇依据第 9 讲《非参数模型》课件整理。 前面学的线性模型先规定函数大致长什么样，再从数据里估计少量参数。这一讲换一种思路：决策树不断切分
机器学习概论共计 9 篇文章
2026
08 · 第 8 讲：序列神经网络模型
北京大学《机器学习概论》（2026 秋）的课程笔记。 第八讲：读到一句话的末尾时，模型该怎样记住前面的词？如果前文很长，能不能直接去找当前最相关的位置？ RNN 和注意力分别回答了这两个问题，
机器学习概论07 · 第 7 讲：卷积神经网络
北京大学《机器学习概论》（2026 秋）的课程笔记。 第七讲：一张图片里，同一条边缘出现在左上角或右下角，识别它真的需要两套完全不同的参数吗？ 卷积网络的想法是让同一个小滤波器在整张图上移动。
机器学习概论06 · 第 6 讲：多层感知机与神经网络训练
北京大学《机器学习概论》（2026 秋）的课程笔记。 第六讲：线性模型学不出弯曲的边界，可以先手工设计复杂特征。但如果特征也交给模型学习，会发生什么？ 多层感知机给出了答案，同时带来了新的问题
机器学习概论05 · 第 5 讲：线性回归、正则化与贝叶斯回归
北京大学《机器学习概论》（2026 秋）的课程笔记。 第五讲：回归任务要预测连续的数。拟合数据时，我们为什么常用平方误差？如果特征太多，又怎样让模型不被训练样本带偏？
机器学习概论04 · 第 4 讲：Logistic 回归与判别模型
北京大学《机器学习概论》（2026 秋）的课程笔记。 第四讲：上一讲先估计每类数据的分布，这次直接估计“给定这个样本，它属于某类的概率”。 为什么一个线性模型可以输出概率？它的损失又为什么恰好
机器学习概论03 · 第 3 讲：生成模型与生成式分类
北京大学《机器学习概论》（2026 秋）的课程笔记。 第三讲：假设要根据一封邮件里出现的词判断它是不是垃圾邮件。可以先问“垃圾邮件通常会出现什么词”，再反过来判断新邮件属于哪一类。 这一讲的生
机器学习概论02 · 第 2 讲：统计推断方法
北京大学《机器学习概论》（2026 秋）的课程笔记。 第二讲：已知抛硬币的结果，怎样估计它正面朝上的概率？如果只抛了几次，估计值又该信多少？ 这两个问题会把我们带到最大似然、先验和后验分布。
机器学习概论01 · 第 1 讲：课程简介与机器学习概述
北京大学《机器学习概论》（2026 秋）的课程笔记。 第一讲：先想一个问题，机器在训练集上表现很好，就算“学会”了吗？ 后面反复会遇到训练误差、测试误差和模型容量，所以先把它们的关系理清。
机器学习概论