该仓库面向SJTU SE-125 机器学习 的期末考试
这个仓库主要记录了个人根据老师提供的考纲文档 整理的笔记。 其中大部分都是根据文档上网查阅资料并copy的,夹带有一定私货。 仓库中整理的文档与老师上课的slides关系不大(因为我真的看不懂那么多公式推导)。希望这些文档可以给自己和大家都带来一些帮助。
12.23 创建仓库 ,更新至 14.深度卷积神经网络(未开始)
12.24 基本全部完成,但是强化学习和集成学习感觉很迷。可能整理的也不太好,还需要完善。 同时更新了PDF版本,便于查看和打印
提供者:顾小东老师
教学内容 | 要点 |
---|---|
机器学习导论 | 机器学习概念、核心要素、分类及一些重要概念如泛化、过拟合、数据划分等 |
数学基础知识回顾 | 频率主义和贝叶斯主义,贝叶斯公式,梯度 |
线性回归 | 原理和基本公式,基本的矩阵形式和结果 |
概率参数估计 | 极大似然估计要理解原理,了解常用的共轭分布 |
贝叶斯分类 | 贝叶斯网络原理,朴素贝叶斯原理 |
线性判别分析 | 生成式模型和判别式模型、判别式分类器原理 |
支持向量机与Kernel技术 | 理解最基本的SVM的优化目标,kernel基本原理了解 |
逻辑回归 | 理解原理 |
多层感知机 | MLP概念、优点,激活函数,理解误差反向传播 |
参数优化理论 | 理解几个概念:在线学习和离线学习,SGD |
应用:基于神经网络的词向量建模 | 知道词向量原理,会在实际场景下想到用word2vec解决问题 |
深度循环神经网络 | 深度学习的概念、表征学习、端到端学习,理解为什么深度学习比浅层学习要好。 RNN和LSTM的概念,梯度爆炸和消失,Sequence-to-Sequence Learning的模型结构和原理, Attention的原理, Transformer的模型结构, BERT原理 |
深度卷积神经网络 | 卷积神经网络的工作原理,几个重要概念如pooling, dropout |
无监督 | K-means原理、算法过程、初始点选取 |
生成式模型 | 了解GAN,VAE的原理,知道应用场景 |
强化学习 | 强化学习原理 |
集成学习 | 了解集成学习的原理 |
-
https://mmdeeplearning.readthedocs.io/zh/latest/overview/concept.html
https://zhuanlan.zhihu.com/p/71952151
-
https://zhuanlan.zhihu.com/p/84137223
https://baike.baidu.com/item/%E8%B4%9D%E5%8F%B6%E6%96%AF%E5%85%AC%E5%BC%8F
-
https://baike.baidu.com/item/%E6%9E%81%E5%A4%A7%E4%BC%BC%E7%84%B6%E4%BC%B0%E8%AE%A1
-
https://www.zhihu.com/question/20446337
https://baike.baidu.com/item/%E7%BA%BF%E6%80%A7%E5%88%A4%E5%88%AB%E5%88%86%E6%9E%90/22657333
-
https://zhuanlan.zhihu.com/p/49331510
《机器学习》 周志华
-
https://zhuanlan.zhihu.com/p/23937778
https://www.jiqizhixin.com/graph/technologies/7332347c-8073-4783-bfc1-1698a6257db3
-
https://blog.csdn.net/weixin_42267615/article/details/102973252
https://www.jianshu.com/p/37223e45c838
https://www.jiqizhixin.com/graph/technologies/8e284b12-a865-4915-adda-508a320eefde
-
https://baike.baidu.com/item/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/3729729
https://baike.baidu.com/item/%E8%A1%A8%E5%BE%81%E5%AD%A6%E4%B9%A0/2140515
https://www.zhihu.com/question/50454339/answer/257372299
-
https://www.cnblogs.com/XDU-Lakers/p/10553239.html
https://www.jianshu.com/p/80436483b13b
-
https://www.jianshu.com/p/4f032dccdcef
-
https://bdqfork.cn/articles/46
https://baike.baidu.com/item/%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0/2971075
18.https://www.cnblogs.com/WayneZeng/p/9290696.html
Easteregg:https://www.jiqizhixin.com/graph/technologies/24d01e28-ce75-41a6-9cc2-13d921d8816f