学人工智能DeepLearning必看书是什么?
如果你没听说过“花书”,那么说明你对深度学习了解的还不够深入
这本由麻省理工学院推出的《深度学习DeepLearning》简明扼要的概括了深度学习中大部分重要主题,每当遇到深度学习概念时,都可以在书中找到参考,故被广大学员们誉为深度学习中的“圣经”教材
对AI学习者来说,《深度学习》适合各类读者阅读,包括相关专业的大学生或研究生,以及不具有机器学习或统计背景、但是想要快速补充深度学习知识,以便在实际产品或平台中应用的软件工程师。
花书的内容包括3个部分:
第1部分:介绍基本的数学工具和机器学习的概念,它们是深度学习的预备知识;
第2部分:系统深入地讲解现今已成熟的深度学习方法和技术;
第3部分:讨论某些具有前瞻性的方向和想法,它们被公认为是深度学习未来的研究重点。
我想你肯定早就想读它了,但你是不是因为怕难而中途放弃呢?
你说:这本书太厚了,多页,知识量太多,不知哪些是重点,全部看完耗时耗力
你说:这本书也太难了,啃不动,也没有人一起分享讨论
你抱怨:太理论了,全是公式,没有代码,没有作业,无法加深理解
其实真想的学好深度学习,最好还是要啃完这本书,它能帮你夯实理论功底,让你在这条路上走得更远!
为了帮助大家更好的理解这本书,我们深度之眼联合六位经验丰富的导师,独家推出了花书系统视频课讲解,帮助大家更好的读懂这本书!《深度学习》花书训练营加入训练营,你将获得1提供系统视频课讲解针对书本中数学基础到机器学习、深度学习的理论,我们给大家提供了系统的视频讲解,让你彻底搞懂理论知识
2提供企业项目实战讲解导师还融入书籍内容,加入了企业项目中应用的技巧和项目经验,作为课题补充,助你内化所学知识
3提供作业视频战讲解我们对作业进行了详细解答,再结合助教批改,让我们知其然更知其所以然
4提供论文代码精读讲解不仅如此,我们在这本书系统完善理论知识的基础上还加入了论文代码精读讲解以及论文带读讲解!让你理论+实战同时得到训练
5学习任务整体规划一本花书,多页,全部啃下来非常的难,因此我们进行了重新的梳理,并进行了顺序重组,精心安排了每天详细的教学计划和任务,对2个月进行整体规划,每日任务布置+打卡监督+每阶段作业批改点评讲解
//教学大纲//Week1
花书第一章——第四章(掌握数学基础)
矩阵的对角化分解,以及一般矩阵的svd分解,以及应用
PCA算法推导
逆矩阵以及伪逆举证,线性回归,最小二乘估计,最小范数估计
极大似然估计,误差的高斯分布与最小二乘估计的等价性
最优化,无约束,有约束,拉格朗日乘子的意义,kkt松弛条件
作业:
参考Notebook,温习线性代数
列出花书前四章必须要掌握的十个知识点,附带上自己的学习心得一元线性回归的基本假设有哪些?
Week2
花书5.1-5.4,花书5.5-5.7.1
机器学习算法基本概念,
回归与分类任务,欠拟合过拟合,模型选取交叉验证
极大似然估计,贝叶斯估计
作业:
了解bias-variancetradeoff
根据图示判断算法建模情况
通过梯度下降算法最小化负对数似然求解逻辑回归
交叉验证的基本流程是什么?最大似然估计与贝叶斯估计的区别有哪些?
Week3
花书5.7.2-5.7.3章
监督学习:逻辑回归,SVM,LDA,决策树
非监督学习:PCA,kmeans
梯度下降,随机梯度下降
作业:
硬间隔支持向量机推导
举几个例子说明不同聚类方法的应用场景。
比较随机梯度下降与批梯度下降
Week4
花书第6章
前馈神经网络的基本概念,XOR
基于梯度的学习,代价函数(MSE,CE),以及输出单元,求导
神经网络的隐层,各种非线性变换,以及求导
前向传播与反向传播算法,以及参数更新
作业:
为什么在神经网络中加入非线性是必须的?
完成softmax输出单元cross-entropy损失函数的梯度推导。
写出下列每个激活函数的表达式及其导数
完成?个反向传播实例
Week5
花书第7、8章
视频课(第七章):
1.参数正则化
2.数据集增强,噪声鲁棒性
3.半监督,多任务
4.提前终止,参数共享,稀疏矩阵
5.dropout
6.数据增强,simu
7.bagging
视频课(第八章):
1.局部极小,病态,梯度悬崖,梯度爆炸与消失
2.momentNAG
3.自适应学习率,adagrad,adam
4.二阶方法,牛顿,拟牛顿,共轭梯度
5.batchnorm
6.监督预训练
作业:
?公式说明为何L2正则化?常被称作“weightdecay”
为什么在神经?络中,dropout可以起到正则化的作??
什么时候适合?Adam?RMSProp?SGD?
Week6
花书第9章
卷积神经网络
局部感知权值共享
经典论文带读
CNN用于句分类--第一篇真正意义上的神经网络用于文本分类之作《ConvolutionalNeuralNetworksforSentenceClassification》论文讲解
ResNet网络结构《DeepResidualLearningforImageRecognition》论文讲解
作业:
卷积操作的本质特性包括稀疏交互和参数共享,具体解释这两种特性及其作用。
关于最大池化层,选出给出的选择正确项。
完成卷积神经网络的经典习题
Week7-Week8
花书第10章
具有时序性的任务,时间依赖性
RNN与双向RNN的结构,前向与反向算法,梯度爆炸与梯度消失
LSTM与biLSTM的结构,前向与反向算法
GRU与biGRU的结构,前向与反向算法
讲解和分享实际案例
作业:
画出图10.13c的展开图
可以完成给定任务的RNN计算图
参考博客,了解随时间反向传播在LSTM中的推导
Week9
实际工作中的一些经验以及前沿技术介绍与分享
多GPU并行计算
模型的压缩与加速
知识蒸馏
作业:
观看深度学习最新进展视频,总结几条你认为深度学习最有潜力的发展方向
复盘所学到的知识,构建自己的机器学习和深度学习知识框架
不仅如此,你还能获得1三维度答疑1:赠送价值元知识星球为期一年1对1导师咨询服务,12小时之内保证解决问题
2:每月统一收集问题直播答疑,系统讲解重难点
3: