Giter Club home page Giter Club logo

datawhalechina / leedl-tutorial Goto Github PK

View Code? Open in Web Editor NEW
10.0K 10.0K 2.6K 289.68 MB

《李宏毅深度学习教程》(李宏毅老师推荐👍),PDF下载地址:https://github.com/datawhalechina/leedl-tutorial/releases

License: Other

Jupyter Notebook 100.00%
bert chatgpt cnn deep-learning diffusion gan leedl-tutorial machine-learning network-compression pruning reinforcement-learning rnn self-attention transfer-learning transformer tutorial

leedl-tutorial's Issues

在回归-演示中的代码

在创建线性回归的代码中,在给了w和b动态学习的代码那一块,更新参数的时候,应该是b_grad=b_grad-2.0*(y_data[n]-b-wx_data[n])1.0 而代码中写的是b_grad=b_grad-2.0(y_data[n]-n-wx_data[n])*1.0
基于-n的情况,在绘制最后的损失函数图的时候,图像不会去向X点

有整合的pdf吗

有没有整合的pdf啊,因为更习惯看pdf,可以自己标注重点啥的

校正P37

如何解决RNN梯度消失或者爆炸
-其他方式
如果你说一般train的方法initiaed weight是(这个单词没懂)

上面没懂的单词应该是 random ,老师想说的是训练的时候权重初始化方法不是随机的而是用单位阵,使用RELU会有比较好的效果。

评论时登录Gitalk回调报错

主成分分析那里出现问题

image
这里应该出错了,应该是下面这样
image

image
还有这里应该是c_1 u^1 component 加上c_2 u^2 这个component

image
“所以”应该在句首

p4回归-演示代码错误

b_grad=b_grad-2.0*(y_data[n]-n-wx_data[n])1.0
应该是
b_grad=b_grad-2.0
(y_data[n]-b-w
x_data[n])*1.0

上下两个代码都错误了

改进建议

希望作者对笔记内容进行审校,有非常多的简单错误。
image
这句话明显说反了

P40 说出为什么“我知道”小节内容有误

今天我们看到各式各样机器学习非常强大的力量,感觉机器好像非常的聪明,过去有个例子神马汉斯,聪明到可以计算数学题,甚至可以解开根号的问题。 人们觉得非常的惊叹,不要有任何的观众,让马来解决问题,之前他是学到了旁边人的反应,然后停下来踏蹄。 今天我们看到的机器学习成果,它真的那么聪明吗?会不会它跟汉斯一样,用了非常奇怪的方法来得到答案。

加粗部分,有内容遗漏,应该是 但是如果没有任何观众,让马来解决问题,马就会一直原地不停踏步。所以之前马能回答问题只是学到了旁边人的反应。 这类意思

交叉熵定义勘误

在logistic回归那节里面

假设有两个分布 p 和 q,如图中蓝色方框所示,这两个分布之间交叉熵的计算方式就是 H(p,q)H(p,q);交叉熵代表的含义是这两个分布有多接近,如果两个分布是一模一样的话,那计算出的交叉熵就是0

我认为更准确的说法是:当两个分布一模一样,计算出来的cross-Entropy等于entropy。在机器学习的分类问题里面,等于真实分布时,-1log(1)=0,其他项都是0,这时候才会出现cross-Entropy=Entropy=0的情况

P3 回归关于w的移动问题

笔记中说:根据斜率判定移动的方向
大于0 向右移动(增加w)
小于0 向左移动(减少w)
应该是
大于0 向左移动(减少w)
小于0 向右移动(增加w)

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.